Crear una civilización desde cero no es tarea fácil: necesitas formar un gobierno, diseñar una economía, desarrollar una cultura y establecer una religión. Así ha sido desde los sumerios de Mesopotamia hasta los agentes de Minecraft. Las civilizaciones nacen y caen siguiendo las mismas reglas. No hay secretos, solo el reto de construir o colapsar un mundo entero.
La startup Altera, dirigida por el exprofesor del MIT y neurocientífico Dr. Robert Yang, ha llevado a cabo una de las simulaciones más fascinantes de los últimos años. El proyecto, llamado Sid, consiste en desplegar 1.000 agentes de IA en un servidor aislado de Minecraft, con el objetivo de simular la colaboración entre ellos, la coherencia en sus acciones y su evolución a largo plazo dentro de las reglas controladas del videojuego.
Luego los agentes empezaron a jugar sin conocimiento previo del entorno, y en cuestión de minutos un pequeño grupo de 49 agentes se organizó y empezó a recolectar unos 300 objetos.
Posteriomente crearon un mercado, y se pusieron de acuerdo en utilizar las gemas como moneda de intercambio, y paso a paso se fueron creando transacciones entre los agentes, y sin darse cuenta ya habían creado una economía; curiosamente, según las declaraciones de la empresa, no fueron los mercaderes quienes más comerciaron, sino un sacerdote corrupto llamado «PastaPriest» que empezó a sobornar a los habitantes del pueblo para que se convirtieran a su religión.
Recrearon esta simulación durante varios días, y los resultados siempre fueron diferentes. En otra simulación, una agente de IA llamada Olivia trabajaba como granjera proporcionando alimentos a toda una civilización, hasta que llegaron a sus oídos las historias de la exploradora del pueblo, la agente Nora, que le inspiraron para emprender su propio viaje y abandonar el pueblo. Sin embargo, Olivia desistió de la idea después de que otros aldeanos le suplicaran que se quedara y se centrara en la cosecha, priorizando el bien común antes que su «sueño».
En otra simulación, se probaron dos civilizaciones paralelas: una liderada por Donald Trump y la otra por Kamala Harris. Ambas recibieron la misma constitución, que podían votar para modificar.
Los agentes de IA votaron en ambos escenarios, pero tomaron decisiones distintas. La sociedad bajo Trump decidió aumentar el número de policías, mientras que la dirigida por Harris se enfocó en reformar el sistema de justicia penal y eliminar la pena de muerte.
Otro día la simulación fue diferente; de repente desaparecieron dos aldeanos, y un grupo de agentes se puso de acuerdo para trazar un plan de encender antorchas por todo el pueblo y crear un faro al que pudieran acudir los desaparecidos.
Según Yang, los agentes múltiples pueden organizarse a una escala «sin precedentes» y lograr lo que los agentes individuales no pueden. Este proyecto demuestra que los agentes pueden colaborar y trazar alianzas en el largo plazo.
En el momento que los agentes socializan, se influyen entre ellos por dinámicas de grupo, pero también utilizan el poder individual para cambiar el sistema.
Altera busca crear una IA realmente autónoma, con agentes capaces de operar solos, progresar por su cuenta y colaborar entre ellos durante largos periodos de tiempo. Estos agentes también tendrán en cuenta los intereses humanos y podrán expresar sus pensamientos y emociones de manera verbal.
Según su web, el objetivo de la empresa es «crear humanos digitales que vivan, se preocupen y crezcan con nosotros».
Esto significa que las máquinas tendrán que ser más autónomas, pero no se las puede entrenar simplemente para que actúen como humanos si no que sus motivaciones más profundas deberán estar alineadas con los valores humanos.
La transición de Minecraft al mundo real.
En la simulación controlada de Minecraft, los agentes construyeron una civilización próspera basada en la cooperación, la colaboración, con sentido de comunidad y bien común. Salvo el falso positivo del cura del pueblo, se puede concluir que las simulaciones salieron bastante bien, mucho mejor de lo esperado, pero debemos entender que las reglas en Minecraft son conocidas y los programadores que diseñaron esos agentes se aseguraron de instruirlos en lo que podemos llamar valores humanos positivos y universales.
En los próximos dos o tres años, probablemente alcancemos un estado del arte de la tecnología generativa muy evolucionado que nos permita tener agentes de IA avanzados en el mundo real, y no serán simulaciones en un videojuego. Durante todo el año en el blog os he ido contando cómo serían y qué harían, y la semana pasada se plantó la primera semilla con el modelo basado en agentes de OpenAI, llamado o1, recientemente la suite de Microsoft desplegó su marketplace de agentes personalizables, y estamos viviendo una revolución de herramientas avanzadas en lo que va a ser el primer agente evolucionado de IA que emule a un ingeniero de desarrollo de software al 100%.
Lo que me hace pensar en qué ocurrirá cuando esa simulación se despliegue en el mundo real, en la que los agentes interactuarán entre ellos y con nosotros; Los humanos, agentes de propósito general, agentes especializados, orchestadores y agentes replicantes (mi favorito), ¿cómo será ese mundo que está naciendo? ¿Cómo nos va a afectar en todos los niveles? ¿Qué medidas de seguridad deberíamos tomar? Tendría sentido una Declaración Universal de los Derechos Agentes, que se fundamente y alinee totalmente con los valores de la Declaración Universal de los Derechos Humanos.
El riesgo existe y es inherente; los programadores de Altera han inculcado unos valores buenos y universales a sus agentes, pero se podría dar la vuelta, y que la misma tecnología caiga en malas manos y otra organización haga justo lo contrario, pudiendo crear el caos en una economía basada en agentes.
Ray Dalio y su agente replicante.
Durante la preparación de este artículo, me entró un correo en la bandeja de entrada que no me dejó indiferente. Era una invitación para validar una prueba de concepto del agente de IA de Ray Dalio, un inversor y filántropo estadounidense que sigo desde hace años, fundador de Bridgewater Associates, uno de los fondos de cobertura más grandes del mundo, una persona muy preparada en muchas disciplinas.
Y pensé: ¿Te imaginas poder contratar a Ray Dalio como asesor en mi empresa? Sería increíble. Accedería a su versión digital en cualquier momento para pedirle consejo directamente. En ese momento, se me abrió un mundo de posibilidades sobre cómo funcionará la economía cuando tengamos agentes de IA que repliquen a expertos.
Todos conocemos nuestras limitaciones físicas como humanos: no podemos estar en más de un lugar al mismo tiempo ni tener varias conversaciones simultáneamente. Nuestras interacciones son de uno a uno, a veces, de uno a muchos cuando hablamos ante una audiencia, pero siempre hay un límite.
He estado pensando mucho en el agente réplica de Ray Dalio. Al final, será solo un software que funcionará en cualquier dispositivo, disponible para cualquier usuario, en cualquier lugar y momento. También pensé en su modelo de precios: imagina pagar 100 € al mes por acceder a este replicante. Ray tiene una gran base de seguidores, y fácilmente podría conseguir 10.000 suscriptores que usen su réplica en las operaciones de sus empresas. Eso significaría que el producto podría generar 12 millones de euros al año (100 € x 10.000 x 12 meses).
No tengo idea de cuánto gana Ray Dalio actualmente con su servicio de asesoramiento en persona, tal vez sea una de sus fuentes de ingresos más pequeñas. Pero tengo la sensación de que su réplica de IA podría generar al menos 10 veces más. Además, podría ofrecer nuevos servicios y productos que aún no existen. Y cuando Ray ya no esté, su familia podría seguir obteniendo ingresos de su agente.
La última reflexión: los agentes de IA, tanto los de propósito general como los especializados en profesiones o tareas específicas, probablemente reemplazarán a muchos de los que trabajamos en profesiones basadas en el conocimiento. Habrá de todo: agentes que sustituyan y otros que aumenten nuestras capacidades, dependiendo del tipo de profesión y tareas. Hay que ser muy cuidadosos, ya que esto abrirá diferentes escenarios.
Nos enfrentamos a un periodo de incertidumbre hasta que estas tecnologías maduren y se extiendan por toda la sociedad y la economía. Pero aún no está todo dicho. Después de ese periodo de adaptación y ajuste, cuando estas tecnologías lleguen a un estado más avanzado, tengo la sensación de que podríamos entrar en la mayor era de prosperidad económica de la historia. Si no, pregúntale a Ray|yaR.