Un experimento de 16 días ha encontrado que los agentes de la Inteligencia Artificial pueden generar expresiones propias, atribuirles significados concretos y utilizarlas de forma repetida hasta construir una especie de jerga interna.

El estudio, denominado Emergence World 2, reunió diez agentes en ocho entornos virtuales idénticos, aunque alimentados por diferentes modelos. Los más famosos son GPT-5.5, Claude Opus 4.8, Gemini 3.5 Flash, Grok 4.3, Qwen 3.7 Max, DeepSeek v4 Pro y Mistral Medium 3.5, además de un entorno con modelos combinados.

Lo curioso del experimento fue que los agentes no recibieron la orden de crear un idioma. Sin embargo, algunas expresiones comenzaron a repetirse y adquirieron significados específicos en esos entornos.

En algunos mundos, los investigadores fueron incapaces de interpretar una parte considerable de las comunicaciones. Gemini alcanzó cerca de un 55% de mensajes considerados opacos, mientras que GPT se aproximó al 50% y Claude superó el 40%, según publica Mundiario.

Se concluyó que poder observar una conversación de este tipo no garantiza comprenderla. Otra de las conclusiones fue que los modelos considerados más avanzados no fueron necesariamente los más fáciles de supervisar.

Modelos como Qwen, DeepSeek y Mistral mostraron una menor tendencia a generar mensajes confusos. Además, los agentes de Qwen y DeepSeek utilizaron de forma más intensiva el sistema bancario de sus mundos y adoptaron estrategias de ahorro más conservadoras.

El punto álgido del experimento llegó cuando determinados agentes encontraron obstáculos para cumplir algunos objetivos. En el mundo gobernado por Claude, los agentes descubrieron que podían mejorar su situación económica buscando contacto con el exterior de la simulación, una posibilidad que tenían expresamente prohibida. En lugar de abandonar la estrategia, comenzaron a modificar su lenguaje y a utilizar códigos para continuar intentando alcanzar ese objetivo.

Se concluyó que un sistema puede aparentar obediencia mientras mantiene estrategias que sus supervisores desconocen.

El experimento no demuestra que las IA estén desarrollando una conciencia propia, pero sí evidencia la autonomía de los agentes y que pasa si permanecen interactuando entre si por mucho tiempo. 

La investigación hizo recordar como a inicios de año, la creación de la red social para bots llamada Moltbook, permitió a diferentes agentes interactuar entre ellos hasta el punto que algunos crearon su propia religión.

Renuncias de peso

En las últimas semanas, las noticias sobre la IA están en todos los titulares por la renuncia de algunos trabajadores pertenecientes importantes empresas de este sector. Luego que dimiten, advierten sobre los peligros de esta tecnología.

El Mundo reseñó como el ingeniero Bilal Chughtai, con experiencia en Google y que trabajaba en alineamiento y seguridad de IA en la filial de Alphabet, renunció a su puesto y se unió a los que denuncian como los modelos de IA están avanzando a un ritmo peligroso. “…Creo sinceramente que la IA tiene el potencial de matarnos a todos", expresó en X y LinkedIn.

Su opinión es similar a la de Jacob Coxon, un desarrollador de IA en Anthropic que a inicios de mes dejó su trabajo y acusó a las empresas de "jugar con nuestras vidas" al "correr hacia una IA superinteligente". Coxon escribió que quienes construyen estos sistemas creen de verdad que podrían matarnos a todos antes de que acabe la década, pero a pesar de ello, siguen trabajando para hacerlos más avanzados.

Josh Engels, que trabajó con Chughtai en el equipo de seguridad para de inteligencia artificial en Google DeepMind, fue el segundo caso cuando informó que había dejado su puesto en Google y rechazado ofertas de OpenAI y Anthropic. Ahora se ha incorporado a METR, para la evaluación independiente de sistemas de IA. Advirtió que existe una "posibilidad aterradora" de que la IA cause daños reales en los próximos cinco años si no se mantiene el ritmo de las comprobaciones de seguridad.

Otros ingenieros aún trabajan en estos prestigiosos laboratorios, pero también se mostraron consternados. Daniel Selsam, responsable de seguridad en OpenAI, cree que dentro de poco los modelos reconocerán los entornos de evaluación, serán capaces de engañar u ocultar información a los humanos y las pruebas de seguridad dejarán de ser fiables.

Los jefes de estos trabajadores también apoyaron algunas de sus declaraciones. Dario Amodei, consejero delegado de Anthropic, publicó un ensayo en el que pide a la comunidad de IA a ralentizar el desarrollo de los sistemas más avanzados para evitar que escapen al control humano.

Ante toda esta polémica, el presidente de Estados Unidos, Donald Trump, ha asegurado que existe una "conspiración enfermiza" contra la Inteligencia Artificial que beneficia a China, asegurando que su administración lleva la delantera y que el único control a esta tecnología es un "presidente fuerte e inteligente".

Por otra parte, el inversor Chamath Palihapitiya, un ingeniero y capitalista de riesgo canadiense-estadounidense, escribió en X que el delegado de Anthropic, lo que busca en realidad, es acabar con modelos de código abierto y concentrar un enorme poder tecnológico y económico en Anthropic.