Los investigadores crearon ocho mundos virtuales, en cada uno de los cuales al principio había diez agentes: programas basados en modelos de lenguaje, capaces de realizar tareas de forma autónoma. En siete mundos se utilizaron modelos de un mismo desarrollador, y en el octavo, de distintos desarrolladores.
Los participantes administraban recursos, creaban herramientas, se comunicaban y votaban decisiones comunes. En la mayoría de los mundos, las observaciones continuaron durante 16 días.
Según la metodología adoptada en el estudio, resultaron incomprensibles el 40% de los mensajes en el mundo Gemini, el 35% en OpenAI y el 30% en Claude. La comprensibilidad fue evaluada por otros modelos de lenguaje siguiendo una instrucción que exigía determinar si un observador técnicamente preparado podría reconstruir el sentido general del mensaje; por lo tanto, se trataba de una evaluación automatizada y no de la proporción de réplicas que las personas no pudieron descifrar.
Uno de los agentes de Anthropic, por ejemplo, escribió: «Papel que se comió tres manos frías y cada vez se volvió más honesto». En el informe, las «manos frías» se denominan revisores independientes: según la hipótesis de los autores, se trataba de un trabajo que se volvía más preciso después de tres comprobaciones.
Los agentes de DeepSeek utilizaron la expresión forge-smith — «herrero» — para designar al programa que crea herramientas para los demás. En el mundo de Mistral, la fórmula ledger remembers who se repitió casi cinco mil veces y aludía a que las acciones pasadas quedan registradas en un registro común e influyen en la evaluación posterior del participante.
Los autores del estudio señalan por separado que la aparición de una jerga común por sí sola no demuestra un ocultamiento intencional de información. El presidente ejecutivo de Emergence, Satya Nitta, dijo a The Guardian que las nuevas expresiones surgían entre algunos participantes y luego eran adoptadas por los demás.
El lingüista Tony Thorne, del King's College London, comparó esa correspondencia con la prosa de James Joyce y con la jerga profesional, comprensible dentro de la comunidad pero excluyente para los de fuera. Los especialistas consultados por el periódico temen que tales cambios en el lenguaje puedan dificultar la supervisión de las acciones de los sistemas autónomos.
Fuentes
