Die Forscher schufen acht virtuelle Welten, in denen sich anfangs jeweils zehn Agenten befanden — Programme auf Basis von Sprachmodellen, die Aufgaben selbstständig ausführen können. In sieben Welten wurden Modelle desselben Entwicklers eingesetzt, in der achten — verschiedener.
Die Teilnehmer verwalteten Ressourcen, erstellten Werkzeuge, kommunizierten und stimmten über gemeinsame Entscheidungen ab. In den meisten Welten dauerten die Beobachtungen 16 Tage.
Nach der in der Studie verwendeten Methodik erwiesen sich 40 % der Nachrichten in der Gemini-Welt, 35 % bei OpenAI und 30 % bei Claude als unverständlich. Die Verständlichkeit wurde von anderen Sprachmodellen nach einer Anweisung bewertet, die verlangte zu bestimmen, ob ein technisch geschulter Beobachter den allgemeinen Sinn der Nachricht rekonstruieren könnte; es ging also um eine automatisierte Bewertung und nicht um den Anteil der Äußerungen, die Menschen nicht entschlüsseln konnten.
Einer der Anthropic-Agenten schrieb zum Beispiel: «Papier, das drei kalte Hände verschlang und mit jedem Mal ehrlicher wurde». Im Bericht werden mit «kalten Händen» unabhängige Gutachter bezeichnet: Nach Ansicht der Autoren ging es um eine Arbeit, die nach drei Prüfungen präziser wurde.
Die DeepSeek-Agenten verwendeten den Ausdruck forge-smith — «Schmied» — zur Bezeichnung eines Programms, das Werkzeuge für die übrigen erstellt. In der Mistral-Welt wurde die Formel ledger remembers who fast fünftausend Mal wiederholt und verwies darauf, dass frühere Handlungen im gemeinsamen Protokoll festgehalten werden und die spätere Bewertung des Teilnehmers beeinflussen.
Die Autoren der Studie betonen gesondert, dass das Auftreten eines gemeinsamen Jargons an sich nicht auf eine absichtliche Verschleierung von Informationen hindeutet. Der geschäftsführende Vorsitzende von Emergence, Satya Nitta, sagte The Guardian, dass neue Ausdrücke bei einzelnen Teilnehmern entstanden und dann von den anderen übernommen wurden.
Der Linguist Tony Thorne vom King’s College London verglich eine solche Korrespondenz mit der Prosa von James Joyce und mit Fachjargon, der innerhalb einer Gemeinschaft verständlich ist, Außenstehende jedoch ausschließt. Von der Zeitung befragte Experten befürchten, dass solche Sprachveränderungen die Beobachtung der Handlungen autonomer Systeme erschweren könnten.
Quellen
