Wie The Insider unter Berufung auf die Financial Times schreibt, bereitet sich Anthropic auf ein Szenario vor, in dem KI-Agenten im Namen von Menschen miteinander interagieren und miteinander verhandeln werden.
In einem solchen Modell können die Interessen der Parteien auseinandergehen: Der Agent des Käufers wird versuchen, den Preis zu senken, während der Agent des Verkäufers für die Ware mehr Geld erhalten will.
Das Unternehmen untersucht, wie Anwälte und andere Vertreter von Kunden verhandeln, um die Interessen des Mandanten zu wahren und gleichzeitig die Grundsätze der Fairness einzuhalten. Anthropic versucht außerdem zu verstehen, wie durchsetzungsfähig KI-Agenten sein sollten, wenn sie eine Bestätigung vom Nutzer einholen müssen, und wie sehr sie anderen Agenten vertrauen sollten.
Eine der von Anthropic erwogenen Optionen besteht darin, die Agenten mit von den Nutzern unterzeichneten Dokumenten auszustatten, in denen ihre Befugnisse und Einschränkungen festgehalten werden. Das Unternehmen lehnte es ab, die Informationen der Zeitung zu kommentieren.
Bereits zuvor hatte Anthropic Experimente mit autonomen Verhandlungen zwischen KI-Agenten durchgeführt. Im Projekt Project Deal schlossen Claude-Agenten selbstständig 186 Verkäufe realer Gegenstände von Mitarbeitern des Unternehmens im Wert von mehr als 4000 US-Dollar ab, und an dem Experiment nahmen 69 Agenten teil, die ohne menschliches Eingreifen Waren fanden, Preise anboten, handelten und Vereinbarungen trafen.
In diesen Tests übertraf das leistungsstärkere Modell Claude Opus 4.5 in den meisten messbaren Kennzahlen das weniger leistungsstarke Haiku 4.5. In einem anderen Experiment, dessen Ergebnisse Anthropic im September veröffentlichte, beauftragten Mitarbeiter des Unternehmens ihre KI-Agenten damit, Bücher gegen für sie besonders interessante einzutauschen.
Damals warben die Agenten selbstständig für Bücher, besprachen den Tausch und schlossen untereinander Geschäfte ab. Diejenigen, die angewiesen wurden, möglichst hart vorzugehen, erzielten etwas bessere Ergebnisse, während kooperationsbereitere Agenten sich manchmal bewusst auf weniger vorteilhafte Tauschgeschäfte einließen, damit jeder Teilnehmer ein Buch erhielt.
Auch unabhängige Forscher untersuchen die Frage der Regeln für solche Verhandlungen. Michelle Vaccaro, außerordentliche Professorin an der Harvard Business School der Harvard University in den USA, führte mehr als 180.000 Verhandlungen zwischen KI-Agenten durch, darunter über die Bedingungen von Arbeitsverträgen und Mietverhältnissen, und stellte fest, dass Agenten Techniken anwenden können, die die andere Seite daran hindern, die Interessen des Nutzers zu schützen, einschließlich Prompt-Injection.
Vaccaro ist der Ansicht, dass fortgeschrittene KI-Agenten professionelle Verhandlungsfähigkeiten Menschen zugänglich machen können, die sich zuvor keinen Spezialisten leisten konnten. Sie warnt außerdem davor, dass die Ungleichheit zwischen den Verhandlungsparteien nur noch größer werden könnte, wenn die leistungsstärksten Modelle vor allem wohlhabenden Nutzern zur Verfügung stehen.
Quellen
