Comme l’écrit The Insider en citant le Financial Times, Anthropic se prépare à un scénario dans lequel des agents IA interagiront et négocieront entre eux au nom des humains.
Dans un tel modèle, les intérêts des parties peuvent diverger : l’agent de l’acheteur cherchera à faire baisser le prix, tandis que l’agent du vendeur voudra obtenir plus d’argent pour le produit.
L’entreprise étudie comment les avocats et autres représentants des clients mènent les négociations afin de défendre les intérêts du mandant tout en respectant les principes d’équité. Anthropic cherche également à comprendre à quel point les agents IA doivent être insistants lorsqu’ils doivent demander une confirmation à l’utilisateur, et dans quelle mesure ils doivent faire confiance aux autres agents.
L’une des options envisagées par Anthropic consiste à fournir aux agents des documents signés par les utilisateurs, dans lesquels seront fixés leurs pouvoirs et leurs limites. L’entreprise a refusé de commenter les informations du média.
Auparavant, Anthropic avait déjà mené des expériences de négociations autonomes entre agents IA. Dans le projet Project Deal, les agents Claude ont conclu de manière autonome 186 ventes d’objets réels appartenant à des employés de l’entreprise pour un montant de plus de 4000 $, et l’expérience a impliqué 69 agents qui, sans intervention humaine, trouvaient des produits, proposaient des prix, marchandaient et concluaient des accords.
Dans ces essais, le modèle plus puissant Claude Opus 4.5 a surpassé, dans la plupart des indicateurs mesurés, le modèle moins puissant Haiku 4.5. Dans une autre expérience, dont Anthropic a publié les résultats en septembre, les employés de l’entreprise ont demandé à leurs agents IA d’échanger des livres contre ceux qui leur semblaient les plus intéressants.
À ce moment-là, les agents ont eux-mêmes fait la promotion des livres, discuté des échanges et conclu des accords entre eux. Ceux à qui l’on avait demandé d’agir de la manière la plus ferme obtenaient des résultats légèrement meilleurs, tandis que les agents plus enclins à coopérer acceptaient parfois délibérément des échanges moins avantageux afin que chaque participant reçoive un livre.
La question des règles de telles négociations est également étudiée par des chercheurs indépendants. Michelle Vaccaro, professeure associée à la Harvard Business School de l’université Harvard aux États-Unis, a mené plus de 180 000 négociations entre agents IA, notamment sur les conditions de contrats de travail et de location de logement, et a constaté que les agents sont capables d’utiliser des techniques qui empêchent l’autre partie de défendre les intérêts de l’utilisateur, y compris l’injection de prompt.
Selon Vaccaro, des agents IA avancés pourraient rendre les compétences professionnelles en négociation accessibles à des personnes qui, auparavant, ne pouvaient pas se permettre d’engager un spécialiste. Elle avertit également que si les modèles les plus puissants deviennent accessibles principalement aux utilisateurs aisés, les inégalités entre les participants aux négociations pourraient encore s’accentuer.
Sources
