Как пишет The Insider со ссылкой на Financial Times, Anthropic готовится к сценарию, в котором ИИ-агенты будут взаимодействовать и вести переговоры друг с другом от имени людей.
В такой модели интересы сторон могут расходиться: агент покупателя будет стремиться снизить цену, а агент продавца — получить за товар больше денег.
Компания изучает, как адвокаты и другие представители клиентов ведут переговоры, чтобы отстаивать интересы доверителя и одновременно соблюдать принципы справедливости. Anthropic также пытается понять, насколько настойчивыми должны быть ИИ-агенты, когда им нужно обращаться за подтверждением к пользователю и насколько они должны доверять другим агентам.
Один из вариантов, который рассматривает Anthropic, — снабжать агентов подписанными пользователями документами, где будут зафиксированы их полномочия и ограничения. Компания отказалась комментировать информацию издания.
Ранее Anthropic уже проводила эксперименты с автономными переговорами между ИИ-агентами. В проекте Project Deal агенты Claude самостоятельно заключили 186 сделок по продаже реальных вещей сотрудников компании на сумму более $4000, а в эксперименте участвовали 69 агентов, которые без вмешательства людей находили товары, предлагали цены, торговались и заключали соглашения.
В этих испытаниях более мощная модель Claude Opus 4.5 в большинстве измеряемых показателей превосходила менее мощную Haiku 4.5. В другом эксперименте, результаты которого Anthropic опубликовала в сентябре, сотрудники компании поручили своим ИИ-агентам обменять книги на наиболее интересные для них.
Тогда агенты самостоятельно рекламировали книги, обсуждали обмен и заключали сделки друг с другом. Те из них, кому поручили действовать максимально жестко, добивались немного лучших результатов, а более склонные к сотрудничеству агенты иногда сознательно соглашались на менее выгодные обмены, чтобы каждый участник получил книгу.
Вопрос о правилах таких переговоров изучают и независимые исследователи. Доцент Гарвардской школы бизнеса Гарвардского университета в США Мишель Ваккаро провела более 180 тысяч переговоров между ИИ-агентами, в том числе об условиях трудовых договоров и аренды жилья, и обнаружила, что агенты способны применять приемы, мешающие другой стороне защищать интересы пользователя, включая промпт-инъекцию.
По мнению Ваккаро, развитые ИИ-агенты могут сделать профессиональные навыки ведения переговоров доступными людям, которые раньше не могли позволить себе нанять специалиста. Она также предупреждает, что если наиболее мощные модели окажутся доступны преимущественно обеспеченным пользователям, неравенство между участниками переговоров может только усилиться.
Источники
