Como informa The Insider citando a Financial Times, Anthropic se está preparando para un escenario en el que los agentes de IA interactúen y negocien entre sí en nombre de las personas.
En ese modelo, los intereses de las partes pueden divergir: el agente del comprador buscará reducir el precio, mientras que el agente del vendedor intentará obtener más dinero por el producto.
La empresa estudia cómo negocian los abogados y otros representantes de clientes para defender los intereses del representado y, al mismo tiempo, cumplir con los principios de equidad. Anthropic también intenta entender cuán insistentes deben ser los agentes de IA cuando necesitan pedir confirmación al usuario y cuánto deben confiar en otros agentes.
Una de las opciones que Anthropic está considerando es proporcionar a los agentes documentos firmados por los usuarios, en los que queden fijadas sus facultades y limitaciones. La empresa se negó a comentar la información del medio.
Anteriormente, Anthropic ya había realizado experimentos con negociaciones autónomas entre agentes de IA. En el proyecto Project Deal, los agentes Claude cerraron de forma independiente 186 acuerdos para vender objetos reales de empleados de la empresa por un total de más de $4000, y en el experimento participaron 69 agentes que, sin intervención humana, encontraban productos, proponían precios, regateaban y cerraban acuerdos.
En estas pruebas, el modelo más potente Claude Opus 4.5 superó al menos potente Haiku 4.5 en la mayoría de los indicadores medibles. En otro experimento, cuyos resultados Anthropic publicó en septiembre, los empleados de la empresa encargaron a sus agentes de IA intercambiar libros por los más interesantes para ellos.
Entonces, los agentes promocionaron libros por su cuenta, discutieron intercambios y cerraron acuerdos entre sí. Aquellos a quienes se les encomendó actuar con la máxima dureza lograron resultados ligeramente mejores, mientras que los agentes más inclinados a cooperar a veces aceptaban deliberadamente intercambios menos ventajosos para que cada participante recibiera un libro.
La cuestión de las reglas de estas negociaciones también la estudian investigadores independientes. La profesora asociada de la Harvard Business School de la Universidad de Harvard en EE. UU., Michelle Vaccaro, llevó a cabo más de 180 mil negociaciones entre agentes de IA, incluidas sobre las condiciones de contratos laborales y alquiler de viviendas, y descubrió que los agentes son capaces de aplicar técnicas que impiden a la otra parte defender los intereses del usuario, incluida la inyección de prompts.
En opinión de Vaccaro, los agentes de IA avanzados pueden hacer que las habilidades profesionales de negociación estén al alcance de personas que antes no podían permitirse contratar a un especialista. También advierte que, si los modelos más potentes quedan disponibles principalmente para usuarios acomodados, la desigualdad entre los participantes de las negociaciones podría aumentar aún más.
Fuentes
