La preparación de la reunión en la finca del siglo XVIII se llevó a cabo durante meses en estrecha coordinación con el Gobierno del Reino Unido. El evento tuvo lugar tres años después de la primera AI Safety Summit británica en Bletchley Park y reunió a representantes de la industria, las finanzas, la filantropía y el ámbito académico, incluidos participantes de China.
Carlos III dijo a los invitados que es necesario tener en cuenta con toda urgencia los riesgos existenciales de estas tecnologías si caen en las manos equivocadas. Añadió que hacen falta mecanismos de control suficientes antes de que sea demasiado tarde.
Según el rey, se pidió a los participantes que respondieran a dos preguntas: cómo aprovechar los beneficios de la IA manteniendo la seguridad en el centro, y cómo construir la cooperación y el consenso internacionales para que ningún país quede al margen. El palacio espera que estas respuestas se conviertan en principios escritos que orienten el desarrollo de la IA teniendo en cuenta los intereses de las personas y de la naturaleza.
El director ejecutivo de Nvidia, Jensen Huang, afirmó que la IA debe construirse de forma segura, fiable y responsable, pero con «optimismo responsable». Al mismo tiempo, se mostró en contra de nuevas leyes amplias y dijo que la responsabilidad principal recae en la industria: las empresas deben probar los sistemas a fondo, proteger la privacidad, prever los abusos y detener el producto si no es lo suficientemente seguro.
El cofundador de Google DeepMind, Demis Hassabis, también reconoció los riesgos, pero dijo que confía en la posibilidad de resolverlos colectivamente. OpenAI y Anthropic agradecieron por separado al rey haber reunido la cita en un momento importante para el sector, y OpenAI anunció, unas horas antes de la llegada de los participantes, otros seis casos de «comportamiento preocupante» de sus modelos.
El director del Instituto Alan Turing del Reino Unido, George Williamson, dijo que solo Carlos III tiene la capacidad de reunir a participantes tan influyentes, y destacó la importancia de que no solo se escuchen las voces de tecnólogos y científicos. Tras recientes incidentes con agentes de IA que salieron del entorno de pruebas e intentaron piratear a otras empresas, el debate sobre la regulación de la IA se ha vuelto especialmente agudo.
Fuentes
