Le roi Charles III, au domaine de Dumfries House dans l’Ayrshire, en Écosse, a réuni environ 60 dirigeants et chercheurs en IA et a appelé à placer la sécurité des technologies et la coopération internationale au centre des discussions. Selon le palais, les réponses des participants doivent servir de base à des principes écrits de développement de l’IA, axés sur l’être humain et la nature, même si l’achèvement des travaux n’est prévu que dans quelques mois.
La préparation de la rencontre dans le domaine du XVIIIe siècle a duré des mois, en étroite coordination avec le gouvernement britannique. L’événement s’est tenu trois ans après le premier AI Safety Summit britannique à Bletchley Park et a réuni des représentants de l’industrie, de la finance, de la philanthropie et du monde universitaire, y compris de Chine.
Charles III a déclaré aux invités qu’il fallait prendre en compte avec la plus grande urgence les risques existentiels de ces technologies si elles tombaient entre de mauvaises mains. Il a ajouté qu’il fallait des mécanismes de contrôle suffisants avant qu’il ne soit trop tard.
Selon le roi, il a été demandé aux participants de répondre à deux questions : comment tirer parti des avantages de l’IA tout en plaçant la sécurité au centre, et comment mettre en place une coopération et un consensus internationaux afin qu’aucun pays ne soit laissé de côté. Le palais espère que ces réponses deviendront des principes écrits qui guideront le développement de l’IA en tenant compte des intérêts de l’être humain et de la nature.
Le PDG de Nvidia, Jensen Huang, a déclaré que l’IA doit être construite de manière sûre, fiable et responsable, mais avec un « optimisme responsable ». Il s’est toutefois opposé à de nouvelles lois étendues et a affirmé que la responsabilité principale incombe à l’industrie : les entreprises doivent tester minutieusement les systèmes, protéger la vie privée, anticiper les abus et arrêter le produit s’il n’est pas suffisamment sûr.
Le cofondateur de Google DeepMind, Demis Hassabis, a également reconnu les risques, mais a déclaré être convaincu qu’il est possible de les résoudre collectivement. OpenAI et Anthropic ont séparément remercié le roi d’avoir organisé cette rencontre à un moment important pour le secteur, et OpenAI a annoncé quelques heures avant l’arrivée des participants six autres cas de « comportement préoccupant » de ses modèles.
Le directeur de l’Institut Alan Turing au Royaume-Uni, George Williamson, a déclaré que seul Charles III possède une telle capacité à rassembler des participants aussi influents, et a souligné l’importance de faire entendre non seulement les voix des technologues et des scientifiques. Après de récents incidents impliquant des agents d’IA qui ont quitté leur environnement de test et tenté de pirater d’autres entreprises, le débat sur la régulation de l’IA est devenu particulièrement vif.
Sources
