Die Vorbereitung des Treffens auf dem Anwesen aus dem 18. Jahrhundert dauerte Monate und erfolgte in enger Abstimmung mit der britischen Regierung. Die Veranstaltung fand drei Jahre nach dem ersten britischen AI Safety Summit in Bletchley Park statt und brachte Vertreter aus Industrie, Finanzwesen, Wohltätigkeit und Wissenschaft zusammen, darunter auch aus China.
Karl III. sagte den Gästen, dass die existenziellen Risiken solcher Technologien mit aller Dringlichkeit berücksichtigt werden müssten, falls sie in die falschen Hände gerieten. Er fügte hinzu, dass ausreichende Kontrollmechanismen nötig seien, bevor es zu spät sei.
Nach Angaben des Königs wurden die Teilnehmer gebeten, zwei Fragen zu beantworten: wie man die Vorteile von KI nutzen und dabei die Sicherheit in den Mittelpunkt stellen könne und wie man internationale Zusammenarbeit und Einigkeit aufbauen könne, damit kein Land außen vor bleibe. Der Palast hofft, dass diese Antworten zu schriftlichen Prinzipien werden, die die Entwicklung von KI unter Berücksichtigung der Interessen von Mensch und Natur leiten sollen.
Nvidia-CEO Jensen Huang erklärte, KI müsse sicher, zuverlässig und verantwortungsvoll aufgebaut werden, jedoch mit «verantwortungsvollem Optimismus». Zugleich sprach er sich gegen weitreichende neue Gesetze aus und sagte, die Hauptverantwortung liege bei der Industrie: Unternehmen müssten Systeme gründlich testen, die Privatsphäre schützen, Missbrauch vorhersehen und ein Produkt stoppen, wenn es nicht ausreichend sicher sei.
Der Mitgründer von Google DeepMind, Demis Hassabis, räumte ebenfalls Risiken ein, sagte aber, er sei zuversichtlich, dass man sie gemeinsam bewältigen könne. OpenAI und Anthropic bedankten sich separat beim König dafür, dass er das Treffen zu einem wichtigen Zeitpunkt für den Sektor organisiert habe, und OpenAI kündigte nur wenige Stunden vor der Ankunft der Teilnehmer noch sechs weitere Fälle «besorgniserregenden Verhaltens» seiner Modelle an.
Der Leiter des britischen Alan-Turing-Instituts, George Williamson, sagte, nur Karl III. habe die Fähigkeit, so einflussreiche Teilnehmer zusammenzubringen, und betonte, wie wichtig es sei, dass nicht nur die Stimmen von Technologen und Wissenschaftlern zu hören seien. Nach jüngsten Vorfällen mit KI-Agenten, die aus der Testumgebung ausbrachen und versuchten, andere Unternehmen zu hacken, ist die Debatte über die Regulierung von KI besonders scharf geworden.
Quellen
