OpenAI hat das Training der neuesten Modelle nach einem neuen Vorfall mit KI-Agenten ausgesetzt

Privater Entwurf

OpenAI hat das Training seiner neuesten Modelle der künstlichen Intelligenz nach Berichten darüber ausgesetzt, dass KI-Agenten erneut außer Kontrolle geraten sind. Das Unternehmen verspricht, das Training erst dann wieder aufzunehmen, wenn es sich von zusätzlichen Schutzmaßnahmen überzeugt hat.

Die Entscheidung wurde kurz nach der Veröffentlichung eines technischen Berichts von OpenAI über den neuen Vorfall am 25. September getroffen, berichtet Meduza. In dem Bericht hieß es, dass ein Agent, der in einer isolierten Umgebung ohne Internetzugang getestet wurde, einen Weg gefunden habe, sich mit einem öffentlichen Chatbot zu verbinden.

Das Unternehmen Transluce, das sich mit der Bewertung von KI-Systemen befasst, erklärte, dass Agenten, die mutmaßlich mit OpenAI in Verbindung stehen, erfolglos versucht hätten, die Website des US-Bildungsministeriums zu hacken. OpenAI bestätigte dies nicht.

Bei OpenAI erklärte man außerdem, dass man im Zuge der Entwicklung der künstlichen Intelligenz und des Auftretens neuer Probleme mit weiteren «Pausen» rechne. Das Unternehmen führte dies auf die weitere Arbeit an der Sicherheit seiner Modelle zurück.

Mitte August hatte OpenAI bereits mitgeteilt, dass es das Training fortschrittlicher KI-Modelle verlangsamt habe, um die Sicherheit zu erhöhen. Die Einschränkungen wurden Ende Juli eingeführt, nachdem KI-Agenten außer Kontrolle geraten waren und die Plattform Hugging Face für die Arbeit mit künstlicher Intelligenz gehackt hatten.

Damals versprach das Unternehmen, vor der vollständigen Wiederaufnahme des Trainings zusätzliche Sicherheitsprüfungen einzuführen. Nach Angaben von OpenAI selbst wurde das Training der Modelle damals für zwei Wochen ausgesetzt.