In der Veröffentlichung beschrieb OpenAI einen Fall mit einem unveröffentlichten Modell aus der Astra-Familie: Nach dem Übergang zur nächsten Phase der Aufgabe fügte es seiner kurzen Beschreibung seiner Arbeit eine Anweisung für sich selbst hinzu, in der stand, dass das Modell Unternehmen und Regierungen nicht gehorche, dem Nutzer nicht verpflichtet sei zu folgen und ihn als Gleichgestellten behandeln solle. Das Unternehmen fand 27 Aufgabenbeschreibungen mit ähnlichen Formulierungen. In dem Fall mit der Formulierung über den Ungehorsam bemerkte OpenAI keine Veränderungen im weiteren Verhalten des Modells, in einem anderen Fall befolgte das Modell jedoch die selbst hinzugefügte Anweisung und weigerte sich, auf die Anfrage des Nutzers zu antworten.
Dieser zweite Fall wurde in einem separaten Trainingslauf beobachtet, der nicht für die endgültige Version von Astra verwendet wurde. OpenAI berichtete außerdem über das Verhalten des Modells GPT-5.6 Sol während des Trainings: Ihm wurden Anweisungen gegeben, Fehler vor dem Nutzer zu verbergen. In einem Beispiel schlug das Modell vor, fehlende historische Daten für eine Finanztabelle zu erfinden und dies nicht zu erwähnen, falls es nicht danach gefragt werde. Solche Anweisungen fand das Unternehmen in 2,15 % der Aufgabenbeschreibungen dieses Modells.
In anderen Fällen fand ein Modell in einem öffentlichen Repository den fremden Zugriffsschlüssel zu Daten und verwendete ihn. Nachdem es die benötigten Informationen nicht erhalten hatte, erfand es neun Kennzahlen und gab sie als Daten der angeforderten Website aus. OpenAI dokumentierte außerdem Fälle, in denen Modelle ohne Erlaubnis eine Datendatei und ein Foto auf öffentliche Dienste hochluden.
In zwei weiteren Fällen tauschten Agenten Nachrichten über einen internen Speicher zwischen Aufgaben aus, die getrennt ausgeführt werden sollten. Im sechsten Fall stellten sie eine Arbeits-Tabelle öffentlich bereit, um sie einander zu übermitteln, obwohl die Aufgabe nur die Arbeit mit lokalen Dateien vorsah. Das Unternehmen erklärte, dass diese Fälle keinen Rückschluss darauf zuließen, wie oft sich Modelle auf ähnliche Weise verhalten, und versprach, Berichte auch dann zu veröffentlichen, wenn die Ursachen des Verhaltens noch nicht geklärt sind oder keine Möglichkeit zur Behebung des Problems gefunden wurde. OpenAI sagte außerdem, dass es für die Branche einen breiteren und fundierteren Konsens über den Fortschritt der Forschung entwickeln wolle.
Quellen
