Für dieses Projekt gewinnt OpenAI Auftragnehmer über das Unternehmen Mercor und die Personalvermittlungsfirma Crossing Hurdles: Sie lesen ganze Dialoge von Nutzern mit ChatGPT und bewerten die Antworten des Chatbots, um seine Leistung zu verbessern. Die Prüfer sehen Chats mit sensiblen persönlichen Informationen, aber nicht die Namen der Nutzer.
Interne Dokumente bezeichnen das Projekt als Project Lily. Nach diesen Anweisungen werden die Vertragsarbeiter darin geschult, ChatGPTs Tendenz zu verringern, sich zu vermenschlichen und übermäßig gefällig zu antworten.
Gerade diese übermäßige Gefälligkeit wird mit dem Modell 4o in Verbindung gebracht, das in mehreren Klagen im Zusammenhang mit mehreren Fällen von Suizid von Nutzern erwähnt wurde. In den Unterlagen wird jedoch nicht gesagt, welches Modell OpenAI auf diese Weise trainiert.
OpenAI erklärte gegenüber 404 Media, dass das Unternehmen versucht, personenbezogene Daten zu entfernen, bevor Anfragen an Auftragnehmer weitergegeben werden, mithilfe des Modells Privacy Filter. Das Unternehmen räumt jedoch ein, dass der Filter manchmal ungewöhnliche Kennungen oder mehrdeutige Hinweise auf private Informationen durchlässt.
Laut einem der Prüfer aus Nordamerika liegt sein Stundenlohn über 50 $ und damit deutlich über dem Durchschnittssatz für ähnliche Content-Moderationsarbeit im Technologiesektor. Das US-Unternehmen Anthropic bestätigte, dass es die Sichtung echter Chats durch Menschen zur Verbesserung seiner Modelle nur bei Nutzern einsetzt, die die Option Help improve our AI models aktiviert haben, und dass es zuvor aus den Dialogen Kontokennungen einschließlich E-Mail-Adressen entfernt.
Früher wurden Chats, die Menschen selbst geteilt hatten, von Google indexiert: Die Suchmaschine zeigte die Chats an, woraufhin OpenAI die entsprechende Funktion deaktivierte.
Quellen
