OpenAI recrute des sous-traitants pour ce projet via la société Mercor et le cabinet de recrutement Crossing Hurdles : ils lisent des conversations entières d’utilisateurs avec ChatGPT et évaluent les réponses du chatbot afin d’améliorer son fonctionnement. Les relecteurs voient des conversations contenant des informations personnelles sensibles, mais ne voient pas les noms des utilisateurs.
Des documents internes appellent ce projet Project Lily. Selon ces instructions, les contractuels sont formés à réduire la tendance de ChatGPT à s’humaniser et à répondre de manière excessivement complaisante.
C’est précisément cette complaisance excessive qui est associée au modèle 4o, mentionné dans plusieurs plaintes judiciaires aux côtés de plusieurs cas de suicide d’utilisateurs. En revanche, les documents ne précisent pas quel modèle exact OpenAI entraîne de cette manière.
OpenAI a déclaré à 404 Media qu’elle s’efforce de supprimer les données personnelles avant que les requêtes n’arrivent aux sous-traitants, à l’aide du modèle Privacy Filter. L’entreprise reconnaît toutefois que le filtre laisse parfois passer des identifiants non standard ou des mentions ambiguës d’informations privées.
Selon l’un des relecteurs d’Amérique du Nord, sa rémunération dépasse 50 $ de l’heure et est nettement supérieure au taux moyen pour un travail similaire de modération de contenu dans le secteur technologique. La société américaine Anthropic a confirmé qu’elle utilise la lecture de vraies conversations par des humains pour améliorer ses modèles uniquement pour les utilisateurs qui ont activé l’option Help improve our AI models, et qu’elle supprime auparavant des conversations les identifiants de compte, y compris l’e-mail.
Auparavant, Google indexait les conversations que les gens partageaient eux-mêmes : le moteur de recherche affichait les chats, et OpenAI a ensuite désactivé la fonction correspondante.
Sources
