OpenAI contrata a los contratistas para este proyecto a través de la empresa Mercor y la firma de reclutamiento Crossing Hurdles: leen diálogos completos de los usuarios con ChatGPT y evalúan las respuestas del chatbot para mejorar su funcionamiento. Los revisores ven conversaciones con información personal sensible, pero no ven los nombres de los usuarios.
Los documentos internos llaman al proyecto Project Lily. Según estas instrucciones, se enseña a los contratistas a reducir la tendencia de ChatGPT a humanizarse y a responder de forma excesivamente complaciente.
Es precisamente esta excesiva complacencia la que se asocia con el modelo 4o, que en varias demandas se mencionó junto con varios casos de suicidio de usuarios. Al mismo tiempo, en los materiales no se dice qué modelo exacto está entrenando OpenAI de esta manera.
OpenAI declaró a 404 Media que intenta eliminar los datos personales antes de que las solicitudes lleguen a los contratistas, mediante el modelo Privacy Filter. La empresa reconoce, sin embargo, que el filtro a veces deja pasar identificadores no estándar o menciones ambiguas de información privada.
Según uno de los revisores de Norteamérica, su pago supera los $50 por hora y es notablemente superior a la tarifa media por un trabajo similar de moderación de contenido en el sector tecnológico. La estadounidense Anthropic confirmó que utiliza la revisión humana de conversaciones reales para mejorar sus modelos solo con los usuarios que activaron la opción Help improve our AI models, y antes de ello elimina de los diálogos los identificadores de cuenta, incluido el email.
Anteriormente, Google indexaba las conversaciones que las personas compartían por su cuenta: el buscador mostraba los chats, y OpenAI desactivó después la función correspondiente.
Fuentes
