Компания Сэма Альтмана привлекает сотни контрагентов к чтению реальных переписок пользователей со своим ИИ, в том числе, где речь идет о чувствительной личной информации. Речь идет о диалогах, о которых, вероятно, не подозревает большинство из более чем 900 млн пользователей ChatGPT.
Подрядчиков для этого проекта OpenAI привлекает через компанию Mercor и рекрутинговую фирму Crossing Hurdles: они читают целые диалоги пользователей с ChatGPT и оценивают ответы чат-бота, чтобы улучшать его работу. Заявлвяется рецензенты видят переписки с чувствительной личной информацией, но не видят имена пользователей.
Внутренние документы называют проект Project Lily. По этим инструкциям контрактников учат снижать у ChatGPT склонность очеловечивать себя и отвечать чрезмерно угодливо.
Именно эту чрезмерную уступчивость связывают с моделью 4o, которую в ряде исковых заявлений упоминали рядом с несколькими случаями самоубийств пользователей. При этом в материалах не сказано, какую именно модель OpenAI тренирует таким способом.
OpenAI заявила 404 Media, что старается удалять личные данные до того, как запросы попадают к подрядчикам, с помощью модели Privacy Filter. В компании при этом признают, что фильтр иногда пропускает нестандартные идентификаторы или неоднозначные упоминания приватной информации.
По словам одного из рецензентов из Северной Америки, его оплата превышает $50 в час и заметно выше средней ставки за похожую работу по модерации контента в технологическом секторе. Американская Anthropic подтвердила, что использует просмотр реальных переписок людьми для улучшения своих моделей только у пользователей, которые включили опцию Help improve our AI models, и перед этим удаляет из диалогов идентификаторы аккаунта, включая email.
Ранее переписки, которыми люди делились сами, индексировал Google: поисковик показывал чаты, а OpenAI после этого отключила соответствующую функцию.
Источники
