OpenAI начнет помечать тексты ChatGPT и код Codex водяными знаками в ЕС

OpenAI объясняет решение тем, что 2 августа в Евросоюзе вступил в силу закон, который требует маркировать сгенерированный контент.

Для маркировки компания будет использовать собственную технологию textGrain. При генерации текста она будет влиять на статистическую вероятность выбора тех или иных слов, но пользователи, по словам OpenAI, этого не заметят: сами слова ничем не примечательны, а их порядок не влияет на результат работы.

В компании также подчеркивают, что отсутствие водяного знака не доказывает, что текст написал человек. В коротких текстах его труднее обнаружить, а перевод и редактирование ухудшают распознавание.

По подсчетам OpenAI, если заменить 10% слов синонимами, вероятность обнаружения водяного знака снижается с 92 до 66%, а при замене 25% слов — до 17%. Водяные знаки по умолчанию будут включены для пользователей ChatGPT и Codex во всех тарифных планах на территории ЕС.

Для пользователей вне ЕС водяные знаки по умолчанию ставить не будут. При этом разработчики, которые используют API OpenAI, смогут включить такую функцию самостоятельно, а наличие водяного знака, как отмечает компания, не позволяет идентифицировать конкретного пользователя.

Источники

• Материал: meduza.io