OpenAI commencera à marquer les textes de ChatGPT et le code de Codex avec des filigranes dans l’UE

OpenAI explique cette décision par le fait que, le 2 août, une loi est entrée en vigueur dans l’Union européenne, exigeant le marquage des contenus générés.

Pour le marquage, l’entreprise utilisera sa propre technologie textGrain. Lors de la génération de texte, elle influencera la probabilité statistique du choix de certains mots, mais les utilisateurs, selon OpenAI, ne le remarqueront pas : les mots eux-mêmes n’ont rien de particulier, et leur ordre n’influence pas le résultat du travail.

L’entreprise souligne également que l’absence de filigrane ne prouve pas qu’un texte a été écrit par un humain. Dans les textes courts, il est plus difficile à détecter, et la traduction ainsi que la révision nuisent à la reconnaissance.

Selon les calculs d’OpenAI, si 10 % des mots sont remplacés par des synonymes, la probabilité de détecter le filigrane passe de 92 à 66 %, et si 25 % des mots sont remplacés, elle tombe à 17 %. Les filigranes seront activés par défaut pour les utilisateurs de ChatGPT et Codex dans tous les forfaits sur le territoire de l’UE.

Pour les utilisateurs hors de l’UE, les filigranes ne seront pas activés par défaut. En même temps, les développeurs qui utilisent l’API OpenAI pourront activer cette fonction eux-mêmes, et la présence d’un filigrane, comme le note l’entreprise, ne permet pas d’identifier un utilisateur précis.

Sources

• Article : meduza.io