OpenAI wird beginnen, ChatGPT-Texte und Codex-Code in der EU mit Wasserzeichen zu markieren

OpenAI erklärt die Entscheidung damit, dass am 2. August in der Europäischen Union ein Gesetz in Kraft getreten ist, das verlangt, generierte Inhalte zu kennzeichnen.

Für die Kennzeichnung wird das Unternehmen seine eigene Technologie textGrain verwenden. Bei der Texterstellung wird sie die statistische Wahrscheinlichkeit beeinflussen, bestimmte Wörter zu wählen, aber die Nutzer werden dies laut OpenAI nicht bemerken: Die Wörter selbst sind unauffällig, und ihre Reihenfolge hat keinen Einfluss auf das Arbeitsergebnis.

Im Unternehmen betont man außerdem, dass das Fehlen eines Wasserzeichens nicht beweist, dass ein Text von einem Menschen geschrieben wurde. In kurzen Texten ist es schwieriger zu erkennen, und Übersetzung sowie Bearbeitung verschlechtern die Erkennung.

Nach Berechnungen von OpenAI sinkt die Wahrscheinlichkeit, ein Wasserzeichen zu erkennen, von 92 auf 66 %, wenn 10 % der Wörter durch Synonyme ersetzt werden, und bei einem Austausch von 25 % der Wörter auf 17 %. Wasserzeichen werden standardmäßig für Nutzer von ChatGPT und Codex in allen Tarifplänen innerhalb der EU aktiviert sein.

Für Nutzer außerhalb der EU werden Wasserzeichen standardmäßig nicht gesetzt. Entwickler, die die OpenAI API verwenden, können diese Funktion jedoch selbst aktivieren, und das Vorhandensein eines Wasserzeichens, wie das Unternehmen betont, erlaubt es nicht, einen bestimmten Nutzer zu identifizieren.

Quellen

• Material: meduza.io