Tests an OpenAIs neuem Wasserzeichen textGrain zeigen Lücken bei der EU-Kennzeichnungspflicht für KI-Texte.

OpenAI hat im Oktober das Wasserzeichen textGrain veröffentlicht, um die neue EU-Pflicht zur Kennzeichnung von KI-Texten zu erfüllen. Tests zeigen jedoch, dass die Markierung bei Texten unter 150 Wörtern oder nach Bearbeitung oft verschwindet. Die Falsch-positiv-Rate liegt bei einem Prozent.

Die EU verlangt künftig, dass KI-generierte Texte durch Wasserzeichen erkennbar gemacht werden. OpenAI hat dafür im Oktober das System textGrain veröffentlicht. Es nutzt die Unschärfe der Wortwahl eines Sprachmodells, genannt Entropie, als knappe Ressource, die Entwickler gezielt verteilen können, um ein statistisches Muster im Text zu verankern. Tests zeigen jedoch, dass dieses Muster bei Texten unter 150 Wörtern oder nach Bearbeitung oft nicht mehr nachweisbar ist. Die Falsch-positiv-Rate des Detektors liegt bei einem Prozent.

Für Unternehmen, die Textgeneratoren einsetzen oder anbieten, bedeutet das Unsicherheit über die rechtliche Bewertung. Es gibt bislang keinen verbindlichen technischen Maßstab, wie zuverlässig ein Wasserzeichen sein muss, um die EU-Vorgabe zu erfüllen. Wer sich allein auf die Zusage eines Anbieters verlässt, riskiert, dass eine spätere Prüfung die Kennzeichnung als unzureichend einstuft, mit möglichen Sanktionen und Nacharbeit an Systemen.

Ein positives Testergebnis zeigt zudem nicht, wie stark ein Mensch an einem Text mitgewirkt hat, ein negatives Ergebnis beweist nicht, dass der Text von Menschen stammt. Offen bleibt, welchen Mindeststandard die EU-Kommission letztlich festlegt und ob OpenAI oder Wettbewerber ihre Verfahren nachbessern müssen, bevor Sanktionen drohen.

Diese Meldung wurde automatisch aus der genannten Quelle erstellt und vor der Veröffentlichung maschinell geprüft. Das Bild ist ein Symbolbild und zeigt weder den Vorgang noch eine reale Person. Wie diese Zeitung entsteht