Texte aus KI-Modellen wie ChatGPT könnten künftig eine digitale Signatur enthalten – ohne dass Nutzer es merken. Der KI-Dienstleister Rumi hat in den aktuellen Sprachmodellen von OpenAI unsichtbare Sonderzeichen entdeckt, die potenziell als Wasserzeichen zur Erkennung maschineller Inhalte dienen könnten.
Unsichtbare Zeichen als digitale Spur
Laut Rumi setzen die Modelle GPT-o3 und o4-mini das Unicode-Zeichen Narrow No-Break Space (U+202F) in generierten Texten ein. Dieses Zeichen sieht einem normalen Leerzeichen zum Verwechseln ähnlich, ist aber technisch eindeutig unterscheidbar.
Damit könnte ein Texteditor – etwa Notepad++ oder Sublime – das Zeichen sichtbar machen. Für gewöhnliche Nutzer bleiben solche Markierungen jedoch vollkommen unbemerkt. Ein Sprecher von OpenAI hat bislang nicht öffentlich Stellung zu diesem Vorgehen genommen.
Mögliche Funktion: Textherkunft kennzeichnen
Die Entdeckung wirft Fragen auf: Will OpenAI damit künftig KI-generierte Texte nachvollziehbar machen, ähnlich wie bereits bei KI-generierten Bildern? Zwar gab es in der Vergangenheit Versuche, Inhalte mit Wasserzeichen zu kennzeichnen, diese scheiterten jedoch an der technischen Umgehbarkeit und Fehleranfälligkeit.
Die aktuelle Markierung per Unicode-Zeichen wäre zwar diskret, aber leicht entfernbar. Ein einfacher „Suchen-und-Ersetzen“-Befehl genügt, um alle Sonderzeichen zu löschen und den Text vollständig zu bereinigen.
Nur bei OpenAI – andere Anbieter nicht betroffen
Golem.de konnte die unsichtbaren Zeichen bei Texten aus GPT-o3 und o4-mini bestätigen. Bei Tests mit Konkurrenzmodellen von Google und Anthropic wurden keine vergleichbaren Markierungen entdeckt. Das spricht dafür, dass es sich um ein experimentelles, möglicherweise temporäres Feature von OpenAI handelt.
Der Bericht von Rumi vermutet, dass die Markierung sich noch in der Testphase befindet – und womöglich eingestellt wird, sobald sie zu bekannt oder nutzlos wird. Schon früher hatte OpenAI einen eigenen KI-Detektor eingestellt, weil er zu unzuverlässig war und oft falsche Ergebnisse lieferte.
Transparenz oder Kontrolle?
Die versteckten Zeichen in ChatGPT-Texten könnten ein Schritt in Richtung Transparenz über KI-Inhalte sein – oder ein Mittel, um unauffällig Kontrolle über den Output zu behalten. Doch solange solche Markierungen nicht offen kommuniziert und technisch so leicht entfernbar sind, bleibt ihr Nutzen begrenzt – und ihr Einsatz umstritten.
