Nach einem Bericht des Wall Street Journal, in dem behauptet wurde, dass OpenAI an einem Tool arbeitet, das in ChatGPT geschriebene Aufsätze mit hoher Genauigkeit erkennen kann, hat das Unternehmen einige Informationen über seine Forschung im Bereich Text-Wasserzeichen mitgeteilt – und warum es seine Erkennungsmethode nicht veröffentlicht hat. Dem Bericht des Wall Street Journal zufolge hat die Debatte darüber, ob das Tool veröffentlicht werden sollte, dazu geführt, dass es nicht das Licht der Welt erblickte, obwohl es “bereit” war. In einem am Sonntag veröffentlichten Update zu einem Blogeintrag vom Mai, der von TechCrunch entdeckt wurde, erklärte OpenAI: “Unsere Teams haben eine Methode zur Erkennung von Text-Wasserzeichen entwickelt, die wir weiterhin prüfen, während wir nach Alternativen suchen.”
Das Unternehmen sagte, das Wasserzeichen sei eine von mehreren Lösungen, einschließlich Klassifikatoren und Metadaten, die es als Teil einer “umfassenden Forschung im Bereich der Textprovenienz” untersucht habe. Laut OpenAI hat sich diese Lösung in einigen Situationen als sehr genau erwiesen, funktioniert aber nicht so gut, wenn bestimmte Formen der Manipulation auftreten, wie die Verwendung von Übersetzungssystemen, die Umformulierung mit einem anderen generativen Modell oder die Anweisung an das Modell, ein bestimmtes Zeichen zwischen jedem Wort einzufügen und dieses Zeichen dann zu löschen. Und Text-Wasserzeichen könnten “einige Gruppen unverhältnismäßig beeinträchtigen”, schreibt OpenAI. “Zum Beispiel könnte es die Nutzung von KI als nützliches Schreibwerkzeug für Nicht-Muttersprachler stigmatisieren.”
Dem Blogeintrag zufolge hat OpenAI diese Risiken abgewogen. Das Unternehmen schrieb auch, dass es der Veröffentlichung von Authentifizierungswerkzeugen für audiovisuelle Inhalte Priorität eingeräumt habe. In einer Stellungnahme gegenüber TechCrunch sagte ein Sprecher von OpenAI, dass das Unternehmen einen “bewussten Ansatz” für die Textprovenienz gewählt habe, da “die damit verbundene Komplexität und die wahrscheinlichen Auswirkungen auf das breitere Ökosystem über OpenAI hinaus” seien.
