OpenAI erwägt, dem von ChatGPT generierten Text Wasserzeichen hinzuzufügen

Laut dem Wall Street Journal verfügt OpenAI seit etwa einem Jahr über ein System zum Wasserzeichen von Texten, die von ChatGPT generiert wurden , sowie ein Tool zur Erkennung von Wasserzeichen. Das Unternehmen diskutiert jedoch intern über die Veröffentlichung. Einerseits erscheint es verantwortungsvoll, andererseits könnte es den Gewinn des Unternehmens schädigen.

Das Wasserzeichen von OpenAI wird als Anpassung der Art und Weise beschrieben, wie das Modell die wahrscheinlichsten Wörter und Ausdrücke nach vorherigen Wörtern und Ausdrücken vorhersagt, wodurch ein erkennbares Muster entsteht.

Die Möglichkeit, KI-geschriebene Dokumente zu erkennen, ist ein potenzieller Vorteil für Lehrer, die Schüler davon abhalten wollen, KI für ihre Hausaufgaben zu verwenden. Das Journal berichtet, das Unternehmen habe festgestellt, dass Wasserzeichen die Qualität der Textausgabe des Chatbots nicht beeinträchtigten. In einer vom Unternehmen in Auftrag gegebenen Umfrage „befürworteten Menschen weltweit die Idee von KI-Erkennungstools im Verhältnis 4:1“, schreibt das Journal.

Nachdem das Journal seinen Artikel veröffentlicht hatte, bestätigte OpenAI in einem heute von TechCrunch entdeckten aktualisierten Blogbeitrag, dass es sich für das Textwasserzeichen eingesetzt hatte. Darin erklärte das Unternehmen, seine Methode sei präzise („99,9 % effektiv“, laut Dokumenten, die dem Journal vorliegen) und resistent gegen „Spoofing, wie etwa Paraphrasieren“. Das Unternehmen äußerte außerdem Bedenken, die Nützlichkeit seiner KI-Tools für Nicht-Muttersprachler zu stigmatisieren.

OpenAI scheint jedoch auch besorgt zu sein, dass die Verwendung von Wasserzeichen ChatGPT-Benutzer vergraulen könnte. Einer Umfrage zufolge gaben fast 30 % von ihnen gegenüber dem Unternehmen an, dass sie die Software weniger verwenden würden, wenn die Wasserzeichenfunktion implementiert wäre.

Einige Mitarbeiter sind dennoch überzeugt, dass die Wasserzeichenfunktion funktionieren wird. Als Reaktion auf die Frustration der Nutzer schrieb das Journal jedoch, dass einige der vorgeschlagenen Testmethoden „unter den Nutzern vielleicht weniger umstritten, aber unbewiesen“ seien. In einem Update zum heutigen Blogbeitrag erklärte das Unternehmen, man befinde sich noch in der Anfangsphase der Erforschung der Metadateneinbettung. Es sei noch zu früh, um zu beurteilen, wie gut die neue Funktion funktionieren werde. Da sie jedoch kryptografisch signiert sei, dürfte es keine Fehlalarme geben.