Der KI-Entwickler Anthropic stattet die Sprachmodelle seiner Claude-Reihe seit dem 2. August mit einem nicht wahrnehmbaren digitalen Wasserzeichen aus. Das unsichtbare Zeichen wird direkt in den erzeugten Text eingebettet und bleibt auch beim Kopieren und Einfügen erhalten. Mit diesem Schritt reagiert das Unternehmen auf wachsende Transparenzforderungen im Rahmen des KI-Gesetzes der Europäischen Union. Die Neuerung hat in der Tech-Branche und im Bildungssektor eine Debatte darüber ausgelöst, wie sichtbar der Einsatz von künstlicher Intelligenz in schriftlichen Arbeiten sein muss und welche praktischen Risiken mit einer automatischen Kennzeichnung einhergehen.
- Seit dem 2. August generierte Claude-Texte enthalten ein unachtbares digitales Wasserzeichen.
- Anthropic reagiert damit unter anderem auf Vorgaben des europäischen KI-Gesetzes.
- Kritiker befürchten Nachteile beim Urheberrecht, beim Lektorat und in Berufsbeziehungen.
Wachsende Regulierung und Sorge vor KI-Datenmüll ebneten den Weg
Die Entscheidung zur Kennzeichnung von KI-Inhalten besitzt eine längere Vorgeschichte. Einerseits wächst weltweit der rechtliche Druck auf Softwareunternehmen: Anthropic begründet die Einführung explizit mit Verpflichtungen im Rahmen des AI Acts der Europäischen Union, der eine Kennzeichnung synthetischer Medien verlangt.
Andererseits steht die Tech-Industrie vor dem Problem, dass künftige KI-Modelle nicht auf einer Flut von Inhalten trainiert werden sollen, die bereits von früheren Chatbots verfasst wurden. Der Softwareentwickler Donn Felker vergleicht diese Dynamik mit einer Schlange, die sich selbst frisst. Brett Levenson, Geschäftsführer des KI-Governance-Unternehmens Moonbounce und ehemaliger Vertrauens- und Sicherheitsexperte bei Meta, betont, dass unkontrollierter KI-Datenmüll die Verbesserung künftiger Systeme hemmen könnte. Anthropic versuche mit den Wasserzeichen auch, diesen Zeitpunkt hinauszuzögern.
Anthropic integriert unsichtbare Signatur in Ausgabetexte
Das Verfahren betrifft alle Claude-Modelle, die am oder nach dem 2. August veröffentlicht wurden, und verändert die Funktionsweise des reinen Ausgabetextes.
Nach Angaben von Anthropic lässt sich die Markierung nicht auf einzelne Organisationen oder spezifische Konten zurückverfolgen. Dennoch fallen die Reaktionen aus der Praxis gespalten aus.
Befürworter betonen den Nutzen für die Transparenz in Schulen, Universitäten und Online-Medien. Gaetan Semet, Softwareentwickler bei der Renault Group, sieht darin ein wirksames Werkzeug gegen Täuschungsversuche im Bildungswesen. Auch Aadit Sheth, Mitgründer der Kommunikationsfirma The Narrative Company, erklärt, dass Leser ein Recht darauf haben zu erfahren, ob ein Text das eigene Denken einer Person widerspiegelt.
Auf der anderen Seite warnen Fachleute vor Risiken im Berufsalltag. Der freiberufliche Entwickler Vladislav Rajtmajer und der Politikberater Arturo Villarroya äußerten die Befürchtung, dass markierte Texte oder Programmiercodes bei Kunden, Arbeitgebern oder Universitäten zu pauschalen Verdächtigungen führen könnten. Selbst wenn Claude lediglich für Grammatikprüfungen oder Zusammenfassungen genutzt wurde, könnte die Markierung bestehen bleiben. Analyst Ben Thompson verglich die Kennzeichnung von Korrekturhilfen damit, von einem Kugelschreiber zu verlangen, sich als Autor auszugeben.
Anthropic stellte dazu in einem Blogbeitrag klar, dass das Wasserzeichen nur an Worten haftet, die von Claude gewählt wurden. Zudem betonte das Unternehmen, dass die Wasserzeichen keine Auswirkungen auf das Urheberrecht oder die Eigentumsrechte der Nutzer an den Texten haben.
Prüfwerkzeuge und Nachrüstung älterer Modelle stehen bevor
Für die nahe Zukunft hat Anthropic bereits konkrete Schritte angekündigt. Das Unternehmen plant, in Kürze ein Erkennungswerkzeug zu veröffentlichen, mit dem das Wasserzeichen in Texten überprüft werden kann. Zudem sollen schrittweise auch ältere Claude-Modelle mit der Wasserzeichen-Technologie nachgerüstet werden.
Für Anwender in der Praxis impliziert diese Entwicklung ein höheres Maß an Dokumentationspflicht bei der Nutzung von KI-Assistenten im beruflichen und akademischen Umfeld. Da Prüfwerkzeuge künftig rasch anschlagen können, müssen Nutzer genauer offenlegen, in welchem Umfang KI-Systeme an der Texterstellung beteiligt waren.
Befürworten Sie eine Pflicht zu Wasserzeichen in KI-Texten oder überwiegen für Sie die Nachteile bei der täglichen Arbeit? Teilen Sie Ihre Meinung in den Kommentaren.
