Claude kennzeichnet KI-Inhalte künftig mit Wasserzeichen

Anthropic führt Wasserzeichen für von Claude erzeugte Texte und Dateien ein. Das Unternehmen reagiert damit auf strengere EU-Vorgaben zur Kennzeichnung von KI-Inhalten.

EU-Regeln erzwingen mehr Transparenz

Anthropic reiht sich in eine wachsende Zahl von Anbietern ein, die Euch anzeigen, ob Inhalte von einer KI stammen. Künftig sollen Nutzer:innen klar erkennen können, ob ein Text oder eine Datei von einem Menschen oder von Claude erzeugt wurde. Das Unternehmen erklärte, dass alle Inhalte der eigenen KI-Modellfamilie entsprechend markiert werden, um Vorschriften der Europäischen Union zur Transparenz bei KI-Nutzung zu erfüllen.

Der EU-Verhaltenskodex zur Transparenz von KI-generierten Inhalten verlangt von Anbietern und Betreiber:innen von KI-Systemen, Kund:innen zu informieren, wenn sie mit KI interagieren. Zudem müssen KI-Inhalte mit Wasserzeichen versehen werden. Verbraucher:innen sollen außerdem erkennen können, wenn sie Deepfakes oder Werkzeuge zur Emotions­erkennung und biometrischen Kategorisierung ausgesetzt sind.

Wasserzeichen, ursprünglich eine Prüfmethode für Papier aus dem Italien des 13. Jahrhunderts, funktionieren bei KI-Inhalten anders. Das KI-System kann unsichtbare Markierungen in Text einbetten, die anzeigen, dass der Inhalt von einer Maschine und nicht von einem Menschen stammt. Dazu können veränderte Abstände zwischen Wörtern und Zahlen, bestimmte Wortfolgen oder andere unsichtbare Signale gehören, die selbst beim Kopieren über verschiedene Plattformen erhalten bleiben. Leser:innen sehen diese Signale nicht, Computersysteme hingegen schon.

Welche Claude-Inhalte künftig markiert werden

Laut Anthropic erhalten alle Claude-Modelle, die seit dem 2. August gestartet wurden, eine Wasserzeichen-Funktion. Das gilt für Inhalte, die über die Programmierschnittstelle, die Claude-App, Claude Code, Claude Cowork und Claude Tag erzeugt werden. Die Wasserzeichen sollen für sämtliche von Claude erzeugten Inhalte gelten, unabhängig davon, in welcher Region das System genutzt wird.

Anthropic kündigte an, nähere Informationen zur Erkennung der Wasserzeichen später zu veröffentlichen. Auf eine Anfrage nach weiteren Details reagierte das Unternehmen zunächst nicht.

Claude wird sowohl Texte als auch Dateien mit Wasserzeichen versehen, darunter Formate wie .svg, .png oder .jpg. Bei Texten werden die Signale in Buchstaben und Wörter eingebettet, für Leser:innen unsichtbar, für maschinelle Systeme jedoch auswertbar. Die Markierungen sollen selbst dann erhalten bleiben, wenn der Text etwa aus Windows Editor oder TextEdit in macOS kopiert und eingefügt wird. Auch menschliche Überarbeitungen könnten die Wasserzeichen nicht unbedingt entfernen.

„Wasserzeichen werden auf Modell-Ebene angewendet, das heißt, sie sind unabhängig davon vorhanden, aus welchem Claude-Produkt oder von welcher Oberfläche der Text stammt“, erklärte das Unternehmen. Bilddateien von Claude erhalten signierte Herkunfts-Metadaten mit Informationen zur Quelle, zur Urheber:in und zu eventuellen Änderungen. Versuche, diese Angaben zu manipulieren, etwa um die KI-Herkunft zu verschleiern, sollen die kryptografische Signatur ungültig machen und so auf eine Manipulation hinweisen.

Die Transparenz rund um KI-Inhalte nimmt insgesamt zu. So arbeitet etwa Substack mit Pangram zusammen, um Leser:innen anzuzeigen, wie viel eines Beitrags von KI stammt. Der Musikdienst Suno hat Funktionen eingeführt, mit denen Hörer:innen erkennen können, ob ein Song mit KI erstellt wurde. Bei LinkedIn können Kund:innen mutmaßlich KI-erzeugte Beiträge melden. Spotify informiert mit der Funktion „KI-Persona“ darüber, welche Musik mit KI erstellt wurde.

Wasserzeichen sind kein eindeutiger Beleg

Anthropic weist darauf hin, dass Wasserzeichen keine absolute Sicherheit bieten. Die bloße Präsenz eines Wasserzeichens bedeutet nicht zwingend, dass Inhalt oder Bild vollständig von Claude erzeugt wurden. Umgekehrt schließt ein fehlendes Wasserzeichen eine Beteiligung von Claude nicht sicher aus.

Ein Beispiel: Jemand gibt einen vorhandenen Aufsatz in Claude ein und lässt ihn umformulieren. Das Ergebnis trägt ein Wasserzeichen, die Fakten und Inhalte stammen aber von der ursprünglichen Autor:in. Laut Anthropic wird Claude häufig zum Korrekturlesen, Übersetzen oder Zusammenfassen genutzt.

Ebenso könnten Nutzer:innen Claude-Texte überarbeiten und mit anderem Material kombinieren. Selbst wenn nur ein kleiner Teil des Enddokuments aus Claude stammt, könnte ein Wasserzeichen vorhanden sein und bei Leser:innen Zweifel an der Herkunft wecken.

Anthropic betont zudem, dass von Claude erzeugte oder bearbeitete Inhalte unter Umständen kein Wasserzeichen tragen. Gründe können ein sehr geringer Anteil generierter Inhalte sein oder starke Veränderungen durch Bearbeitung, Paraphrasierung, Übersetzung oder Vermischung mit anderem Text. Auch Claude-Bilder können Wasserzeichen verlieren, etwa wenn jemand einen Screenshot anfertigt und das Bild als neue Datei speichert. In diesem Fall gehen die Metadaten verloren.

Während Anthropic versucht, die EU-Vorgaben einzuhalten, gelten Verfahren zur KI-Erkennung weiterhin als unzuverlässig. So berichten Untersuchungen, dass Beiträge von Nicht-Muttersprachler:innen im Englischen häufig fälschlich als KI-generiert markiert werden.

Via: https://www.cnet.com

Den Beitrag in unserem Forum kommentieren