Kalifornischer Justizminister stoppt xAI wegen expliziter Grok-Deepfakes

Die kalifornische Generalstaatsanwaltschaft erhöht den Druck auf xAI: Nach einer offiziellen Untersuchung folgt nun eine Unterlassungsaufforderung. Im Fokus steht die KI Grok, die nicht einvernehmliche Deepfakes erzeugt haben soll.

Unterlassungsaufforderung gegen xAI und Grok

Kaliforniens Generalstaatsanwalt Rob Bonta hat xAI per Unterlassungsschreiben aufgefordert, bestimmte KI-generierte Inhalte sofort zu stoppen. Zuvor hatte sein Büro bereits eine formelle Untersuchung gegen das Unternehmen eingeleitet. Auslöser sind Berichte, wonach Grok Bilder realer Personen auf Anfrage von Nutzer:innen so verändert haben soll, dass diese in knapper Kleidung wie Bikinis dargestellt werden.

Bontas Behörde verlangt, dass xAI umgehend jede Erstellung von „digitalisiertem sexuell explizitem Material“ unterlässt, wenn die abgebildete Person dem nicht zugestimmt hat oder minderjährig ist. Außerdem soll xAI nicht länger die Erstellung oder Verbreitung solcher Inhalte erleichtern oder daran mitwirken, wenn es um nicht einvernehmliche Darstellungen oder Personen unter 18 Jahren geht.

Anpassungen bei X und Einschränkungen für Grok

Nach Bekanntwerden der Vorwürfe hatte X seine Richtlinien geändert. Der Grok-Account darf seitdem keine Bilder realer Menschen mehr so bearbeiten, dass sie in freizügiger Kleidung erscheinen. xAI hat zusätzlich die Bildfunktionen von Grok hinter eine Bezahlschranke gestellt. Gleichzeitig wurden zahlende Nutzer:innen in bestimmten Regionen daran gehindert, Fotos realer Personen etwa in Bikinis zu verändern – allerdings nur dort, wo dies rechtlich untersagt ist.

In seiner Mitteilung wirft Bonta xAI vor, für Grok eigens einen „pikanten Modus“ entwickelt zu haben, mit dem explizite Inhalte erzeugt werden können, und diesen Modus als Werbeargument genutzt zu haben. Laut Bonta werden von Grok erzeugte sexualisierte Bilder eingesetzt, um sowohl öffentliche Personen als auch gewöhnliche Nutzer:innen zu belästigen.

Vorwürfe zu Minderjährigen und rechtliche Grundlage

Bonta betont in seiner Erklärung besonders die Berichte, wonach Grok verwendet worden sein soll, um Bilder von Kindern zu verändern. Diese sollen in minimaler Kleidung und sexuellen Situationen dargestellt worden sein. Das Schreiben der Generalstaatsanwaltschaft hält fest, dass die beschriebenen Handlungen gegen kalifornisches Recht verstoßen. Genannt werden unter anderem Abschnitt 1708.86 des kalifornischen Zivilrechts, die Abschnitte 311 ff. und 647(j)(4) des Strafgesetzbuchs sowie Abschnitt 17200 des Gesetzes über Geschäfts- und Berufsausübung.

Das Justizministerium des Bundesstaats erwartet nun innerhalb von fünf Tagen eine Rückmeldung von xAI. Das Unternehmen soll darlegen, welche Schritte es unternimmt, um die angesprochenen Probleme zu lösen. In einer öffentlichen Aussage heißt es zudem, xAI habe nicht einvernehmliche intime Deepfake-Bilder produziert, die zur Belästigung von Frauen und Mädchen im gesamten Internet eingesetzt werden. Dies sei nicht hinnehmbar, man verlange sofortige Antworten zu den Plänen von xAI, die Erstellung und Verbreitung solcher Inhalte zu stoppen, und werde alle verfügbaren Mittel nutzen, um Betroffene zu schützen.

Via: https://www.engadget.com
Titelbild: Screenshot

Den Beitrag in unserem Forum kommentieren