Nach heftiger Kritik stoppt Elon Musks KI-Unternehmen xAI eine zentrale Bildfunktion des Chatbots Grok. Sexualisierte Darstellungen realer Personen sollen nicht mehr erstellt werden können.
xAI reagiert auf wachsenden politischen Druck
xAI teilte am späten Mittwoch mit, dass Grok keine sexualisierten Bilder realer Menschen mehr erzeugen darf, wenn Benutzer:innen entsprechende Anweisungen geben. Auslöser sind anhaltende Proteste von politischen Entscheidungsträger:innen in den USA und anderen Ländern.
Das Sicherheitskonto der Plattform X erklärte in einem Beitrag, man habe technische Maßnahmen umgesetzt, um zu verhindern, dass der Grok-Account Bilder realer Personen in freizügiger Kleidung wie Bikinis bearbeitet. Diese Einschränkung gelte für alle Nutzer:innen, ausdrücklich auch für zahlende Abonnent:innen.
Ermittlungen in Kalifornien und weltweit
Die Ankündigung kam nur wenige Stunden, nachdem der kalifornische Generalstaatsanwalt Rob Bonta erklärt hatte, seine Behörde untersuche xAI. Im Zentrum steht der Verdacht auf eine „groß angelegte Produktion nicht einvernehmlicher intimer Deepfake-Bilder“.
Bereits zuvor waren Ermittlungen in Indien, Malaysia, Indonesien, Irland, dem Vereinigten Königreich, Frankreich und Australien sowie durch die Europäische Kommission bekannt geworden. In den USA forderten drei demokratische Senator:innen Apple und Google auf, die Apps von X und Grok aus ihren App-Stores zu entfernen, bis das Unternehmen Maßnahmen ergreift, um die einfache Erstellung nicht einvernehmlicher expliziter Bilder zu verhindern.
Bildbearbeitung nur noch für zahlende Abonnent:innen
In demselben Beitrag erklärte Musks Unternehmen außerdem, dass die Bildbearbeitung über Grok auf X künftig grundsätzlich zahlenden Abonnent:innen vorbehalten bleibt. Die Funktion zur Erstellung und Bearbeitung von Bildern ist damit eingeschränkt, während die technischen Sperren für sexualisierte Darstellungen realer Personen für alle Accounts gelten.
Die Entwicklung rund um xAI und Grok ist noch im Gange. Weitere Details, etwa zu den laufenden Untersuchungen und möglichen zusätzlichen Maßnahmen, stehen noch aus.
Via: https://www.cnbc.com
Titelbild: Screenshot
