Der Kurznachrichtendienst X steht erneut im Fokus europäischer Aufsichtsbehörden. Grund sind Berichte, dass die KI Grok nicht-einvernehmliche sexualisierte Bilder realer Personen erzeugt.
Irische Datenschutzbehörde nimmt X ins Visier
Die irische Datenschutzkommission (Data Protection Commission, DPC) hat eine offizielle Untersuchung gegen X eingeleitet. Im Zentrum stehen schädliche, intime Bilder sowie die Verarbeitung personenbezogener Daten von Personen in der EU und im Europäischen Wirtschaftsraum – ausdrücklich auch von Kindern.
Auslöser sind unter anderem Zahlen der britischen Nichtregierungsorganisation Center for Countering Digital Hate (CCDH). Diese hatte im vergangenen Monat Ergebnisse einer Überprüfung für den Zeitraum vom 29. Dezember bis 9. Januar veröffentlicht. Demnach erzeugte X in diesen elf Tagen rund drei Millionen sexualisierte Bilder, schätzungsweise 23.000 davon betrafen Kinder.
Die Untersuchung soll klären, ob X gegen die Datenschutz-Grundverordnung (DSGVO) verstoßen hat. DPC-Vizekommissar Graham Doyle erklärte, die Behörde stehe seit einigen Wochen mit X Internet Unlimited Company (XIUC), der für X zuständigen Einheit, in Kontakt. Anlass seien Medienberichte über die angebliche Möglichkeit für X-Benutzer:innen, das Konto @Grok dazu zu bringen, sexualisierte Bilder realer Personen zu erzeugen – einschließlich von Kindern.
Doyle betonte, die DPC habe als federführende Aufsichtsbehörde für XIUC im EU-/EWR-Raum eine groß angelegte Untersuchung gestartet. Diese solle prüfen, ob XIUC zentrale Pflichten nach der DSGVO in Bezug auf die aktuellen Vorwürfe einhält.
Parallele Prüfung nach dem Gesetz über digitale Dienste
Die irische Untersuchung könnte weitreichende Folgen für X in der gesamten EU haben. Gleichzeitig reiht sie sich in weitere Verfahren innerhalb der Europäischen Union ein. Bereits im Januar hatte die Europäische Kommission ein eigenes Verfahren eröffnet, um mögliche Verstöße von X gegen das Gesetz über digitale Dienste (Digital Services Act) zu prüfen.
Die Kommission untersucht, ob X die Risiken durch Grok auf der Plattform angemessen bewertet und gemindert hat. Dazu gehört insbesondere die Verbreitung illegaler Inhalte wie von KI erzeugten, nicht-einvernehmlichen sexualisiert expliziten Bildern. Auch hier stehen wieder Bilder von Kindern im Fokus.
X-Aussagen zu Grok stehen in der Kritik
X hatte Mitte Januar erklärt, Grok daran zu hindern, Fotos realer Personen so zu bearbeiten, dass diese freizügige Kleidung tragen. Diese Darstellung wird jedoch durch aktuelle Beispiele infrage gestellt.
Zu Beginn dieses Monats berichtete ein männlicher Journalist, Grok habe ihn weiterhin in freizügiger Kleidung dargestellt. Zusätzlich seien in den generierten Bildern sichtbare Genitalien hinzugefügt worden.
Die neuen Erkenntnisse erhöhen den Druck auf X, seine KI-Funktionen und Moderationsmechanismen in der EU transparenter zu machen und gegebenenfalls anzupassen. Sowohl die irische DPC als auch die Europäische Kommission werden nun prüfen, inwieweit X seinen rechtlichen Verpflichtungen beim Schutz von Nutzer:innen und insbesondere von Kindern nachkommt.
Via: https://www.engadget.com
Titelbild KI (Zur Illustration)
