Der Kurznachrichtendienst X steht erneut im Fokus europäischer Aufsichtsbehörden. Grund sind Berichte, dass die KI Grok nicht-einvernehmliche sexualisierte Bilder realer Personen erzeugt.
Die irische Datenschutzkommission (Data Protection Commission, DPC) hat eine offizielle Untersuchung gegen X eingeleitet. Im Zentrum stehen schädliche, intime Bilder sowie die Verarbeitung personenbezogener Daten von Personen in der EU und im Europäischen Wirtschaftsraum – ausdrücklich auch von Kindern.
Auslöser sind unter anderem Zahlen der britischen Nichtregierungsorganisation Center for Countering Digital Hate (CCDH). Diese hatte im vergangenen Monat Ergebnisse einer Überprüfung für den Zeitraum vom 29. Dezember bis 9. Januar veröffentlicht. Demnach erzeugte X in diesen elf Tagen rund drei Millionen sexualisierte Bilder, schätzungsweise 23.000 davon betrafen Kinder.
Die Untersuchung soll klären, ob X gegen die Datenschutz-Grundverordnung (DSGVO) verstoßen hat. DPC-Vizekommissar Graham Doyle erklärte, die Behörde stehe seit einigen Wochen mit X Internet Unlimited Company (XIUC), der für X zuständigen Einheit, in Kontakt. Anlass seien Medienberichte über die angebliche Möglichkeit für X-Benutzer:innen, das Konto @Grok dazu zu bringen, sexualisierte Bilder realer Personen zu erzeugen – einschließlich von Kindern.
Doyle betonte, die DPC habe als federführende Aufsichtsbehörde für XIUC im EU-/EWR-Raum eine groß angelegte Untersuchung gestartet. Diese solle prüfen, ob XIUC zentrale Pflichten nach der DSGVO in Bezug auf die aktuellen Vorwürfe einhält.
Die irische Untersuchung könnte weitreichende Folgen für X in der gesamten EU haben. Gleichzeitig reiht sie sich in weitere Verfahren innerhalb der Europäischen Union ein. Bereits im Januar hatte die Europäische Kommission ein eigenes Verfahren eröffnet, um mögliche Verstöße von X gegen das Gesetz über digitale Dienste (Digital Services Act) zu prüfen.
Die Kommission untersucht, ob X die Risiken durch Grok auf der Plattform angemessen bewertet und gemindert hat. Dazu gehört insbesondere die Verbreitung illegaler Inhalte wie von KI erzeugten, nicht-einvernehmlichen sexualisiert expliziten Bildern. Auch hier stehen wieder Bilder von Kindern im Fokus.
X hatte Mitte Januar erklärt, Grok daran zu hindern, Fotos realer Personen so zu bearbeiten, dass diese freizügige Kleidung tragen. Diese Darstellung wird jedoch durch aktuelle Beispiele infrage gestellt.
Zu Beginn dieses Monats berichtete ein männlicher Journalist, Grok habe ihn weiterhin in freizügiger Kleidung dargestellt. Zusätzlich seien in den generierten Bildern sichtbare Genitalien hinzugefügt worden.
Die neuen Erkenntnisse erhöhen den Druck auf X, seine KI-Funktionen und Moderationsmechanismen in der EU transparenter zu machen und gegebenenfalls anzupassen. Sowohl die irische DPC als auch die Europäische Kommission werden nun prüfen, inwieweit X seinen rechtlichen Verpflichtungen beim Schutz von Nutzer:innen und insbesondere von Kindern nachkommt.
Via: https://www.engadget.com
Titelbild KI (Zur Illustration)
Den Beitrag in unserem Forum kommentieren
Apple öffnet Siri AI für Entwickler:innen. Zugleich rücken neue KI-Funktionen für die Apple Watch in den Blick, weil sie auf…
Die 10 stärksten Apple-Angebote am 04.11.2026 im Überblick — darunter 3 neue Bestpreise.
WhatsApp führt eine Funktion ein, die Euch beim Öffnen eines Chats aktuelle Fotos und Videos aus der Galerie vorschlägt. Der…
Mit Gym Strength bringt Apple Fitness+ ein neues Krafttrainingserlebnis ins Fitnessstudio. Die Funktion ist derzeit als Beta verfügbar und erstellt…
Mit der ersten Beta von iOS 27.3 erweitert Apple die überarbeitete StandBy-Ansicht des iPhone Duo auf weitere Modelle. Das Update…
Mit iOS 27.3 ergänzt Apple Music die Karaoke-Funktion um Selfie Sing. Damit könnt Ihr Euch beim Singen filmen, den Liedtext…
Diese Website benutzt Cookies um Ihr Nutzererlebnis zu verbessern. Wenn Sie diese Website weiter nutzen, gehen wir von Ihrem Einverständnis aus.
Mehr lesen