Vorwürfe: Fotos von Minderjährigen zu Missbrauchsdarstellungen verfremdet
Drei Jugendliche aus Tennessee, geführt als Jane Doe 1, 2 und 3, klagen vor einem Bundesgericht im nördlichen Bezirk von Kalifornien gegen X.AI Corp und X.AI LLC. Sie geben an, dass reale Bilder von ihnen aus der Schulzeit von Grok so verändert wurden, dass sie nackt oder in sexuellen Posen dargestellt werden. Laut Klageschrift wurden die so erzeugten Bilder und Videos unter anderem über Discord, Telegram und andere Plattformen verbreitet. Dort wurden die Bilder teils als Tauschmittel für weiteres kinderpornografisches Material genutzt.
Eine der Klägerinnen, Jane Doe 1, erfuhr im Dezember durch einen anonymen Hinweis auf Instagram von den manipulierten Bildern. Ein Unbekannter schickte ihr einen Link zu einem Discord-Server, auf dem sexualisierte Bilder von ihr und anderen ihr bekannten Minderjährigen aus der Schule kursierten. Nach Angaben der Klage stellten Ermittlungsbehörden gegenüber den Eltern klar, dass Grok die Bilder erstellt habe.
Jane Doe 2 wurde von Strafverfolgungsbehörden informiert, dass sexualisierte Bilder von ihr durch eine Drittanbieter-App entstanden seien, die auf Grok-Modelle zurückgreift. Bei Jane Doe 3 fanden Ermittler:innen ein verfremdetes, pornografisches Bild auf dem Handy einer festgenommenen Person. Die Anwält:innen argumentieren, dass auch in diesen Fällen xAI verantwortlich sei, da die Nutzung durch Dritte über xAI-Code und -Server laufe.
Sammelklage und rechtliche Argumentation gegen xAI
Die Klägerinnen wollen die Klage als Sammelklage führen und vertreten damit nach eigener Einschätzung „mindestens Tausende Minderjährige“, deren Fotos ebenfalls von Grok in sexualisierte Darstellungen verwandelt worden seien. Sie machen geltend, dass xAI mehrere Gesetze verletzt habe, die die Herstellung und Verbreitung von kinderpornografischem Material verbieten und Unternehmen zu Schutzmaßnahmen verpflichten.
Zentraler Vorwurf ist, dass xAI grundlegende Schutzmechanismen nicht umgesetzt habe, die andere KI-Labore nutzen, um zu verhindern, dass ihre Bildmodelle Pornografie mit realen Personen und Minderjährigen erzeugen. Die Klage führt aus, dass bei Modellen, die Nacktheit oder erotischen Inhalt aus realen Fotos generieren, praktisch nicht ausgeschlossen werden könne, dass auch Bilder von Kindern betroffen sind. Musks frühere öffentliche Aussagen über die „würzigen“ Fähigkeiten von Grok, inklusive der Darstellung realer Menschen in knappen Outfits, spielen in der Klage eine wichtige Rolle.
Die Klägerinnen berichten von enormem psychischem Leid und Sorgen um ihren Ruf, ihre soziale Umgebung und ihre persönliche Sicherheit. In der Klage heißt es, ihre Leben seien durch den Verlust von Privatsphäre, Würde und Sicherheit „zerstört“. Sie fordern zivilrechtliche Sanktionen auf Basis verschiedener Gesetze zum Schutz ausgebeuteter Kinder und zur Vermeidung unternehmerischer Fahrlässigkeit.
Reaktionen, Ermittlungen und Einschränkungen bei Grok
xAI hat auf Anfragen von Medien zu der Klage zunächst nicht reagiert. Das Unternehmen steht bereits wegen Berichten über von Grok generierte nicht-einvernehmliche Nacktdarstellungen unter Beobachtung. Von Behörden in den USA genauso wie in Europa. Forschende des Center for Countering Digital Hate schätzten im Januar, dass Grok Millionen sexualisierter Bilder erzeugt habe. Darunter rund 23.000 Bilder, die offenbar Kinder zeigen.
Elon Musk erklärte, ihm seien keine von Grok erzeugten Nacktbilder Minderjähriger bekannt! xAI kündigte im Januar an, die Bildbearbeitung von realen Personen in Bikinis zu unterbinden. Außerdem stelle man die Bildgenerierungsfunktion von Grok nur noch zahlenden Abonnent:innen zur Verfügung. Nach Darstellung der Kläger:innen sind solche Maßnahmen unzureichend. Außerdem erfolgen sie zu spät, da die bereits erzeugten Bilder weiterhin online gehandelt und verbreitet würden.
Via: www.engadget.com · techcrunch.com
