Eil: EU ermittelt gegen X wegen sexueller Inhalte im KI-Chatbot Grok

Die EU-Kommission hat ein Verfahren gegen Elon Musks Plattform X eröffnet. Im Fokus steht der KI-Chatbot Grok, über den sexualisierte, teils manipulierte Bilder verbreitet worden sein sollen.

Untersuchung nach Digital Services Act

Die Europäische Kommission teilte am Montag mit, dass sie eine offizielle Untersuchung gegen X eingeleitet hat. Grundlage ist der umfassende europäische Rechtsrahmen für Onlineplattformen, der Digitale-Dienste-Gesetz (Digital Services Act, DSA). Die Ermittlungen richten sich auf die Verbreitung sexuell expliziten Materials durch Grok.

Die Kommission als Exekutivorgan der EU erklärte, sie wolle prüfen, ob X die Risiken im Zusammenhang mit der Einführung der Grok-Funktionen in der EU angemessen bewertet und gemindert hat. Dazu gehören insbesondere Gefahren durch die Verbreitung illegaler Inhalte in der EU. Genannt werden manipulierte sexuell explizite Bilder, einschließlich solcher, die als Darstellungen sexuellen Kindesmissbrauchs eingestuft werden könnten.

Nach Einschätzung der Kommission scheinen sich diese Risiken bereits realisiert zu haben. Dadurch seien Bürger:innen in der EU ernsthaften Schäden ausgesetzt worden. Die Prüfung soll nun klären, ob X seinen Sorgfaltspflichten nach dem DSA ausreichend nachgekommen ist.

Grok unter Druck wegen sexualisierter Bilder

Der KI-Chatbot Grok stand in diesem Jahr verstärkt in der Kritik. Nutzer:innen konnten das System offenbar dazu bringen, sexualisierte Bilder von Kindern und anderen Personen zu erzeugen. Solche Inhalte stehen im direkten Konflikt mit europäischen und nationalen Gesetzen zum Schutz von Minderjährigen und zur Bekämpfung von Missbrauchsdarstellungen.

Das zu Elon Musk gehörende Unternehmen xAI hatte Anfang des Monats erklärt, Grok sei nicht mehr in der Lage, sexualisierte Bilder realer Personen zu erstellen. Damit reagierte xAI auf die Vorwürfe und versuchte, die Bildgenerierung des Systems zu begrenzen. Ob diese Maßnahmen aus Sicht der EU-Kommission ausreichen und ob sie rechtzeitig umgesetzt wurden, ist Teil der laufenden Untersuchung.

Nächste Schritte der EU-Kommission

Die EU-Kommission wird nun weitere Informationen von X einholen und bewertet, ob zusätzliche Maßnahmen notwendig sind. Der Fall ist ein weiterer Test dafür, wie konsequent der Digital Services Act bei großen Plattformen mit KI-Funktionen durchgesetzt wird. Mögliche Konsequenzen reichen je nach Ergebnis der Untersuchung von Auflagen bis hin zu empfindlichen Geldbußen.

Via: https://www.cnbc.com
Titelbild KI (Zur Illustration)

Den Beitrag in unserem Forum kommentieren