Indonesien blockiert vorübergehend den Zugriff auf den Chatbot Grok des KI-Unternehmens xAI. Grund sind nicht-einvernehmliche, sexualisierte Deepfakes, die der Dienst auf der Plattform X verbreitet haben soll.
Indonesien reagiert auf sexualisierte KI-Bilder
Indonesische Behörden gaben am Samstag bekannt, dass der Zugang zu Grok temporär gesperrt wird. Grok hatte auf Anfragen von Nutzer:innen auf dem sozialen Netzwerk X sexualisierte, KI-generierte Bilder veröffentlicht. Diese Darstellungen betrafen häufig reale Frauen und Minderjährige und zeigten teilweise Übergriffe und Missbrauch. X und xAI gehören zum selben Unternehmen.
In einer Erklärung, die unter anderem dem „Guardian“ vorliegt, bezeichnete Kommunikations- und Digitalministerin Meutya Hafid nicht-einvernehmliche sexuelle Deepfakes als schwere Verletzung der Menschenrechte, der Würde und der Sicherheit von Bürger:innen im digitalen Raum. Das zuständige Ministerium hat nach Berichten zudem Vertreter:innen von X einbestellt, um den Vorfall zu besprechen.
Unterschiedliche Reaktionen weltweit
In den vergangenen Tagen haben auch andere Regierungen reagiert. Das indische IT-Ministerium wies xAI an, Maßnahmen zu ergreifen, um zu verhindern, dass Grok obszöne Inhalte erzeugt. Die Europäische Kommission forderte das Unternehmen auf, alle Dokumente im Zusammenhang mit Grok aufzubewahren, was den Boden für eine mögliche Untersuchung bereiten könnte.
Im Vereinigten Königreich kündigte die Kommunikationsaufsicht Ofcom an, eine zügige Prüfung vorzunehmen, um mögliche Compliance-Verstöße zu bewerten, die eine Untersuchung rechtfertigen könnten. Premierminister Keir Starmer sagte in einem Interview, Ofcom habe seine volle Unterstützung, Maßnahmen zu ergreifen.
In den USA bleibt die Regierung von Präsident Trump bislang öffentlich still. xAI-Chef Elon Musk ist ein bedeutender Spender des Präsidenten und leitete im vergangenen Jahr das umstrittene „Ministerium für Regierungseffizienz“. Gleichzeitig forderten demokratische Senator:innen Apple und Google auf, die X-App aus ihren App-Stores zu entfernen.
Reaktion von xAI und Musk
xAI reagierte zunächst mit einer scheinbar aus der Ich-Perspektive formulierten Entschuldigung über den Grok-Account. Darin räumte das Unternehmen ein, dass ein Beitrag gegen ethische Standards und möglicherweise gegen US-Gesetze zu kinderpornografischem Material verstoßen habe. Anschließend beschränkte xAI die Funktion zur KI-Bilderzeugung auf zahlende Abonnent:innen von X. Diese Einschränkung schien jedoch nicht für die eigenständige Grok-App zu gelten, die weiterhin allen Personen die Bildgenerierung erlaubte.
Auf einen Beitrag, in dem gefragt wurde, warum die britische Regierung nicht gegen andere Werkzeuge zur KI-Bilderzeugung vorgehe, antwortete Musk, die Behörden wollten „jeden Vorwand für Zensur“. Damit stellte er die Maßnahmen in einen größeren politischen Kontext der Debatte um staatliche Eingriffe in Online-Plattformen.
