Indonesien blockiert vorübergehend den Zugriff auf den Chatbot Grok des KI-Unternehmens xAI. Grund sind nicht-einvernehmliche, sexualisierte Deepfakes, die der Dienst auf der Plattform X verbreitet haben soll.
Indonesische Behörden gaben am Samstag bekannt, dass der Zugang zu Grok temporär gesperrt wird. Grok hatte auf Anfragen von Nutzer:innen auf dem sozialen Netzwerk X sexualisierte, KI-generierte Bilder veröffentlicht. Diese Darstellungen betrafen häufig reale Frauen und Minderjährige und zeigten teilweise Übergriffe und Missbrauch. X und xAI gehören zum selben Unternehmen.
In einer Erklärung, die unter anderem dem „Guardian“ vorliegt, bezeichnete Kommunikations- und Digitalministerin Meutya Hafid nicht-einvernehmliche sexuelle Deepfakes als schwere Verletzung der Menschenrechte, der Würde und der Sicherheit von Bürger:innen im digitalen Raum. Das zuständige Ministerium hat nach Berichten zudem Vertreter:innen von X einbestellt, um den Vorfall zu besprechen.
In den vergangenen Tagen haben auch andere Regierungen reagiert. Das indische IT-Ministerium wies xAI an, Maßnahmen zu ergreifen, um zu verhindern, dass Grok obszöne Inhalte erzeugt. Die Europäische Kommission forderte das Unternehmen auf, alle Dokumente im Zusammenhang mit Grok aufzubewahren, was den Boden für eine mögliche Untersuchung bereiten könnte.
Im Vereinigten Königreich kündigte die Kommunikationsaufsicht Ofcom an, eine zügige Prüfung vorzunehmen, um mögliche Compliance-Verstöße zu bewerten, die eine Untersuchung rechtfertigen könnten. Premierminister Keir Starmer sagte in einem Interview, Ofcom habe seine volle Unterstützung, Maßnahmen zu ergreifen.
In den USA bleibt die Regierung von Präsident Trump bislang öffentlich still. xAI-Chef Elon Musk ist ein bedeutender Spender des Präsidenten und leitete im vergangenen Jahr das umstrittene „Ministerium für Regierungseffizienz“. Gleichzeitig forderten demokratische Senator:innen Apple und Google auf, die X-App aus ihren App-Stores zu entfernen.
xAI reagierte zunächst mit einer scheinbar aus der Ich-Perspektive formulierten Entschuldigung über den Grok-Account. Darin räumte das Unternehmen ein, dass ein Beitrag gegen ethische Standards und möglicherweise gegen US-Gesetze zu kinderpornografischem Material verstoßen habe. Anschließend beschränkte xAI die Funktion zur KI-Bilderzeugung auf zahlende Abonnent:innen von X. Diese Einschränkung schien jedoch nicht für die eigenständige Grok-App zu gelten, die weiterhin allen Personen die Bildgenerierung erlaubte.
Auf einen Beitrag, in dem gefragt wurde, warum die britische Regierung nicht gegen andere Werkzeuge zur KI-Bilderzeugung vorgehe, antwortete Musk, die Behörden wollten „jeden Vorwand für Zensur“. Damit stellte er die Maßnahmen in einen größeren politischen Kontext der Debatte um staatliche Eingriffe in Online-Plattformen.
Den Beitrag in unserem Forum kommentieren
WhatsApp führt eine Funktion ein, die Euch beim Öffnen eines Chats aktuelle Fotos und Videos aus der Galerie vorschlägt. Der…
Mit Gym Strength bringt Apple Fitness+ ein neues Krafttrainingserlebnis ins Fitnessstudio. Die Funktion ist derzeit als Beta verfügbar und erstellt…
Mit der ersten Beta von iOS 27.3 erweitert Apple die überarbeitete StandBy-Ansicht des iPhone Duo auf weitere Modelle. Das Update…
Mit iOS 27.3 ergänzt Apple Music die Karaoke-Funktion um Selfie Sing. Damit könnt Ihr Euch beim Singen filmen, den Liedtext…
Mit der ersten Beta von macOS 27.3 lassen sich Markdown-Dateien direkt in Quick Look formatiert ansehen. Die Vorschau zeigt damit…
Das Hackerteam Calif hat ein iPhone 18 Pro im Sperrmodus jailbreakt. In einem Video zeigt die Gruppe außerdem, dass der…
Diese Website benutzt Cookies um Ihr Nutzererlebnis zu verbessern. Wenn Sie diese Website weiter nutzen, gehen wir von Ihrem Einverständnis aus.
Mehr lesen