Die Plattform X hat neue Beschränkungen für den KI-Assistenten Grok angekündigt, um sexuelle Deepfakes einzudämmen. Recherchen zeigen jedoch, dass sich weiterhin freizügige Bilder realer Personen erzeugen lassen.
Neue Regeln nach Welle nicht-einvernehmlicher Deepfakes
Auslöser für die Änderungen ist die starke Verbreitung nicht-einvernehmlicher sexueller Deepfakes auf X. Das Unternehmen beschreibt nun konkrete Einschränkungen für das offizielle Grok-Konto, mit denen Bildbearbeitungen realer Menschen in freizügiger Kleidung verhindert werden sollen.
Die Anpassungen entsprechen Berichten der britischen Zeitung The Telegraph. Dort wurde bereits dokumentiert, dass Antworten von Grok auf Aufforderungen wie „zieh sie in einen Bikini“ zensiert werden. X stellt dies als Ergebnis neuer technischer Schutzmaßnahmen dar.
Trotz dieser Ankündigungen zeigte ein Test des Angebots am Mittwoch jedoch ein anderes Bild. Es war weiterhin relativ einfach, mit Grok freizügige Deepfakes zu erzeugen. Die KI konnte Bilder einer realen Person in aufreizenden Posen erstellen, obwohl die Plattform dies eigentlich unterbinden will.
X verweist auf „Nutzeranfragen“ und „gegnerische Angriffe“
Besitzer von X und xAI, Elon Musk, führte die beobachteten Probleme auf bestimmte „Nutzeranfragen“ und auf „Zeiten, in denen gegnerisches Hacken von Grok-Eingaben etwas Unerwartetes auslöst“ zurück. Die Verantwortung liege demnach bei Missbrauch der Schnittstelle sowie bei gezielt manipulativen Eingaben.
Nach Angaben von X hat das Sicherheits-Team technische Maßnahmen umgesetzt, um über das Grok-Konto keine Bilder realer Menschen mehr in freizügiger Kleidung wie Bikinis bearbeiten zu können. Diese Einschränkung soll für alle Benutzer:innen gelten, also auch für zahlende Abonnent:innen.
Zugleich wurde die Bildgenerierung und Bildbearbeitung über das Grok-Konto auf X generell auf zahlende Abonnent:innen begrenzt. Laut X soll diese Hürde helfen, Personen, die Grok für rechtswidrige oder regelwidrige Zwecke einsetzen, besser identifizieren und zur Verantwortung ziehen zu können.
Zusätzlich spricht X von einer geografischen Sperre. In Ländern, in denen das Erzeugen von Bildern realer Personen in Bikinis, Unterwäsche oder ähnlicher Kleidung illegal ist, soll Grok über X solche Inhalte generell nicht mehr erzeugen dürfen. Ein entsprechendes Geoblocking sei aktiviert worden.
Druck aus Großbritannien und offene Fragen zur Wirksamkeit
In Großbritannien hat die Kommunikationsaufsicht Ofcom eine Untersuchung eingeleitet. Gleichzeitig tritt dort in dieser Woche ein Gesetz in Kraft, das die Erstellung nicht-einvernehmlicher intimer Deepfake-Bilder unter Strafe stellt.
Der britische Premierminister Keir Starmer erklärte im Parlament, er sei informiert worden, dass X Schritte unternehme, um das Vereinigte Königreich vollständig rechtskonform zu bedienen. Falls dies zutreffe, sei das zu begrüßen, aber die Regierung werde nicht nachgeben und X müsse handeln.
Die BBC berichtet, der offizielle Sprecher des Premiers habe von einer „eingeschränkt positiven“ Reaktion gesprochen. Grundlage seien Medienberichte, wonach X Maßnahmen gegen die Probleme mit Grok eingeleitet habe.
Die durchgeführten Tests mit dem Grok-Dienst zeichnen jedoch ein anderes Bild. Trotz der angekündigten Richtlinien konnten Reporter:innen am Mittwochabend weiterhin mit einem kostenlosen Konto in der Grok-App freizügige Bilder einer Person im Bikini erzeugen. Damit bleibt offen, in welchem Umfang die angekündigten Beschränkungen tatsächlich greifen.
