Die Porno-Deepfakes auf X verstoßen klar gegen die Richtlinien der App-Stores. Trotzdem bleibt die App bei Apple und Google verfügbar – und wirft grundsätzliche Fragen auf.
Klare Richtlinien, keine Konsequenzen
Seit Nutzer:innen von X den KI-Chatbot Grok einsetzen, um Frauen und Kinder per Deepfake zu entkleiden, liegt ein Schritt eigentlich nahe: der Rauswurf von X aus den App-Stores von Apple und Google. Dass das bisher nicht passiert ist, sagt viel über die aktuelle Führung im Silicon Valley aus.
Apple formuliert seine Richtlinien deutlich: „Apps sollten keine Inhalte enthalten, die anstößig, unsensibel, verstörend, abscheulich, von außergewöhnlich schlechtem Geschmack oder einfach nur unheimlich sind.“ Genau diese Beschreibung trifft auf die beschriebenen Inhalte zu.
Google ist in seinen Vorgaben noch expliziter: „Apps, die es Nutzer:innen nicht verbieten, Inhalte zu erstellen, hochzuladen oder zu verbreiten, die die Ausbeutung oder den Missbrauch von Kindern erleichtern, werden umgehend aus Google Play entfernt. Das schließt sämtliches Material zum sexuellen Missbrauch von Kindern ein.“
Die Anwendung dieser Regeln auf X würde einen offenen Konflikt mit Elon Musk und dem rechten Medienökosystem nach sich ziehen, das sich stark auf X stützt. Damit würden sich Apple-Chef Tim Cook und Google-CEO Sundar Pichai gleichzeitig mit politisch einflussreichen Akteur:innen in den USA anlegen.
Politischer Druck und alte Argumente
Apple ist stark von China abhängig, während Smartphones, Computer und Chips derzeit von Zöllen ausgenommen sind. Diese Ausnahme könnte fallen, wenn das Unternehmen mit Donald Trump und seinem Umfeld in Konflikt gerät – unabhängig davon, welche Zugeständnisse Cook macht.
Google steht ähnlich unter Druck. Trump hat Google wiederholt wegen seiner Positionierung in den Suchergebnissen attackiert. YouTube blieb bislang weitgehend von scharfer Kritik an seiner Inhaltsmoderation verschont, auch weil Pichai Trump immer wieder versicherte, seine Aktivitäten seien Rekorde in der Google-Suche.
Parallel ist die Regulierung von Künstlicher Intelligenz in den USA umkämpft, und ein verärgerter Elon Musk mit Einfluss auf diese Politik wäre für Google höchst problematisch. So haben sich Cook und Pichai in eine Lage manövriert, in der politischer Druck und wirtschaftliche Interessen die eigenen Prinzipien überlagern.
Apple und Google wollten sich zu diesen Fragen nicht äußern.
Widerspruch zu früheren App-Store-Verteidigungen
Im Kartellverfahren Epic gegen Apple argumentierte Apple ausführlich, die vollständige Kontrolle über den App Store sei notwendig, um Nutzer:innen zu schützen. Damals kritisierte Apple einen alternativen Store, der über Epic installiert werden konnte, weil dort angeblich „pornografische“ Spiele angeboten wurden, und bezeichnete Inhalte auf Itch.io als „anstößig und sexualisiert“.
Gleichzeitig tolerieren Apple und Google jetzt nicht-einvernehmliche KI-Bilder von Frauen in aufreizenden Posen und Darstellungen von Kindern in sexualisiertem Kontext, die im Minutentakt erzeugt wurden. Solche Inhalte passen exakt in die eigenen Verbotskataloge – von „anstößig“ über „verstörend“ bis „einfach nur unheimlich“.
Früher wurde Tumblr aus dem App Store entfernt, nachdem dort kinderpornografische Bilder aufgetaucht waren. Im aktuellen Fall bleibt X trotz vergleichbarer Richtlinienverletzungen im Angebot. Das legt nahe, dass nicht die Regeln den Ausschlag geben, sondern die Eigentumsverhältnisse und die politische Fallhöhe.
Parallel dazu entfernte Apple in der Vergangenheit etwa die App ICEBlock, während X weiterhin eine Rolle spielt, wenn es um entwürdigende, KI-generierte Darstellungen Betroffener staatlicher Gewalt geht. Vor diesem Hintergrund wirkt jede moralische Positionierung von Apple und Google – etwa der Satz „Datenschutz ist ein Menschenrecht“ – brüchig.
Am Ende bleibt die Frage, ob diese Konzerne noch andere Werte kennen als die Steigerung des „Aktionärswerts“ und wie sie ihr App-Store-Regime künftig glaubwürdig verteidigen wollen.
Apfeltalks zwei Cent
App Stores waren und sind nicht immer nur rein technischen und Inhaltlichen Regeln unterworfen. Sie sind seit langem auch ein Politikum. Das Entfernen von VPN-Apps aus dem chinesischen App Stores beispielsweise kann nicht mit technischen oder inhaltlichen Gründen erklärt werden. Hier beugen sich die Konzerne vor dem chinesischen Regime.
Das verbreiten von Kinderpornografischen Bildern (auch wenn sie „nur“ von einer KI erzeugt wurden) sollte zu starken Konsequenzen für xAI führen und X und Grok sollten aus den App Stores verschwinden. Aber solange in den USA das Recht des Reicheren gilt, wird das wohl leider nicht passieren. Hier könnte zumindest für unsere Seite des Atlantiks die EU einspringen und die Apps sperren. Ob unsere Politiker:innen aber in der Lage sind, sich gegen Elon Musk aufzulehnen, darf man zumindest in Frage stellen.
