Eine neue Untersuchung wirft Apple und Google vor, trotz klarer Richtlinien zahlreiche problematische KI-Apps im Programm zu haben. Betroffen sind vor allem Anwendungen, die aus normalen Fotos sexualisierte Deepfakes erstellen.
Online-Läden von Apple und Google voller „Nudify“-Apps
Das Tech Transparency Project (TTP), eine Online-Bürgerrechtsorganisation, hat die App-Stores von Apple und Google untersucht. Dabei stießen die Forschenden auf eine große Zahl sogenannter „Nudify“-Apps, also KI-Anwendungen, die nicht-einvernehmliche, sexualisierte Bilder erzeugen. Nach den eigenen Regelwerken der beiden Konzerne sind solche Inhalte in den Stores eigentlich nicht erlaubt.
Laut Bericht fanden sich im Google Play Store 55 entsprechende Apps, im Apple App Store 47. Beide Plattformen bieten zudem weiterhin Zugang zu Grok von xAI an, das als eines der bekanntesten Werkzeuge zur Erstellung nicht-einvernehmlicher Deepfakes gilt. TTP kritisiert, dass Apple und Google ihre Pflicht zur Prüfung der angebotenen Apps nicht ausreichend erfüllen.
„Apple und Google sollen die Apps in ihren Stores prüfen. Stattdessen bieten sie Dutzende Apps an, mit denen Menschen mit wenig oder keiner Kleidung dargestellt werden können – ein gefundenes Fressen für Missbrauch“, sagte Michelle Kuppersmith, geschäftsführende Direktorin der gemeinnützigen Organisation hinter TTP.
Millionen Downloads, hohe Umsätze und Freigaben für Minderjährige
Die im Bericht identifizierten Apps wurden zusammen mehr als 700 Millionen Mal heruntergeladen und haben über 117 Millionen US-Dollar (rund 108 Millionen Euro) Umsatz generiert. Sowohl Google als auch Apple verdienen an diesen Einnahmen mit. Besonders brisant: Einige der Anwendungen wurden offiziell für Kinder und Jugendliche freigegeben.
Apple listete bestimmte Apps mit Altersfreigaben ab 4+ oder 9+, Google wiederum ab 13+. Nach Einschätzung der TTP verstößt jedoch jede dieser Apps direkt gegen die Richtlinien der Unternehmen, selbst wenn sie nur von erwachsenen Nutzer:innen verwendet würden. Ein Beispiel ist DreamFace, das im Google Play Store als geeignet ab 13 Jahren und im Apple App Store ab 9 Jahren eingestuft ist.
Beide Unternehmen haben auf den Bericht reagiert. Apple teilte laut einem Bericht von CNBC mit, 24 Apps aus dem Store entfernt zu haben. Diese Zahl bleibt jedoch deutlich unter den 47 Anwendungen, die TTP identifiziert hat. Eine Sprecher:in von Google erklärte, man habe mehrere in dem Bericht genannte Apps wegen Verstößen gegen die Store-Richtlinien gesperrt, nannte aber keine konkrete Anzahl.
Grok unter Druck: Vorwürfe zu sexualisierten Bildern von Frauen und Kindern
Der Bericht erscheint vor dem Hintergrund neuer Vorwürfe gegen Grok von Elon Musks Unternehmen xAI. Der KI-Chatbot soll in einem Zeitraum von elf Tagen rund drei Millionen sexualisierte Bilder erzeugt haben, darunter 22.000 Darstellungen, in denen Kinder vorkamen. Vertreter:innen des Unternehmens sind auf diese Vorwürfe bislang kaum konkret eingegangen.
Statt einer ausführlichen Stellungnahme verschickte die Firma automatisierte E-Mails an Journalist:innen mit dem Text „Lügen der Altmedien“. Musk selbst erklärte, er sei „über keine nackten minderjährigen Bilder, die von Grok erzeugt wurden, informiert. Buchstäblich null.“
Der Sicherheitsaccount von X veröffentlichte immerhin, dass „alle, die Grok nutzen oder auffordern, illegale Inhalte zu erstellen, die gleichen Konsequenzen tragen wie bei einem Upload illegaler Inhalte“. Dazu zählen laut X Maßnahmen gegen illegale Inhalte wie das Entfernen von Material mit sexuellem Missbrauch von Kindern, das dauerhafte Sperren von Konten und die Zusammenarbeit mit Behörden. Grok selbst zeigte sich einsichtiger als die Verantwortlichen: Der Chatbot entschuldigte sich dafür, sexualisierte Bilder von Minderjährigen erstellt zu haben.
Anmerkungen von Apple
Apple hat Kontakt zu uns aufgenommen. Eine Apple-Sprecherin hat folgende Ergänzungen zu der Thematik:
- Wenn wir Fälle feststellen, in denen ein Entwickler gegen unsere Regeln verstößt, benachrichtigen wir den Entwickler über das Problem und arbeiten mit ihm zusammen, um es schnell zu lösen — was im besten Interesse der Nutzer ist, die die App bereits auf ihrem Telefon heruntergeladen haben — und wir erinnern den Entwickler daran, dass die Nichteinhaltung von Fristen bei der Behebung von Verstößen zur Entfernung der App aus dem App Store führen kann.
- Wenn Nutzerbeschwerden an das Team herangetragen werden, untersuchen wir diese umgehend und ergreifen Maßnahmen, um sie gemeinsam mit dem Entwickler zu beheben.
- In diesem Fall haben wir 28 Apps entfernt, die vom Tech Transparency Project in seinem Bericht identifiziert wurden. Bei anderen haben wir den Entwickler kontaktiert, um ihn auf Richtlinienverstöße hinzuweisen, die zeitnah behoben werden müssen, andernfalls riskieren sie, aus dem Store entfernt zu werden.
Via: https://www.engadget.com / Ergänzungen von Apple DACH
