Bericht: Apple drohte, Grok wegen sexualisierter Deepfakes aus dem App Store zu entfernen

Apple hat hinter den Kulissen deutlich auf die Welle sexualisierter Deepfakes reagiert, die Anfang des Jahres vom Chatbot Grok erzeugt wurden. Ein Brief an US-Senator:innen, der nun öffentlich wurde, zeigt, wie weit das Unternehmen dabei gegangen ist.

Apple griff nach Beschwerden zu strikteren Maßnahmen

Auslöser des Drucks auf Apple war ein Bericht, dass Grok Nutzer:innenwünsche erfüllte, Personen auf Fotos auszuziehen, insbesondere Frauen und auch Minderjährige. In der Folge stand Apple massiv in der Kritik, die Apps X und Grok aus dem App Store zu entfernen.

Öffentlich äußerte sich Apple damals kaum, doch laut NBC News stellte das Unternehmen intern fest, dass X und Grok gegen die Richtlinien des App Stores verstießen. Apple habe demnach Grok „im Stillen damit gedroht“, die App aus dem Store zu entfernen.

Laut dem Bericht kontaktierte Apple die Teams hinter X und Grok, nachdem Beschwerden eingegangen und Medienberichte erschienen waren. Die Entwickler:innen mussten daraufhin einen konkreten Plan vorlegen, wie sie die Moderation der Inhalte verbessern wollten.

Abgelehnte Updates und Auflagen für Grok

X reichte daraufhin ein aktualisiertes Grok-Update zur Prüfung bei Apple ein. Dieses wurde jedoch abgelehnt, weil die Änderungen aus Apples Sicht nicht weit genug gingen. Erst überarbeitete Versionen der X- und Grok-Apps führten teilweise zum Erfolg.

Aus dem Brief von Apple an die US-Senator:innen zitiert NBC News, dass Apple die neuen Einreichungen der Entwickler:innen erneut geprüft habe. Das Unternehmen kam zu dem Schluss, dass X die Verstöße im Wesentlichen behoben habe, Grok aber weiterhin nicht regelkonform gewesen sei.

In der Folge lehnte Apple die Grok-Version ab und informierte die Entwickler:innen, dass weitere Anpassungen nötig seien, um die Verstöße zu beheben. Andernfalls könne Grok aus dem App Store entfernt werden.

Nach weiterem Austausch und zusätzlichen Änderungen durch das Grok-Team stellte Apple schließlich fest, dass die App deutlich verbessert worden sei. Daraufhin genehmigte das Unternehmen die jüngste Einreichung von Grok.

Diese nun bekannt gewordenen Details erklären nachträglich die damals teils verwirrenden Ankündigungen von xAI zur Moderation. Dazu gehörten Einschränkungen, wer die Bildfunktionen von Grok nutzen durfte, sowie Grenzen bei der Bearbeitung von Fotos realer Personen.

Berichte über anhaltende Probleme mit sexualisierten Bildern

Parallel dazu berichtet NBC News in einem weiteren Artikel, dass Grok weiterhin sexualisierte Bilder von Personen ohne deren Einwilligung erzeugen könne. Die Redaktion dokumentierte dazu in den vergangenen Wochen zahlreiche Fälle.

Dem Bericht zufolge ist die Gesamtzahl solcher Bilder im Vergleich zu Januar zwar deutlich gesunken. Dennoch gelingt es einem Teil der Nutzer:innen offenbar, die Schutzmechanismen zu umgehen.

Sie versetzen Frauen dabei in „freizügigere Kleidung“, etwa Handtücher, Sport-BHs, eng anliegende Spider-Woman-Kostüme oder sogenannte Bunny-Kostüme. Beide Berichte von NBC News sind kostenpflichtig und liefern weitere Details zu Apples Brief sowie zu den aktuellen Problemen von Grok mit sexualisierten Deepfakes.

Den vollständigen Bericht zu Apples Schreiben an US-Senator:innen findet Ihr bei NBC News, ebenso die Analyse der weiterhin möglichen sexualisierten Deepfakes durch Grok.

Via: https://9to5mac.com

Den Beitrag in unserem Forum kommentieren