Apple verschärft App-Store-Regeln gegen KI-Nacktbilder und Täuschungs-Apps

Apple hat seine App Review Guidelines überarbeitet und die Vorgaben zu nutzergenerierten Inhalten und versteckten App-Funktionen erweitert. Die Änderungen zielen unter anderem auf Apps, die nicht einvernehmliche intime Bilder ermöglichen oder ihre tatsächliche Funktion bei der Prüfung verschleiern.

Hintergrund: problematische Apps im App Store

In den vergangenen Monaten gab es wiederholt Berichte über Apps, die Apples Prüfregeln umgingen und Nutzer:innen, darunter auch Minderjährige, mit schädlichen oder unangemessenen Inhalten konfrontierten.

Im Januar identifizierte das Tech Transparency Project Dutzende KI-Apps, die Kleidung auf Bildern digital entfernen konnten. Eine Untersuchung im April berichtete zudem, dass Suchvorschläge und Werbung im App Store Nutzer:innen zu solchen Anwendungen führten. Im Juli ordneten Behörden in San Francisco Apple an, acht Apps zu entfernen, mit denen nicht einvernehmliche intime Bilder erstellt werden konnten.

Ebenfalls im Juli deckte 9to5Mac Dutzende Apps auf, die Glücksspielangebote als einfache Spiele oder Dienstprogramme tarnten. Außerhalb Brasiliens verhielten sie sich wie beschrieben, während sie bei Zugriffen von brasilianischen IP-Adressen versteckte Wettplattformen anzeigten. Viele dieser Apps waren auch für Kinder verfügbar.

Für Aufmerksamkeit sorgte außerdem Grok: Der KI-Chatbot von Elon Musk wurde genutzt, um sexualisierte Bilder von Frauen und Minderjährigen ohne deren Einwilligung zu erzeugen. Abgeordnete und Interessenverbände forderten daraufhin, X und Grok aus dem App Store zu entfernen. Apple bestätigte später, xAI privat gewarnt zu haben, dass Grok aus dem Store entfernt werden könnte, falls das Unternehmen das Problem nicht angehe.

Neue Vorgaben für nutzergenerierte Inhalte

In Abschnitt 1.2 zu nutzergenerierten Inhalten nennt Apple nun ausdrücklich Apps, mit denen Nutzer:innen Inhalte erstellen, generieren, hochladen, teilen oder anderweitig beitragen können. Zu den damit verbundenen Herausforderungen zählt das Unternehmen neben Urheberrechtsverletzungen und anonymem Mobbing nun auch nicht einvernehmliche intime Bilder.

Apple ergänzt außerdem, dass Entwickler:innen gegen den Verhaltenskodex für Entwickler:innen verstoßen können, wenn sie keine geeigneten Schutzmaßnahmen einführen oder bekannte Verstöße nach einem Hinweis nicht beheben.

Versteckte Funktionen können zur Entfernung führen

Eine neue Regel in Abschnitt 2.5.19 richtet sich gegen sogenannte „Bait-and-Switch“-Apps. Sie täuschen bei der Prüfung über ihren Zweck hinweg und zeigen problematische Funktionen – etwa das digitale Entkleiden von Personen – erst nach der Freigabe.

Die Richtlinie untersagt versteckte, inaktive oder nicht dokumentierte Funktionen. Die Funktionen einer App sollen sowohl für Nutzer:innen als auch für die App-Prüfung klar erkennbar sein. Wer nicht dokumentierte Funktionen im App-Binary zu verbergen versucht, etwa durch Code-Verschleierung oder andere Methoden, riskiert laut Apple die Entfernung der App und die Kündigung des Entwicklerkontos.

Ein Verbot versteckter Funktionen gab es bereits in Abschnitt 2.3.1. Apple hebt nun jedoch Code-Verschleierung ausdrücklich hervor und benennt mögliche Folgen konkreter. Auch die rechtlichen Vorgaben in Abschnitt 5 wurden verschärft: Apps, die Menschenhandel oder die Ausbeutung von Kindern ermöglichen, werden aus dem App Store entfernt und auch von alternativen Vertriebswegen ausgeschlossen.

Die aktualisierten App Review Guidelines findet Ihr auf der Website von Apple.

Hinweis: Dieser Beitrag ist eine automatisch erstellte Zusammenfassung mithilfe von Künstlicher Intelligenz. Eine redaktionelle Prüfung fand nicht statt.

Via: 9to5mac.com

Den Beitrag in unserem Forum kommentieren