Der App Store soll Nutzer:innen vor schädlichen Inhalten schützen – doch bei Deepfake- und Nudify-Apps gerät dieses Versprechen ins Wanken. Parallel verschärfen Staaten Alterskontrollen im Netz, obwohl die Technik oft problematisch ist.
Bericht: App Store zeigt Werbung für Deepfake-Apps
Ein aktueller Bericht des Tech Transparency Project kritisiert den Umgang von Apple mit sogenannten Deepfake-Apps im App Store. Eigentlich untersagen die Richtlinien offen sexualisierte oder pornografische Inhalte grundsätzlich. Laut Bericht macht Apple – ebenso wie Google – dabei jedoch einen sehr schlechten Job, obwohl die Regeln eindeutig formuliert sind.
Besonders brisant: Der App Store soll sogar Werbung für Deepfake- und Nudify-Apps ausgespielt haben. Damit geraten nicht nur die jeweiligen App-Anbieter in den Fokus, sondern auch die Rolle von Apples Werbenetzwerken und Empfehlungsmechanismen. Wenn ein Marktplatz selbst für problematische Anwendungen wirbt, stellt sich die Frage, wie wirksam der Review-Prozess tatsächlich ist.
Die Analyse deutet darauf hin, dass es Lücken bei der Prüfung von Apps gibt – sowohl bei der Erstfreigabe als auch bei Updates und der Werbung. Für euch als Nutzer:innen bedeutet das: Ihr könnt euch nicht vollständig darauf verlassen, dass im Apple-Ökosystem alle problematischen Deepfake-Tools zuverlässig herausgefiltert werden.
Altersverifikation im Netz: Pflicht mit vielen Schwächen
Parallel dazu nehmen gesetzliche Vorgaben zur Altersverifikation im Internet zu. Wie The Verge berichtet, setzen immer mehr Staaten auf verpflichtende Altersnachweise, um Minderjährige vor ungeeigneten Inhalten zu schützen. In der Praxis erweist sich die Altersprüfung aber als fehleranfällig und häufig als Eingriff in die Privatsphäre.
Die Verfahren reichen von Ausweis-Uploads über Gesichtserkennung bis hin zu Drittanbietern, die Altersdaten verwalten. Laut Bericht ist die Technik löchrig: Sie lässt sich oft umgehen, ist nicht einheitlich geregelt und kann sensible Daten zentral sammeln. Für Nutzer:innen entsteht so ein Spannungsfeld aus Schutzanspruch und Datenschutzrisiken.
Im Zusammenspiel mit den Lücken im App Store wird deutlich: Weder Plattformregeln noch staatliche Alterskontrollen bieten derzeit einen umfassenden Schutz vor Deepfake- und Nudify-Apps. Stattdessen verschiebt sich ein Teil der Verantwortung auf euch als Nutzer:innen und auf Erziehungsverantwortliche.
Praktischer Schutz: Einstellungen in iOS und App Store nutzen
Auch wenn Apples Ökosystem keine vollständige Barriere darstellt, könnt ihr vorhandene Funktionen nutzen, um das Risiko zu verringern. In iOS und im App Store lassen sich Inhalte über Altersfreigaben und Einschränkungen begrenzen, etwa indem ihr nur Apps ab bestimmten Altersstufen zulasst oder Installation und In-App-Käufe an eine PIN koppelt.
Mit Bildschirmzeit könnt ihr zusätzlich steuern, welche Apps installiert oder genutzt werden dürfen, und App-Kategorien für Kinderprofile einschränken. So reduziert ihr die Wahrscheinlichkeit, dass Minderjährige problematischen Deepfake-Angeboten begegnen. Drittanbieter-Tools können diese Schutzmechanismen ergänzen, etwa durch Filter für Bilder und Webseiten.
Wichtig bleibt außerdem der Umgang mit eigenen Fotos und Videos. Je weniger intime oder identifizierende Aufnahmen unkontrolliert in Cloud-Diensten, Chats oder sozialen Netzwerken landen, desto geringer ist das Missbrauchspotenzial durch Deepfake- oder Nudify-Anwendungen. Die technischen und rechtlichen Rahmenbedingungen sind noch weit von einer umfassenden Lösung entfernt, deshalb sind kritische App-Auswahl, bewusster Umgang mit Bildern und konsequent genutzte Schutzfunktionen derzeit eure wichtigsten Werkzeuge.
