Apple steht in der Kritik, weil im iOS App Store sogenannte „Nudify“-Apps verfügbar sind, mit denen sich nicht-einvernehmliche Deepfake-Bilder erstellen lassen. Die Stadt San Francisco fordert nun in einem Unterlassungsschreiben, dass diese Anwendungen aus dem App Store verschwinden.
Unterlassungsschreiben aus San Francisco
Laut einem Bericht von Wired wirft San Franciscos City Attorney David Chiu Apple vor, die Nutzung von „Nudify“-Apps auf dem iPhone zu „unterstützen und zu begünstigen“. In einem neuen Cease-and-Desist-Schreiben fordert er, dass acht dieser Apps aus dem App Store entfernt werden. Gleichzeitig richtet sich das Schreiben auch an Google, das entsprechende Apps im Google Play Store anbietet.
Chiu verlangt von beiden Unternehmen, den Verkauf von KI-Apps zu unterbinden, mit denen sich Deepfake-Bilder erzeugen lassen. Außerdem sollen Apple und Google ihre Geschäftsbeziehungen zu allen Entwickler:innen beenden, die für derartige Apps verantwortlich sind.
„Nudify“-Apps existieren bereits seit einiger Zeit. Sie ermöglichen es Nutzer:innen, nicht-einvernehmliche intime Bilder von anderen Personen zu erstellen, häufig auch von Minderjährigen, ohne deren Wissen oder Zustimmung. Die Software kann Kleidung von abgebildeten Personen entfernen und diese teils in frei wählbare, intime Szenarien einfügen.
„Illegal, schädlich und völlig inakzeptabel“
In einer Stellungnahme gegenüber Wired bezeichnete Chiu das Erzeugen solcher Deepfake-Bilder als „illegal, schädlich und völlig inakzeptabel“. Er wies zudem darauf hin, dass Apple und Google wahrscheinlich erhebliche Einnahmen durch den Verkauf oder Abo-Modelle solcher Apps erzielt haben.
Chiu betont, dass beide Plattformbetreibende eine Verantwortung dafür tragen, dass ihre Systeme nicht zur Erstellung solcher Inhalte genutzt werden. In seinen Schreiben verweist er außerdem darauf, dass das kalifornische Recht Dienste verbietet, die Deepfakes ermöglichen oder unterstützen.
Apple hat sich zu dem aktuellen Schreiben bislang nicht geäußert. Google erklärt laut Wired, man untersuche Apps, bei denen der Verdacht besteht, dass sie zur Erstellung von Deepfake-Inhalten eingesetzt werden, und man ergreife bei Bedarf „zügig Maßnahmen“.
Bisherige Maßnahmen von Apple und offene Fragen
Apple hat nach eigenen Angaben bereits zuvor mehrere ähnliche generative KI-Apps aus dem App Store entfernt. Gegenüber AppleInsider hatte das Unternehmen erklärt, dass „Nudification“-Apps im App Store grundsätzlich nicht zugelassen seien – ohne Ausnahmen.
In der Praxis scheinen App-Store-Prüfer:innen Entwickler:innen zunächst zu informieren, wenn festgestellt wird, dass ihre Apps zur Erstellung von „Nudify“-Bildern genutzt werden. Werden gemeldete Verstöße nicht behoben, folgt in der Regel die Entfernung der betroffenen App aus dem Store. Unklar ist derzeit, ob und in welchem Stadium die nun konkret beanstandeten acht Apps bereits in diesem Prozess sind.
Apple teilt außerdem mit, dass bestimmte Suchbegriffe im App Store, die auf solche Anwendungen hinweisen, aktiv blockiert werden.
Chiu kündigt an, Apple und Google weiter verfolgen zu wollen. Kurzfristig fordert er, dass beide Unternehmen die beanstandeten Apps entfernen und ihre Prüfwerkzeuge so verbessern, dass problematische Anwendungen bereits vor der Freigabe für den Download besser erkannt und gefiltert werden.
Hinweis: Dieser Beitrag ist eine automatisch erstellte Zusammenfassung mithilfe von Künstlicher Intelligenz. Eine redaktionelle Prüfung fand nicht statt.
Via: appleinsider.com
