Apple und Google sollen KI-Apps zum „Nudifying“ aus ihren Stores entfernen

Die Stadtanwaltschaft von San Francisco fordert von Apple und Google die Entfernung von 13 KI-Apps, mit denen sich nicht einvernehmliche Nacktbilder erstellen lassen. Laut einem Bericht von WIRED sollen die Unternehmen damit gegen ihre eigenen Richtlinien verstoßen haben.

Unterlassungsaufforderung gegen 13 „Face-Swap“-Apps

Die Stadtanwältin von San Francisco hat Apple und Google Unterlassungsschreiben zugestellt, in denen sie die Entfernung von insgesamt 13 KI-basierten „Face-Swap“-Apps verlangt. Acht der betroffenen Apps sind im App Store von Apple gelistet, fünf im Google Play Store.

Die Anwendungen werden als Tools zum Tausch von Gesichtern in Bildern vermarktet, können aber dazu genutzt werden, Fotos realer Personen digital zu „entkleiden“. Die Staatsanwaltschaft argumentiert, Apple und Google würden durch die Bereitstellung dieser Apps und die Beteiligung an In-App-Zahlungen faktisch die Verbreitung expliziter Deepfake-Bilder unterstützen.

In den Schreiben wird darauf hingewiesen, dass die Unternehmen die Geschäftsbeziehungen zu den verantwortlichen Entwickler:innen beenden und auf ihren Anteil an den Umsätzen der Apps verzichten sollen. Die Stadtanwältin bezeichnete die Praxis als „illegal, schädlich und vollkommen inakzeptabel“ und geht davon aus, dass Apple und Google mit den betreffenden Anwendungen bereits Millionen an Gebühren eingenommen haben.

Verstoß gegen Store-Richtlinien zu pornografischen Inhalten

Sowohl Apple als auch Google haben in ihren Entwickler-Richtlinien Verbote und Einschränkungen für pornografische Inhalte festgeschrieben. In der Vergangenheit haben beide Unternehmen bereits mehrfach ganze Gruppen sogenannter „Nudify“-Apps entfernt, nachdem Forschende oder andere Stellen sie gemeldet hatten.

Gegenüber WIRED erklärte ein Google-Sprecher, man habe „Hunderte“ von Apps mit „nudifying“-Funktionen wegen Verstößen gegen die Richtlinien gelöscht. Dies schließe auch die fünf Apps ein, die in den aktuellen Unterlassungsschreiben der Stadtanwaltschaft genannt werden.

Bei Apple waren Anpassungen der Richtlinien bereits im Juni öffentlich geworden: Das Unternehmen hatte die Formulierungen in den App-Store-Guidelines zur Verantwortung von Entwickler:innen für pornografische Inhalte verschärft. Ziel ist es, den Umgang mit sexuellen Darstellungen und Missbrauchsmöglichkeiten in Apps genauer zu regeln.

Debatte um Deepfakes mit politischen und gesellschaftlichen Folgen

Die aktuellen Schreiben aus San Francisco fügen sich in eine breitere gesellschaftliche Debatte über den Umgang mit KI-generierten Deepfakes ein. Im Fokus stehen dabei unter anderem der Schutz der Privatsphäre, mögliche Formen digitaler Gewalt und die Verantwortung großer Plattformbetreiber.

Die Diskussion zu diesem Thema wird bei der Quelle des Berichts aufgrund der politischen und gesellschaftlichen Brisanz in einem gesonderten Forenbereich geführt. Dort ist der Thread zwar für alle Besucher:innen einsehbar, Beiträge können jedoch nur von Mitgliedern mit einer bestimmten Mindestanzahl an Forenbeiträgen verfasst werden.

Hinweis: Dieser Beitrag ist eine automatisch erstellte Zusammenfassung mithilfe von Künstlicher Intelligenz. Eine redaktionelle Prüfung fand nicht statt.

Via: macrumors.com

Den Beitrag in unserem Forum kommentieren