Apple prüft Fotos künftig auf Kinderpornographie

[FuAn]

Dieser Bericht ist nicht unumstritten.


Weil es zwischen den real existierenden Maßnahmen und dem, welches Bild hier von manchen gezeichnet wird, in meinen Augen schon noch einen deutlichen Unterschied gibt.

Aber wie gesagt: Was hindert irgendeinen Staat oder irgendein Regime daran, morgen ein Gesetz zu beschließen, dass Apple dazu zwingt, sämtliche Daten auf den Geräten von Nutzern offenzulegen? Genau gar nichts. Dafür braucht es nicht die von Apple jetzt angedachten Technologien.

Sie zeichnen allerdings schonmal einen besonders einfachen, effektiven, tief integrierten Weg vor unter dem Deckmantel eines moralisch besonders überlegenen Ziel. Die Regime muessen nicht mehr sagen ihr müsst das jetzt implementieren, sondern nurnoch ihr müsst jetzt unsere Datenbanken zum abgleich nutzen... Zudem kann sich der geneigte Diktator jetzt einfach den Generalverdacht Apples gegen ihre Kunden zu nutze machen und muss nichtmal selbst machen.
Wenn sich diese Praktik Apples jetzt erstmal mit einem positiv besetzten Thema wie die Verfolgung von Kinderpornografie ins Bewusstsein der Gesellschaft prägt, dann wird ueber eventuellen Missbrauch durch Staaten am Ende dann gar nicht mehr wirklich weiter gemuckt.

 

[SomeUser]

Den Vergleich halte ich für völlig an den Haaren herbeigezogen und ich glaube nicht, dass es so rechtlich konform wäre.
Zudem müsste die Polizei erst einmal einen dringenden Verdacht haben, um den Vermieter um diese Infos zu bitten.
Ohne den Verdacht wird es kaum Bestand haben.
Und Apple durchsucht nun alle Fotos nach Kinderpornografie weil…?
Ja warum?
Weil hier im Grunde alle unter Generalverdacht gestellt werden und das mit Prävention nichts zu tun hat.
Prävention wäre, den psychisch kranken Leuten ernste Hilfe anzubieten.

Zunächst mal habe ich nur die gegebene Aussage aufgegriffen, nach der sich Apple zum Teil der Ermittlungsbehörden (oder so) machen würden würde. Wir brauchen uns aber auch gar nicht lange in Analogien zu ergehen - es reicht ja, den tatsächlichen Sachverhalt zu diskutieren - dann erübrigt sich auch die Diskussion darüber, in welcher von unendlichen vielen Analogien, nun was im Detail nicht vergleichbar ist.

 

[MichaNbg]

Nein. Wenn man es darauf anlegt, kann ein Unternehmen freilich auch dazu gezwungen werden, die Daten in entsprechender Form zu verarbeiten.

Siehe oben. Heute gibt es die Technologie nicht für lokale Dateien. Dateien aus der Cloud werden schon lange gescannt und im Zweifel "geteilt".

Aber es ist nicht nur der Punkt, sondern auch ein Trugschluss.

Um deinen Mitstreiter teil zu zitieren: dann hast du die Unterschiede zwischen bisheriger und die neuer Technologie "nicht verstanden".
Hier gibt es signifikante Unterschiede und das jetzt vorgestellte hat eine vollkommen neue Qualität der potentiellen Überwachung und Durchleuchtung, eben gerade weil es nicht mehr nur auf Clouddaten sondern auch deine lokalen Systeme abzielt.

Was meinst du, weshalb selbst abgebrühte und hochdekorierte Sicherheitsforscher weltweit von "Dammbruch", "neue Eskalation", "Pandoras Box" sprechen? Oder meinst du, die erliegen auch einem Trugschluss und sind nicht schlau genug, Apple zu verstehen?

 

[allans1976]

Im Moment sind das doch 'wilde' Spekulationen.

Es gibt keine Spekulation. Es wird diskutiert und dargestellt, was diese Technik grundsätzlich ermöglicht.

Und wer denkt, dass dies nicht auch genutzt wird, hat die letzten 20 Jahre irgendwie vollends verpasst.

Wenn etwas möglich ist, ist es noch nicht passiert.

Diskussionen um theoretische, von mir auch 'potenzielle' Möglichkeiten, sind noch lange keine geschaffenen Fakten. Es gibt im Moment keinen einzigen Beleg dafür, dass Apples Technologie für das genutzt wird, was Du befürchtest.

Zwanzig Jahre ist ein großer Zeitraum. Damals dachte auch jeder, dass er mit Aktien am Neuen Markt Millionär wird und dass der Ölpreis heute bei 500 USD steht. Kam dann doch nicht. Damals gab es auch viele, welche andere, die sich aus deren Sicht langweilige 6- oder 7-jährige Bundesschatzbriefe mit steigenden Zinsen gekauft haben (Ihr wisst schon – die Schildkröte im Fernsehen machte dafür Werbung), als altmodisch und weltfremd bezeichnet haben. Und wenn vor zwanzig Jahren einer erzählt hätte, dass es Negativzinsen und Verwahrentgelte geben wird, hätte man den sicherlich wo eingeliefert.

Deshalb würde ich den Umstand weiterhin als Spekulation umschreiben.

Was bleibt ist die Frage, ob es Apple dauerhaft gelingen wird, zukünftige Begehrlichkeiten von Regierungen erfolgreich ablehnen zu können.

Zur Erinnerung: Diese Frage stellte ich ja selbst in den Raum. Aber auch hier: Die Antwort darauf ist ebenfalls offen. Es gibt verschiedenen Richtungen, in die es laufen könnte. Wir reden somit von Wahrscheinlichkeiten, die wir ggf. gewichten müssten.

Ich denke, die Diskussion benötigt vor allem mal etwas Luft zum Durchatmen, denn ich habe den Eindruck, dass da viele suboptimal gelagerte Nettigkeiten zwischen vereinzelten Usern mitschwingen. Dass das Thema polarisiert – ist klar.

Dennoch würde es der konstruktiven Diskussion helfen, wenn wir Befürchtungen nicht mit den aktuell bekannten Fakten gleichstellen. Sondern eben über die verschiedenen Richtungen, deren Wahrscheinlichkeiten und der möglichen Konsequenzen und gesetzlichen Rahmenbedingungen reden.

Denn um es mal abzugrenzen: Der europäische respektive deutsche Datenschutz (DSGVO) ist ein anderer als in den Vereinigten Staaten und nochmals ein anderer als in China & Co.. Und die Auswirkungen eines 'Platz des himmlischen Friedens'- oder eines 'Jim Jong-un ist wieder dicker geworden'- oder eines 'Erdogans-Geldpolitik-ist-keine-gute-Idee-für-die-türkische-Inflationsrate'-Hashcodes erscheint mir im Augenblick (zumindest bei mir) begrenzt, es sei denn natürlich, ich würde dorthin reisen. Und dann ist ja außerdem noch völlig offen, ob Apple diese Hashcodes nutzen würde oder nutzen 'muss' ...

Schon alleine deshalb würde ich die Diskussion wesentlich entspannter angehen.

 

[Martin Wendel]

Heute gibt es die Technologie nicht für lokale Dateien. Dateien aus der Cloud werden schon lange gescannt und im Zweifel "geteilt".

Wie bitte? Seit Jahren können über KI-unterstützte Funktionen Bildinhalte erkannt werden. Was soll daran neu sein? Dass sie jetzt auch (Kinder)pornographische Inhalte erkennen, und nicht nur „Das ist ein Strandfoto!“?

 

[MichaNbg]

Wie bitte? Seit Jahren können über KI-unterstützte Funktionen Bildinhalte erkannt werden. Was soll daran neu sein? Dass sie jetzt auch (Kinder)pornographische Inhalte erkennen, und nicht nur „Das ist ein Strandfoto!“?

Und seit Jahren wird also auch von extern gesagt, wonach gesucht werden soll und bei Treffern ein Alert geschickt, der ausgewertet werden kann? Muss der Welt bislang entgangen sein.

Aber ich sehe schon, du denkst wirklich Matthew Green, Snowden oder die gesamte EFF sind entweder doof oder haben Apple nur nicht nicht verstanden.

Damit kann man das dann wohl beenden.

 

[Martin Wendel]

Und seit Jahren wird also auch von extern gesagt, wonach gesucht werden soll und bei Treffern ein Alert geschickt, der ausgewertet werden kann? Muss der Welt bislang entgangen sein.

Womit wir wieder beim Pumkt wären: „Wenn man es darauf anlegt, kann ein Unternehmen freilich auch dazu gezwungen werden, die Daten in entsprechender Form zu verarbeiten.“

 

[MichaNbg]

Womit wir wieder beim Pumkt wären: „Wenn man es darauf anlegt, kann ein Unternehmen freilich auch dazu gezwungen werden, die Daten in entsprechender Form zu verarbeiten.“

Dazu muss das Unternehmen diese Daten erstmal haben. Bislang hatte das Unternehmen diese Daten aber nicht. Jetzt schafft es die Möglichkeiten dazu.

Um mal bei "Spekulation" zu bleiben: Verschwörungstheoretiker könnten jetzt die Frage stellen, vielleicht schafft man diese Schnittstelle gerade genau deshalb. Man wird dazu "gezwungen".

Das wäre jetzt wirklich eine freie "Spekulation". Und nein, das ist nicht meine Meinung. Ich würde zwar nicht meine Hand dafür ins Feuer legen, dass es dies bei chinesischen Smartphones mit eigenen Android/Linuxderivaten nicht schon lange so gibt. Aber auch das wäre reine Spekulation. In "unserer Hemisphäre" gab es so etwas jedenfalls bislang noch nicht.

Und hier setzt die Kritik an. Nicht mehr, nicht weniger.

 

[FuAn]

Um mal bei "Spekulation" zu bleiben: Verschwörungstheoretiker könnten jetzt die Frage stellen, vielleicht schafft man diese Schnittstelle gerade genau deshalb. Man wird dazu "gezwungen".

Ganz ausgeschlossen halte ich es nicht, dass Apple da in vorauseilendem Gehorsam agiert, um vielleicht auch die daraus entstehende Message zu kontrollieren. Nachdem man ihnen gesagt hat, ihr macht das jetzt oder wir werden euch dazu zwingen.

 

[SomeUser]

Moin!

Zum Diskussionspunkt, ob Apple lokalen Einflüssen gegenüber hörig sein könnte:

Türkei: Apple entfernt schwule Dating-App Hornet aus türkischem App Store

In der Türkei werden digitale LGBTQ+-Angebote immer wieder gesperrt. Nun ist das homosexuelle soziale Netzwerk Hornet aus dem App Store verschwunden. Nutzer sprechen von Zensur und twittern: »Wir haben Angst.«

www.spiegel.de

 

[MichaNbg]

Ganz ausgeschlossen halte ich es nicht, dass Apple da in vorauseilendem Gehorsam agiert, um vielleicht auch die daraus entstehende Message zu kontrollieren. Nachdem man ihnen gesagt hat, ihr macht das jetzt oder wir werden euch dazu zwingen.

Seit dem Patriot Act und den geheimen Militärgerichten traue ich den USA auch (fast) alles zu. Also es würde mich absolut nicht wundern. Aber ich erwarte es jetzt nicht oder spekuliere über den Auslöser.

Moin!

Zum Diskussionspunkt, ob Apple lokalen Einflüssen gegenüber hörig sein könnte:

Türkei: Apple entfernt schwule Dating-App Hornet aus türkischem App Store

In der Türkei werden digitale LGBTQ+-Angebote immer wieder gesperrt. Nun ist das homosexuelle soziale Netzwerk Hornet aus dem App Store verschwunden. Nutzer sprechen von Zensur und twittern: »Wir haben Angst.«

www.spiegel.de

„ Ursprünglich sollte das Gesetz die türkische Öffentlichkeit vor Cyberkriminalität bewahren. Allerdings räumt es der Regierung weitgehende Überwachungs- und Sperrrechte im Internet ein.“

Also dieser dystopische Spiegel spekuliert doch nur 🧐

 

[Sequoia]

Seit dem Patriot Act und den geheimen Militärgerichten traue ich den USA auch (fast) alles zu. Also es würde mich absolut nicht wundern. Aber ich erwarte es jetzt nicht oder spekuliere über den Auslöser.

„ Ursprünglich sollte das Gesetz die türkische Öffentlichkeit vor Cyberkriminalität bewahren. Allerdings räumt es der Regierung weitgehende Überwachungs- und Sperrrechte im Internet ein.“

Also dieser dystopische Spiegel spekuliert doch nur 🧐

Und genau da setzt meine Kritik bezüglich des Pessimismus an. Mir ist natürlich seit langem nicht entgangen, dass du die Anti amerikanische Haltung hegst. Vielleicht hat ja da auch die Telepathie raus, dass du mich mit eben diesen Wurzeln nicht magst 😱🤣

Moin!

Zum Diskussionspunkt, ob Apple lokalen Einflüssen gegenüber hörig sein könnte:

Türkei: Apple entfernt schwule Dating-App Hornet aus türkischem App Store

In der Türkei werden digitale LGBTQ+-Angebote immer wieder gesperrt. Nun ist das homosexuelle soziale Netzwerk Hornet aus dem App Store verschwunden. Nutzer sprechen von Zensur und twittern: »Wir haben Angst.«

www.spiegel.de

Ich denke, es ist ein Unterschied, zwischen „Waren“, die lokal nicht erlaubt sind, hin zum ausspionieren der Bevölkerung. Dürfte Apple beispielsweise dort keine AirPods per Gesetz verkaufen, würden Sie das auch nicht machen.

Den Bogen kann man nicht spannen, von Waren in (auch Software), die nicht erlaubt ist, hin zu diesem Thema mit „Zugriff auf das Gerät der Nutzer“. Also wirklich.

@allans1976: sensationell gut! X2

 

[SomeUser]

Ich denke, es ist ein Unterschied, zwischen „Waren“, die lokal nicht erlaubt sind, hin zum ausspionieren der Bevölkerung. Dürfte Apple beispielsweise dort keine AirPods per Gesetz verkaufen, würden Sie das auch nicht machen.

Und so würden sie auch jeder anderen Aufforderung eines Gerichts oder der lokalen Gesetzgebung nachkommen. Und gerade Gerichte sind in einigen "jener" Staaten ja richtig "unabhängig", oder?

 

[MichaNbg]

Und genau da sitzt meine Kritik bezüglich des Pessimismus an. Mir ist natürlich seit langem nicht entgangen, dass du die Anti amerikanische Haltung hegst. Vielleicht hat ja da auch die Telepathie raus, dass du mich mit eben diesen Wurzeln nicht magst 😱🤣

du hast absolut kein Wissen wie ich zu den USA stehe, welche Verbindungen ich dorthin habe und auch sonst nicht viel Ahnung.

Das einzige was abermals auffällt: außer persönlichen Angriffen und Gestänker kommt von dir absolut nie etwas. 🤷🏼‍♂️

 

[Sequoia]

Und so würden sie auch jeder anderen Aufforderung eines Gerichts oder der lokalen Gesetzgebung nachkommen. Und gerade Gerichte sind in einigen "jener" Staaten ja richtig "unabhängig", oder?

Würde… das ist eben wieder Spekulation. Ich traue Apple da, dass sie den Unterschied zwischen: wir nehmen eine App aus dem Store, zu: wir bieten den Zugriff auf die Daten durchaus machen und verstehen.

Das kann man beim besten Willen doch nicht vergleichen.

@MichaNbg nein, das weiß ich in der Tat natürlich nicht. Es war für mich nur auffällig. Ich stelle es mir nur sehr traurig vor, so sehr von Pessimismus und Misstrauen geprägt zu leben, ohne zu wissen, ob es bei Dir tatsächlich so ist, oder nur durch deine Beiträge so aussieht (ich wünsche Dir wirklich letzteres).

 

[Martin Wendel]

Dazu muss das Unternehmen diese Daten erstmal haben. Bislang hatte das Unternehmen diese Daten aber nicht. Jetzt schafft es die Möglichkeiten dazu.

Gut, wir drehen uns im Kreis. Deiner Meinung nach kann also ein Unternehmen gesetzlich nicht dazu gezwungen werden, Daten auf eine bestimmte Art zu verarbeiten. Kann man so sehen, ist halt falsch.

 

[SomeUser]

Würde… das ist eben wieder Spekulation. Ich traue Apple da, dass sie den Unterschied zwischen: wir nehmen eine App aus dem Store, zu: wir bieten den Zugriff auf die Daten durchaus machen und verstehen.

Das kann man beim besten Willen doch nicht vergleichen.

Ähm, an der Stelle ich die Sache relativ einfach und zwar vollkommen egal, ob wir nun von der EU, DE, den USA oder welchem Land auch immer reden: Apple hat sich, wie jeder andere Marktteilnehmer, an die lokale Rechtsprechung und Gesetzgebung zu halten. Es gibt im Bereich des internationalen (Wirtschafts-)Rechts natürlich auch immer wieder streitbare Kollisionen, aber der Grundsatz bleibt unverletzt bestehen.
Daher muss Apple in DE auch zwei Jahre Gewährleistung anbieten oder in Frankreich Kopfhörer zu den iPhones legen - da sie sonst gegen lokales Recht verstoßen würden.

Nicht anders sieht es nun mal in China, der Türkei, VAE oder sonstwo aus - daran ist nichts Spekulation. Und zu was hat es denn in China z.B. geführt? Dazu, dass Apple dort ein lokales Datencenter gebaut hat, um die Daten der hiesigen Nutzer dort zu speichern - und dem Staat entsprechenden Zugriff drauf zu geben (z.B. [1], [2]).

Insofern scheint es wohl kaum wahrscheinlich, dass sich z.B. gerade die Chinesen einer solchen Möglichkeit nicht bedienen würden, um z.B. Uiguren oder Tibeter zu unterdrücken.


Oder auch: "In 2018, Apple moved the digital keys used to lock Chinese users' iCloud data, allowing authorities to work through domestic courts to gain access to the information." [3] So dann übrigens auch bei anderen Features/Diensten und in anderen Ländern: "Apple said it also will not offer "private relay" in Belarus, Colombia, Egypt, Kazakhstan, Saudi Arabia, South Africa, Turkmenistan, Uganda and the Philippines." [ebenda]

 

[FuAn]

Gut, wir drehen uns im Kreis. Deiner Meinung nach kann also ein Unternehmen gesetzlich nicht dazu gezwungen werden, Daten auf eine bestimmte Art zu verarbeiten. Kann man so sehen, ist halt falsch.

Ne ich glaube du verstehst das ein bisschen falsch und ihr seid eigentlich ganz nah beieinander. Der unterschied ist, dass Apple jetzt schon proaktiv ein mächtiges Tool liefert, das die Schwelle besonders niedrig legt und natuerlich noch erst recht Begehrlichkeiten weckt. Wie gesagt, jetzt kann man sich dem Generalverdacht Apple's bedienen. Natuerlich koennte man sie so oder so dazu zwingen, nur warum schafft Apple jetzt quasi den Präzedenzfall frei Haus?

 

[MichaNbg]

Gut, wir drehen uns im Kreis. Deiner Meinung nach kann also ein Unternehmen gesetzlich nicht dazu gezwungen werden, Daten auf eine bestimmte Art zu verarbeiten. Kann man so sehen, ist halt falsch.

Absicht oder Kommunikationsschwierigkeiteb?

Das habe ich nicht gesagt. Ich habe gesagt, Apple hatte die Daten bislang nicht. Aber /jetzt/ haben sie die Möglichkeit sie zu erheben und zu verarbeiten.

Und hier kommt dann der Gesetzgeber ins Spiel. /Jetzt/ sind Daten da, jetzt kann man Vorschriften machen, auf was zu scannen ist und was mit den Ergebnissen zu passieren hat.

Etwas das du ja bsp als „Spekulation“ abtust.

Also was nun? Haben Gesetzgeber diese Möglichkeit oder nicht?

 

[allans1976]

.. lokales Recht ..

China, der Türkei, VAE oder sonstwo aus - daran ist nichts Spekulation. Und zu was hat es denn in China z.B. geführt? Dazu, dass Apple dort ein lokales Datencenter gebaut hat, um die Daten der hiesigen Nutzer dort zu speichern - und dem Staat entsprechenden Zugriff drauf zu geben (z.B. [1], [2]).

Insofern scheint es wohl kaum wahrscheinlich, dass sich z.B. gerade die Chinesen einer solchen Möglichkeit nicht bedienen würden, um z.B. Uiguren oder Tibeter zu unterdrücken.

Oder auch: "In 2018, Apple moved the digital keys used to lock Chinese users' iCloud data, allowing authorities to work through domestic courts to gain access to the information." [3] So dann übrigens auch bei anderen Features/Diensten und in anderen Ländern: "Apple said it also will not offer "private relay" in Belarus, Colombia, Egypt, Kazakhstan, Saudi Arabia, South Africa, Turkmenistan, Uganda and the Philippines." [ebenda]

Dass China oder die VAE eine ganz andere Wertevorstellung von Menschenrechten haben wie Staaten der westlichen Wertegemeinschaft ist jetzt keine investigative Neuigkeit.

Stoff zum Nachdenken: Wieso kaufst Du Apple-Produkte, wo Dir doch schon lange bewusst ist, dass das Land, das (neben Indien) weitestgehend Apple-Produkte fertigt und zuliefert, doch schon lange Minderheiten seines Einflussbereichs diskriminiert (wie auch Indien)?

Ist es zielführend, dass wir Argumente (aus Sicht unseres Wertekanons) in 'Unrechts'-Räume führen, um das 'Problem' für Europa und den angelsächsischen Raum argumentativ aufzuhübschen?

Sollten wir die Diskussion nicht zunächst mal auf Werte- und Rechtsräume legen, die mehrheitlich für AT'ler und für die Hauptnutzer von Apple relevant sind. In D gilt das Prinzip der Gewaltenteilung. Und die strengen DSGVO.

Dann können wir uns vielleicht über die VAE unterhalten, über Jemen, die Verfolgung von Intellektuellen, Menschen-, Frauenrechtlern, Hinrichtungen, Körperstrafen, Folter, Diskriminierung von Frauen, religiöse Diskriminierung und Sippenhaft weiterbewegen. Aus Sicht des Fußballs: Katar 2022, Saudi-Arabien ggf. 2030.