Apple prüft Fotos künftig auf Kinderpornographie

[walnussbaer]

Egal, was hier diskutiert wird, ich wette, ihr kauft in absehbarer Zeit das neueste iPhone und iOS 15 muss eh sein. Wer zieht schon gerne Konsequenzen, wenn sie wirklich schmerzhafte Folgen haben?
Ich denke, der Mac ist dann das nächste Objekt im "Kampf gegen Kinderpornografie"

 

[SomeUser]

Moin!

Ja, echt!

Die ansatzlose Massenüberwachung wurde schon vor Jahrzehnten durch Verfassungsgerichte eine Absage erteilt. Nicht nur in Deutschland. Die Politik bleibt aber laufend dabei, dass sie sie wollen. Sei es wegen Terrorismusbekömpfung oder Kinderporno. Gerne auch mal wegen unbezahlter KFZ-Versicherungen (Kennzeichen scannen). Da sieht man schon die Aufweichung. Nicht bezahlte Versicherungsbeiträge werden plötzlich in ihrer Schwere mit Terrorismus und Kinderporno gleichgesetzt.

Was Apple macht ist vermutlich der Versucht, den Anforderungen von Regierungen entgegenzukommen, ohne die Rechte der Nutzer zu sehr einzuschränken, aber wie war das? Was auf meinem Gerät passiert, bleibt auf meinem Gerät? Damit ganz sicher nicht mehr! Egal, wie sehr Apple versucht, diese Aussage zu verbiegen!

Ich habe erst eine Apple Watch gekauft und die Rückgabefrist ist knapp überschritten. Zum Glück habe ich noch keinen Mac gekauft. Den Kauf werde ich nach Pegasus und dieser Ankündigung auch erst einmal einfrieren. Ob ich auf iOS/iPadOS 15 aktualisiere, muss ich mir gut überlegen.

Nun, dazu mal folgendes:
1. Es bringt wenig, verschiedene Instanzen durcheinander zu wirbeln - in diesem Fall "den Staat" und auf der anderen Seite private Unternehmen. Grundlagen, Möglichkeiten, aber auch Einschränkungen und Restriktionen sind vollkommen andere, auch wenn das Vorgehen "irgendwie" ähnlich erscheinen mag.
Ich will weder das Eine, noch das Andere gut heißen, aber unterschiedliche Dinge sind nun mal auch unterschiedlich zu beurteilen.

2. Ich lese schon seit zehn Jahren und länger immer wieder viele Begründungen, warum jetzt Apple, Microsoft, Amazon, ... nicht mehr gekauft bzw. genutzt werden. Gibt auch durchaus viele gute Gründe dafür. Was ich hingegen nicht sehe, ist eine dauerhaft eintretende Veränderung des Nutzungs- und Konsumverhalten. Im Gegenteil: All diese Unternehmen rennen weiterhin von Jahr zu Jahr zu neuen Rekordumsätzen, neuen Kundenrekorden, neuen Absatzrekorden.
Jetzt mag es also vielleicht wirklich der Fall sein, dass ein kleines gallisches Dorf tatsächlich auf "irgendwas" verzichtet. Und aus Sicht der Durchfechtung eigener Interessen ist das auch gut. Aber ganz offensichtlich ist mehrheitlich dieses "Dann kaufe ich nicht" auf die Dauer nur leeres Geschwurbel oder eben das gallische Dorf dermaßen unbewohnt, dass es schlicht keine Rolle spielt.

 

[FuAn]

@ChavezDing
Doch. WEnn du ein Foto hochlädst, wird es im Vorfeld auf deinem iPhone gehasht und mit der Hash-DB von Apple verglichen. All das passiert auf deinem Gerät.

Der Weg von "betrifft nur Fotos welche in die Clodu geladen werden" zu "generell wird jedes Foto/Datei/Nachricht gescannt" ist damit verdammt kurz.

Edit:

Und es geht schon los: https://www.macrumors.com/2021/08/09/apple-child-safety-features-third-party-apps/

Apple möchte die "Features" auch anderen App-Anbietern anbieten. Was Apple damit gemeint hat ist allerdings nicht ganz klar da sie nicht weiter darauf eingegangen sind. Denkbar ist zum einen die Erweiterung der MEssenger-Überprüfung z.B: auf Whats App.
Oder eben auch das scannen von Fotos bei anderen Cloud-Anbietern. Wie schnell da der Weg dann zu einer Überprüfung aller Dokumenten geht, werden wir wohl in nächster Zukunft erfahren...

Damit bietet Apple die Upload Filter für jeglichen content / App… China sagt dann ok alles was auf 微信 geht wird vorher gehen unsere Datenbank gehasht. Sie machen es gerade wirklich nur schlimmer und nicht besser…

 

[allans1976]

In Summe also doch eher ein Kommunikationsproblem. Apple hätte von Anfang an mehr aufklären sollen oder in Medien-Kampagnen einfach und klar darstellen sollen, was Apple da genau macht, es keinen Bruch mit Privacy geben wird und Apple damit keine Büchse der Pandora öffnen möchte.

Klar "möchten" sie das nicht. Sie tun es aber. Und ihre FAQ bestätigt nur, was wir hier diskutiert haben und entkräftet genau NULL von der Kritik weltweit.

Im Moment sind das doch 'wilde' Spekulationen. Diese eignen sich mMn nicht für eine Vorverurteilung im Sinne der Anklage eines Anlasses, der noch nicht einmal stattgefunden hat. Es sei denn natürlich, Du hast einen Informationsvorteil.

Wer hat denn bereits konkrete Hash-Anfragen für weitere Sachverhalte gestellt, welche Apple befürwortet hat?
Das wäre für mich zumindest die Mindest-Voraussetzung, die Büchse als tatsächlich geöffnet zu betrachten.

 

[MichaNbg]

Im Moment sind das doch 'wilde' Spekulationen.

Es gibt keine Spekulation. Es wird diskutiert und dargestellt, was diese Technik grundsätzlich ermöglicht.


Und wer denkt, dass dies nicht auch genutzt wird, hat die letzten 20 Jahre irgendwie vollends verpasst.

 

[Sequoia]

Und Du weißt, was genau die Technik, die Apple dort einbaut, ermöglicht?
Respekt.
Kritisch zu hinterfragen, ist sicherlich immer nicht schlecht. Einen Feldzug "dagegen" zu starten (nicht nur jetzt bei dem Thema hier) würde für mich implizieren, dass Du ggf. doch Deine Techniknutzung hinterfragen und überdenken solltest.

Hier noch das, was wir hier im Thread schon mal hatten:

Apple kontert Datenschützern: "Keine Überwachung"

Apple will unter iOS 15 ein neues System einführen, das Kindesmissbrauch unterbinden soll.

www.teltarif.de

 

[ottomane]

Und Du weißt, was genau die Technik, die Apple dort einbaut, ermöglicht?

Apple beschreibt doch selbst, was die Technik ermöglicht. Man muss nur die Inhalte der Bilder austauschen und hat die perfekten Werkzeuge für den Überwachungsstaat.

 

[Sequoia]

Ich kann mir schwer vorstellen, dass Dies so einfach möglich ist.
Die Hashes kommen von Apple. Wer tauscht dann "nur die Inhalte der Bilder aus"?

Und würde das Argument nicht auch, auf uns in der westlichen Welt auf das iCloud Backup ziehen? Wenn man dem nicht vertraut, dann nutzt man es nicht.

 

[SomeUser]

Moin!

Und Du weißt, was genau die Technik, die Apple dort einbaut, ermöglicht?
Respekt.

Ich bin zwar nicht der Adressat der Frage, aber dennoch: Die Technik ist doch für sich genommen extrem simpel: Hash-Wert der gegen lokale Inhalte geprüft wird. Gesalzen wird die Suppe (ggf. künftig) mit einer KI, die auch unwesentliche Änderungen erkennt (z.B. anderen Beschnitt eines Bildes).
Natürlich lässt sich eine solche Technik nach Belieben auch für andere Inhalte anwenden. Ebenso kannst du MD5 oder jeden anderen Algo nach Lust und Laune für Texte, Bilder oder was auch immer einsetzen. Dass also der Schritt zur Nutzung in anderen Bereichen nicht fern ist, ist eigentlich ziemlich klar. Was streitbar ist, ob hier gerade das Abendland stirbt oder nicht. Oder irgendwas dazwischen.

Hier noch das, was wir hier im Thread schon mal hatten:

Apple kontert Datenschützern: "Keine Überwachung"

Apple will unter iOS 15 ein neues System einführen, das Kindesmissbrauch unterbinden soll.

www.teltarif.de

Damit wollen sie doch nur der Aussage entgegenwirken, die ja auch kursiert (aus meiner Sicht von Leuten, die gefühlt nur die Überschriften zu dem Thema gelesen haben), dass alle Inhalte online auf den Servern von Apple geprüft werden, also auch keine End-to-End-Verschlüsslung gegeben ist.
Tatsächlich findet aber ja wohl erst ein lokaler Abgleich statt und bei positivem Match erfolge dann eine Übermittlung via Bypass, während parallel "normal" End-to-End verschlüsselt wird.
Das ist aber keine Entkräftigung der eigentlichen Kritik.

 

[ottomane]

Die Hashes kommen von Apple.

Und wenn man Apple freundlich bittet, andere Hashs zu verteilen?
Und wer überprüft eigentlich, was Apple da macht?

 

[SomeUser]

Die Hashes kommen von Apple.

Noch ein kleiner Nachtrag dazu: Wie @ottomane ja auch schon schrieb, könnte man die Hashes ja durchaus von Dritten "ergänzen" lassen. Ich meine, die Hashes werden auch heute schon nicht von Apple kommen - oder glaubt hier irgendwer, dass Apple die größte KiPo-Sammlung der Welt hat, um selbst die Hashes zu erstellen?

 

[Blurryface]

Ich frage mich, warum sich Apple in die Strafverfolgung reinhängt.
Obliegt dies doch der Regierung und deren dafür verantwortlichen Behörden.
Kinderpornografie halte ich für ein vorgeschobenes Argument.
Wie hier schon jemand sagte, stehen alle unter Generalverdacht und werden durchsucht. Und das durch einen Tech-Riesen.
Wäre genau das selbe, wenn die Polizei und Staatsanwaltschaft OHNE Verdacht vor der Tür steht und alle im Haus befindlichen Geräte beschlagnahmt und nach Kinderpornografie sucht.
Oder das gesamt Haus nach Drogen absucht. Einfach so.
Das würde sich glaube niemand gefallen lassen.

 

[dtp]

Seid doch froh, das Apple so freundlich war, uns das überhaupt mitzuteilen. Sie hätten es ja auch heimlich machen können. Da ist man schon ehrlich und bekommt trotzdem einen auf den Deckel. Fast wie in einer Beziehung.

Wie ich schon mal geschrieben habe, dürfte Apple hier nur das Werkzeug liefern, während die Datenbank und deren Inhalte von entsprechenden Behörden und Organisationen gepflegt wird. Ich meine, wer soll bitteschön Apple-Mitarbeitern zumuten wollen, dass sie sich ständig Bilder mit Kinderpornographie anschauen müssen? Und wer soll sie dafür bezahlen? Apple selbst hätte daran doch kaum ein Interesse. Und wenn doch, dann hätten sie es schon längst machen können. Zudem bedarf es dazu auch einer rechtlichen Grundlage, die Apple selbst gar nicht schaffen kann.

 

[SomeUser]

Moin!

Ich frage mich, warum sich Apple in die Strafverfolgung reinhängt.
Obliegt dies doch der Regierung und deren dafür verantwortlichen Behörden.
Kinderpornografie halte ich für ein vorgeschobenes Argument.
Wie hier schon jemand sagte, stehen alle unter Generalverdacht und werden durchsucht. Und das durch einen Tech-Riesen.
Wäre genau das selbe, wenn die Polizei und Staatsanwaltschaft OHNE Verdacht vor der Tür steht und alle im Haus befindlichen Geräte beschlagnahmt und nach Kinderpornografie sucht.
Oder das gesamt Haus nach Drogen absucht. Einfach so.
Das würde sich glaube niemand gefallen lassen.

Nein, eigentlich ist dem nicht so. Es ist vielmehr so, als würde dein Vermieter deinem MItbewohner sagen, dass er sich melden soll, wenn du "ungwöhnlich" viel Bargeld oder eine "szenetypische" Geldstückelung hast. Und als das eines Tages der Fall ist, weil du ein Bündel Scheine im Flur hast liegen lassen, meldet das dein Mitbewohner an deinen Vermieter. Der bricht aber nicht in deine Wohnung ein, sondern gibt der Polizei Bescheid. Und die legt dann eventuell mit weiteren Schritten los.
Der Vermieter hat dabei nur mal die Aufforderung von der Polizei erhalten, den Bewohnern mitzuteilen, dass die Polizei Infos dazu haben möchte, wenn viel Bargeld/szenetypische Stückelung vorliegt.

Die Gefahr wäre, dass es künftig auch heißen könnte, dass neben der Polizei das H&M-Regime wissen will, ob du Hilfiger-Klamotten im Schrank hast. Oder der saudische König wissen will, ob du schwule Freunde zu Besuch hast.

 

[MichaNbg]

Und Du weißt, was genau die Technik, die Apple dort einbaut, ermöglicht?
Respekt.
Kritisch zu hinterfragen, ist sicherlich immer nicht schlecht. Einen Feldzug "dagegen" zu starten (nicht nur jetzt bei dem Thema hier) würde für mich implizieren, dass Du ggf. doch Deine Techniknutzung hinterfragen und überdenken solltest.

Hier noch das, was wir hier im Thread schon mal hatten:

Apple kontert Datenschützern: "Keine Überwachung"

Apple will unter iOS 15 ein neues System einführen, das Kindesmissbrauch unterbinden soll.

www.teltarif.de

Na, ad hominem unterwegs? Achso, du bist's wieder ... Bislang bewegtem wir uns eigentlich im technischen Bereich. Also außer du möchtest diesen Pfad wieder verlassen.


Apple hat die Kritik und die Befürchtungen von Kryptografieexperten, Datenschützern und Menschenrechtlern technisch bislang nicht entkräftet. Sie sagen lediglich "wir versprechen uns dagegen zu wehren, ganz wirklich".

Die technischen Möglichkeiten werden geschaffen, der Einsatz nur eine Frage der Zeit.


Oder möchtest du dieser Reihe an Experten ebenfalls die Kompetenz absprechen, die Vorgänge zu bewerten und unterstellst "Feldzüge" wie du es hier gerade seit Tagen tust?

 

[m4371n]

Was bleibt ist die Frage, ob es Apple dauerhaft gelingen wird, zukünftige Begehrlichkeiten von Regierungen erfolgreich ablehnen zu können.

Das ist genau der Punkt. Sobald diese Begehrlichkeiten in Gesetze gegossen sind, wird auch Apple sich daran halten (müssen).

 

[ottomane]

Und deshalb machen sie es schon im Voraus freiwillig? Sorry, wenn ich Dir nicht folgen kann.

 

[Sequoia]

Seit Tagen? Du bist ja niedlich. Ich beobachte nur, dass Dir alles gegen den Strich geht, was Apple in Bezug auf Datenschutz kund tut, gepaart mit der hervorragenden Expertise zu Banken und Bankgeschehen.
Vielleicht trete ich es doch zu offenkundig breit, dass ich pessimistisch misstrauische Menschen nicht ab kann. (gerichtet an den Beitrag von @MichaNbg ).

Wie dem auch sei.
Ich gehe erst mal hier mit:

Welche Kernaussagen ich aus den FAQs herauslese:

• Kommunikationssicherheit in iMessage und die CSAM-Erkennung sind zwei voneinander völlig unabhängige Systeme
  
  
• iMessage
  - bis 13 Jahre - Warnung an das Kind; Eltern werden aktiv gewarnt, wenn die Funktion in der Familiengruppe aktiviert wird
  - ab 13 Jahre - Warnung an das Kind, es erfolgt keine Warnung an die Eltern
  - Apple erhält keinerlei Zugriff auf die Kommunikation, auch wird keine an Apple, NCMEC oder an Strafverfolgungssyteme weitergegeben
  - die End-zu-End-Verschlüsselung wird nicht aufgehoben und es ändere sich nichts an den Datenschutzgarantien
  - Kinder in missbräuchlichen Familien können weiterhin Hilfe auf anderen Kommunikationswegen suchen; Apple fügt zudem Unterstützungen für Siri und die Suche hinzu
  
  
• CSAM
  - gilt nur für Fotos in iCloud, nicht für Benutzer bei deaktivierten iCloud Photos; auch nicht mit der privaten iPhone-Fotomediathek auf dem Gerät
  - Apple erfährt nur von Konten, wenn 'bekannte CSAM-Bilder' entdeckt werden
  - die Datenbanken basieren auf Bildern, die von Kinderschutzorganisationen erworben, von Experten des NCMEC und anderen Kinderschutzgruppen identifiziert und als CSAM-Bilder validiert wurden
  - andere Unternehmen scannen alle Bilder, Apple nur auf Basis der CSAM-Erkennung
  - Apple will mögliche Forderungen von Staaten ablehnen, die Weiteres in die Hash-Liste aufnehmen wollen
  - Apple verweist auf frühere Ablehnungen bei vergleichbaren Forderungen bzw. Sachverhalten
  - fälschliche Meldungen von unschuldigen Nutzern sollen so gut wie nicht möglich sein.
  - Wahrscheinlichkeit bei weniger als Eins zu einer Billion pro Jahr
  - zusätzlich menschliche Überprüfung
  - Systemfehler oder Angriffe sollen so nicht dazu führen, dass unschuldige Personen gemeldet werden

In Summe also doch eher ein Kommunikationsproblem. Apple hätte von Anfang an mehr aufklären sollen oder in Medien-Kampagnen einfach und klar darstellen sollen, was Apple da genau macht, es keinen Bruch mit Privacy geben wird und Apple damit keine Büchse der Pandora öffnen möchte.

Man hätte das sensibler vor- und aufbereiten können. Denn viele hatten den Ersteindruck -ich auch-, dass Apple einfach mal drauf losscannt ...

Was bleibt ist die Frage, ob es Apple dauerhaft gelingen wird, zukünftige Begehrlichkeiten von Regierungen erfolgreich ablehnen zu können.

und

Die Frage ist, ob dieser Schritt nicht genau der Schritt zur Einschränkung von Begehrlichkeiten der Regierungen ist. Eben nach dem Motto: Wir (Apple) kümmern uns selbst darum dass unsere Geräte und Dienste nicht missbraucht werden, es ist nicht erforderlich dass ein Staat sich da einmischt.

Wenn "Soddom und Gomorrha" herrschen würde wär es für Staaten wohl einfach sofort auf alle Daten Zugriff zu verlangen.

Ganz so alleine stehe ich mit der Meinung In dubio pro reo nicht. Hat es sogar ins Gesetz geschafft.

Was mir technisch derzeit nicht klar ist:
Die Hash Datenbank wird auf dem iPhone Lokal gespeichert sein.
Wie soll es, außer unter möglichem gesetzlichen Zwang, möglich sein, eine andere Datenbank in iOS zu implementieren, ohne den Weg über Apple zu gehen?

 

[Mitglied 87291]

Ich kann mir schwer vorstellen, dass Dies so einfach möglich ist.
Die Hashes kommen von Apple. Wer tauscht dann "nur die Inhalte der Bilder aus"?

Und würde das Argument nicht auch, auf uns in der westlichen Welt auf das iCloud Backup ziehen? Wenn man dem nicht vertraut, dann nutzt man es nicht.

Stimmt. Apple hat ja für REgime noch nie extrawürste gebastelt. Die Hash Liste zu tauschen ist unendlich kompliziert, würde Apple nie machen.

Ironie /off

Wie soll es, außer unter möglichem gesetzlichen Zwang, möglich sein, eine andere Datenbank in iOS zu implementieren, ohne den Weg über Apple zu gehen?

Der Weg über Apple ist doch in China, den USA und auch Russland nie ein Problem gewesen? Die haben doch bisher immer bereitwillig Wege und Mittel zur Verfügung gestellt.

 

[Sequoia]

Apple hat ja für REgime noch nie extrawürste gebastelt

Der Weg über Apple ist doch in China, den USA und auch Russland nie ein Problem gewesen?

Ok. Das ist mir bisher nicht so bewusst gewesen. Wo kann ich nachlesen, dass in den USA die Daten bereitwillig weitergegeben werden? Aus den jährlichen Veröffentlichungen über Regierungsanfragen lese ich das zumindest nicht heraus.

Zudem weiß ich persönlich von einem Fall in meinem befreundeten Umfeld, wo genau das auf mehrere Anträge hin nicht geschehen ist. Das ist ganz frisch und bis dahin habe ich mich auch auf die Veröffentlichungen verlassen.

Kommunistische Staaten lasse ich bewusst außen vor. Die tangieren mich weniger.