Apple prüft Fotos künftig auf Kinderpornographie

[Mitglied 87291]

Hier wiedersprichst du dich selbst.
Also ist der Hashabgleich mit jeder externen Liste möglich?

Nein tue ich nicht. Der Abgleich ist mit jeder Liste möglich die Apple zulässt, aber unter den genannten Rahmenbedingungen. Nur Fotos welche in die iCloud geladen werden. Keine anderen Dateien.

Damit kein Vollzugriff wie du ihn beschrieben hast.

Eine Liste dann kombiniert mit dem "Perceptual Hashing", welches du erwähnst, wäre es dann ein leichtes z.B. Fotos mit Personen mit einem Roten T-Shirt zu filtern (nur ein Beispiel, aber ich denke ihr wisst was ich meine)?

Nein, so funktioniert Perceptual Hashing nicht. Es ist keine KI die über das Bild huscht und dann prüft on jemand eine bestimmte Klamottenfarbe trägt.
Was aber zu prinzipiellen falsch positiven Treffern führt sind Farbschemata. D.h. oben recht ein dunkler aspekt, helle hintzergründe und in der mitte eine Grün blaue Kombi.
Welche Gegenstände auf dem Bild zu sehen sind, sind für Perceptual Hashing nicht relevant. D.h. unter gewissen Umständen können falsche Treffer auftauche da sich Bilddaten ähneln.

Ein Beispiel ist in folgendem Artikel eingebettet:

The Problem with Perceptual Hashes

rentafounder.com

Welches wäre das?

Prinzipiell ist jedes Linux welches auf ARM läuft nutzbar, für Smartphones optimiert ist Ubuntu Touch. Gibt diverse Smartphones damit, allerdings sicherlich keins welches Hardwareseitig in der Top Liga spielt. Allerdings kenne ich mich in diesem Bereich nicht sonderlich gut aus.

 

[jensche]

Nein tue ich nicht. Der Abgleich ist mit jeder Liste möglich die Apple zulässt, aber unter den genannten Rahmenbedingungen. Nur Fotos welche in die iCloud geladen werden. Keine anderen Dateien.

Damit kein Vollzugriff wie du ihn beschrieben hast.

doch. wenn per Gesetz eine Regierung eine Liste Apple Vorschreibt dann muss Apple das öffnen. Siehe z.B. China. Und ja ich spreche immer von Bildern.

Grundsätzlich egal welches Verfahren:
Wenn eine Hashliste vorliegt und Apple per Gesetz gezwungen wird, dann kann diese mit den Fotos abgeglichen werden.
Wird bald für Terrosmus, Fahndungen und jegliches anderes in Frage kommen. Die Politiker werden da genug Ideen haben.

 

[Mitglied 87291]

doch. wenn per Gesetz eine Regierung eine Liste Apple Vorschreibt dann muss Apple das öffnen. Siehe z.B. China. Und ja ich spreche immer von Bildern.

Alles klar, das ist in deinem vorherigen Posts nicht klar geworden. Ja, Apple wird von CHina dazwu gezwungen, in der Vergangenheit hat Apple hie rimmer nachgegeben, dementsprechend werden sie es auch hier wieder tun.
Es gibt allerdings eine recht einfache Möglichkeit sich aktuell vor Zugriff zu schützen: iCloud Fotos nicht verwenden. Oder am besten auf die gesamte iCloud verzichten, da China hier eh Zugriff hat.

Grundsätzlich egal welches Verfahren:
Wenn eine Hashliste vorliegt und Apple per Gesetz gezwungen wird, dann kann diese mit den Fotos abgeglichen werden.
Wird bald für Terrosmus, Fahndungen und jegliches anderes in Frage kommen. Die Politiker werden da genug Ideen haben.

Richtig und genau da sehe ich auch die Gefahr. Vor allem wenn Apple irgendwann auf die Idee kommt, das die Hash-Daten ja sowieso lokal erzeugt werden und damit der iCloud Fotos Zwang ja gar nicht notwendig ist.

 

[ottomane]

Interessanter Artikel zum Thema:

One Bad Apple - The Hacker Factor Blog

 

[FuAn]

Das man kann doch iCloud photos einfach abschalten argument ist hier imho Schall und rauch. Es geht auch darum, welche Signale apple sendet. Wenn die nun Bildmaterial/Inhalte auf Geräten und ihren Systeme erkennen und ggf limitieren oder melden, dann ist das fuer Staaten wie China die logische Konsequenz auf die Idee zu kommen, zu sagen, wir stellen euch künftig eine Hash Datenbank bereit und ihr meldet uns die Treffer, was wir damit tun geht euch nix an.
China ist da das Paradebeispiel, jede wette, dass da schon überlegt wird, ob und wie man sowas fuer den Social Compliance Score nutzen kann... Und Apple liefert die Studie zur Realisierbarkeit nun frei haus...

 

[Mitglied 87291]

@FuAn
Kann China schon längst da Apple der chinesichen Regierung vollständige Freiheit beim Zugriff auf die iCloud Daten von chinesischen Anwendern lässt.

 

[FuAn]

@FuAn
Kann China schon längst da Apple der chinesichen Regierung vollständige Freiheit beim Zugriff auf die iCloud Daten von chinesischen Anwendern lässt.

Es geht ja um die content Erkennung auf den Geräten...

 

[paul.mbp]

Interessanter Artikel zum Thema:

One Bad Apple - The Hacker Factor Blog

Danke für den Link

 

[allans1976]

Welche Kernaussagen ich aus den FAQs herauslese:

• Kommunikationssicherheit in iMessage und die CSAM-Erkennung sind zwei voneinander völlig unabhängige Systeme
  
  
• iMessage
  - bis 13 Jahre - Warnung an das Kind; Eltern werden aktiv gewarnt, wenn die Funktion in der Familiengruppe aktiviert wird
  - ab 13 Jahre - Warnung an das Kind, es erfolgt keine Warnung an die Eltern
  - Apple erhält keinerlei Zugriff auf die Kommunikation, auch wird keine an Apple, NCMEC oder an Strafverfolgungssyteme weitergegeben
  - die End-zu-End-Verschlüsselung wird nicht aufgehoben und es ändere sich nichts an den Datenschutzgarantien
  - Kinder in missbräuchlichen Familien können weiterhin Hilfe auf anderen Kommunikationswegen suchen; Apple fügt zudem Unterstützungen für Siri und die Suche hinzu
  
  
• CSAM
  - gilt nur für Fotos in iCloud, nicht für Benutzer bei deaktivierten iCloud Photos; auch nicht mit der privaten iPhone-Fotomediathek auf dem Gerät
  - Apple erfährt nur von Konten, wenn 'bekannte CSAM-Bilder' entdeckt werden
  - die Datenbanken basieren auf Bildern, die von Kinderschutzorganisationen erworben, von Experten des NCMEC und anderen Kinderschutzgruppen identifiziert und als CSAM-Bilder validiert wurden
  - andere Unternehmen scannen alle Bilder, Apple nur auf Basis der CSAM-Erkennung
  - Apple will mögliche Forderungen von Staaten ablehnen, die Weiteres in die Hash-Liste aufnehmen wollen
  - Apple verweist auf frühere Ablehnungen bei vergleichbaren Forderungen bzw. Sachverhalten
  - fälschliche Meldungen von unschuldigen Nutzern sollen so gut wie nicht möglich sein.
  - Wahrscheinlichkeit bei weniger als Eins zu einer Billion pro Jahr
  - zusätzlich menschliche Überprüfung
  - Systemfehler oder Angriffe sollen so nicht dazu führen, dass unschuldige Personen gemeldet werden

In Summe also doch eher ein Kommunikationsproblem. Apple hätte von Anfang an mehr aufklären sollen oder in Medien-Kampagnen einfach und klar darstellen sollen, was Apple da genau macht, es keinen Bruch mit Privacy geben wird und Apple damit keine Büchse der Pandora öffnen möchte.

Man hätte das sensibler vor- und aufbereiten können. Denn viele hatten den Ersteindruck -ich auch-, dass Apple einfach mal drauf losscannt ...

Was bleibt ist die Frage, ob es Apple dauerhaft gelingen wird, zukünftige Begehrlichkeiten von Regierungen erfolgreich ablehnen zu können.

 

[Mitglied 87291]

Was bleibt ist die Frage, ob es Apple dauerhaft gelingen wird, zukünftige Begehrlichkeiten von Regierungen erfolgreich ablehnen zu können.

Da sie dies bereits jetzt nicht können, wird hier wohl einfach ein weiterer Weg der Überwachung geschaffen.

Das ganze Schreit einfach nach einer einfach zu missbrauchenden Funktion.

 

[alex34653]

Die Frage ist, ob dieser Schritt nicht genau der Schritt zur Einschränkung von Begehrlichkeiten der Regierungen ist. Eben nach dem Motto: Wir (Apple) kümmern uns selbst darum dass unsere Geräte und Dienste nicht missbraucht werden, es ist nicht erforderlich dass ein Staat sich da einmischt.

Wenn "Soddom und Gomorrha" herrschen würde wär es für Staaten wohl einfach sofort auf alle Daten Zugriff zu verlangen.

 

[allans1976]

Das kann die Intension sein. Ob es reicht, bleibt abzuwarten. Ich denke, dass sich die us-administrative Stimmungslage ggü. der GAFA-Industrie in den letzten Jahren deutlich gedreht hat – auch nach der Trump-Administration gibt es keine Anzeichen dafür, dass sich die Richtung des eingeschlagenen Weges, die Macht von GAFA, deren Marktbeherrschung und deren Marktmacht (politisch, insbesondere wirtschaftspolitisch) in Frage zu stellen, verändert hat. Ob Apple das mit solchen Initiativen für sich positiv beeinflussen kann, fraglich.

 

[Mitglied 246615]

Und wenn die Chinesen bekommen was sie wollen, sind die Russen an der Reihe und dann sagt der NSA was ihr für die macht, wollen wir aber auch…

Ich habe noch eine andere Vermutung. Die NSA und CIS sagen Apple, sie wollen Zugriff auf die Daten. Apple sagt nein. Dann drohen die Dienste, ihnen das Geschäft zu vermasseln. Das können sie zwar auch nicht direkt, aber es ist mehr als eine leere Drohnung. Herauskommt eine Saliamitaktik durch die Stück für Stück ein bisschen mehr wird. Zuerst wird die CLoud nicht E2E verschlüsselt. Dann werden die Inhalte gescannt und für KiPo übermittelt. jetzt werden die Dateien auf den Geräten gescannt. Als nächstes werden auch private Nackfotos zur Überprüfung übertragen und landen vielleicht auf der Liste. Später wird das System auch auf mittelschwere und leichte Vergehen ausgeweitet und schon hat man ein Social Scoring wie China eingeführt.

Manchmal frage ich mich, so sehr ich das Social Scoring in China auch verurteile, sind die Chinesen diesbezüglich nicht ehrlicher?

 

[Sequoia]

Die Frage ist, ob dieser Schritt nicht genau der Schritt zur Einschränkung von Begehrlichkeiten der Regierungen ist. Eben nach dem Motto: Wir (Apple) kümmern uns selbst darum dass unsere Geräte und Dienste nicht missbraucht werden, es ist nicht erforderlich dass ein Staat sich da einmischt.

Wenn "Soddom und Gomorrha" herrschen würde wär es für Staaten wohl einfach sofort auf alle Daten Zugriff zu verlangen.

Das denke ich auch.

Manchmal frage ich mich, so sehr ich das Social Scoring in China auch verurteile, sind die Chinesen diesbezüglich nicht ehrlicher?

😱 echt?

 

[jensche]

EU ist auch schon dran:

Nachrichten- und Chatkontrolle

Die Abschaffung des Digitalen Briefgeheimnisses Die EU hat es Chat- und Messenger-Providern erlaubt, private Chats, Nachrichten und E-Mails massenhaft, anlass- und unterschiedslos auf verdächtige Inhalte durchsuchen. Die Begründung: Strafverfolgung von Kinderpornographie. Die Konsequenz: Massenüber

www.patrick-breyer.de

 

[Mitglied 246615]

😱 echt?

Ja, echt!

Die ansatzlose Massenüberwachung wurde schon vor Jahrzehnten durch Verfassungsgerichte eine Absage erteilt. Nicht nur in Deutschland. Die Politik bleibt aber laufend dabei, dass sie sie wollen. Sei es wegen Terrorismusbekömpfung oder Kinderporno. Gerne auch mal wegen unbezahlter KFZ-Versicherungen (Kennzeichen scannen). Da sieht man schon die Aufweichung. Nicht bezahlte Versicherungsbeiträge werden plötzlich in ihrer Schwere mit Terrorismus und Kinderporno gleichgesetzt.

Was Apple macht ist vermutlich der Versucht, den Anforderungen von Regierungen entgegenzukommen, ohne die Rechte der Nutzer zu sehr einzuschränken, aber wie war das? Was auf meinem Gerät passiert, bleibt auf meinem Gerät? Damit ganz sicher nicht mehr! Egal, wie sehr Apple versucht, diese Aussage zu verbiegen!

Ich habe erst eine Apple Watch gekauft und die Rückgabefrist ist knapp überschritten. Zum Glück habe ich noch keinen Mac gekauft. Den Kauf werde ich nach Pegasus und dieser Ankündigung auch erst einmal einfrieren. Ob ich auf iOS/iPadOS 15 aktualisiere, muss ich mir gut überlegen.

 

[Sequoia]

Das „echt“ bezog sich auf Social Scoring und v.a. auf China. Aber für mich ist es generell unvorstellbar, auch nur einen Teil des Kommunismus, bzw. auch von China besser zu finden 😉

Ich habe erst eine Apple Watch gekauft und die Rückgabefrist ist knapp überschritten. Zum Glück habe ich noch keinen Mac gekauft. Den Kauf werde ich nach Pegasus und dieser Ankündigung auch erst einmal einfrieren. Ob ich auf iOS/iPadOS 15 aktualisiere, muss ich mir gut überlegen.

Pegasus ist gepatched. Was hat das mit Apple zu tun, wenn eine Lücke ausgenutzt wird?

 

[MichaNbg]

In Summe also doch eher ein Kommunikationsproblem. Apple hätte von Anfang an mehr aufklären sollen oder in Medien-Kampagnen einfach und klar darstellen sollen, was Apple da genau macht, es keinen Bruch mit Privacy geben wird und Apple damit keine Büchse der Pandora öffnen möchte.

Klar "möchten" sie das nicht. Sie tun es aber. Und ihre FAQ bestätigt nur, was wir hier diskutiert haben und entkräftet genau NULL von der Kritik weltweit.

 

[ChavezDing]

Was Apple macht ist vermutlich der Versucht, den Anforderungen von Regierungen entgegenzukommen, ohne die Rechte der Nutzer zu sehr einzuschränken, aber wie war das? Was auf meinem Gerät passiert, bleibt auf meinem Gerät? Damit ganz sicher nicht mehr! Egal, wie sehr Apple versucht, diese Aussage zu verbiegen!

Also so wie ich das verstehe bleibt das doch so, außer du nutzt iCloud Fotos. Und das passiert ja nicht mehr auf Deinem Gerät.

 

[Mitglied 87291]

@ChavezDing
Doch. WEnn du ein Foto hochlädst, wird es im Vorfeld auf deinem iPhone gehasht und mit der Hash-DB von Apple verglichen. All das passiert auf deinem Gerät.

Der Weg von "betrifft nur Fotos welche in die Clodu geladen werden" zu "generell wird jedes Foto/Datei/Nachricht gescannt" ist damit verdammt kurz.

Edit:

Und es geht schon los: https://www.macrumors.com/2021/08/09/apple-child-safety-features-third-party-apps/

Apple möchte die "Features" auch anderen App-Anbietern anbieten. Was Apple damit gemeint hat ist allerdings nicht ganz klar da sie nicht weiter darauf eingegangen sind. Denkbar ist zum einen die Erweiterung der MEssenger-Überprüfung z.B: auf Whats App.
Oder eben auch das scannen von Fotos bei anderen Cloud-Anbietern. Wie schnell da der Weg dann zu einer Überprüfung aller Dokumenten geht, werden wir wohl in nächster Zukunft erfahren...