Apple prüft Fotos künftig auf Kinderpornographie

[SomeUser]

Allerdings sind "die Amis" (ich weiß, dass es "die Amis" in diesem Zusammenhang nicht gibt; deswegen die Anführungsstriche) hinsichtlich "sexual explicit content" ja bekanntlich ziemlich "prüde", um es mal etwas einfach auszudrücken.

Das ist nicht "etwas einfach" ausgedrückt, sondern falsch ausgedrückt. Die USofA sind quasi Quell des Pornomarktes, größter Markt für entsprechenden Content etc. Sie sind sicherlich vieles, aber nicht prüde.
Sie haben nur, und hier kommt dann die Verwechselung, die die Deutschen da dann gerne betreiben, ein "Problem" mit Sexualität (im weiteren Sinne) in der Öffentlichkeit.

Es kann also jemand Frau zu Hause durchaus von einer Gruppe am Andreaskreuz gefesselt "bespielen" lassen, dabei die absurdesten Toys einsetzen und das filmen - das ist ok. Aber bitte keinen Nippel im TV zeigen. Das mag ambivalent erscheinen, ist jedoch nicht prüde.

 

[jensche]

Wo nimmst Du denn die Vermutung her, in Zusammenhang mit dem Thema hier?
Denn das ist ja gar nicht der Fall und macht Deinen Kommentar / deine Angst obsolet.

Du scheinst die Technik und Vorgehensweise nicht verstanden zu haben.

Da wäre ich an der technischen Umsetzung interessiert, die das wirklich garantiert. Auch die Aussage, dass man wenn manche Regimes hier weitere Hashes fordern, dies strikt abzulehnen, könnten durch entsprechende gesetzliche Regelungen wertlos sein.

Was macht Apple denn im Zweifel, wenn z.B. China Zugang zu dem System fordert und die Alternativen für Apple lauten mitspielen oder eben in China nicht mehr zu verkaufen und zu produzieren?

 

[MichaNbg]

Da schließ ich mich nicht an, und ich finde auch dazu die Thesen in diesem Beitrag sehr spannend. Übrigens - sowas kann auch ne psychische Krankheit sein, nur ums mal zu sagen ,... Oft nehmen "Täter" solche Fotos auch einfach sonst wo auf - Im Schwimmbad, irgendwo in ner Umkleide, was auch immer - das Problem ist dass die Grenze auch recht schwer ist und ich frag mich wie Apple das löst. Wenn ICH ein Foto von meinem nackten 3 jährigen Mädchen am Handy habe wie es im Garten in meinem Pool plantsch - ist das wahrscheinlich okay. Wenns der Nachbar ist und sich das zigfach ansieht und dazu sonst was macht - nicht ,... Und nun?

Selbstgeschossene Fotos werden - Stand heute - noch gar nicht erkannt. Das heißt das anstößige Bild deines Nachbarn wird nicht erkannt und nicht gemeldet.

Also noch.

 

[Mitglied 87291]

@MichaNbg

Ganz so einfach ist das nicht, da nicht reines Hashing sondern "NeuralHashing" aka. Perceptual Hashing verwendet wird.

 

[Jan Gruber]

Selbstgeschossene Fotos werden - Stand heute - noch gar nicht erkannt. Das heißt das anstößige Bild deines Nachbarn wird nicht erkannt und nicht gemeldet.

Naja weiß nicht ,... Ist das wirklich so? Ich schieß das Foto und schicks einem Freund ,... Meinetwegen absichtlich. Kontext: Wir haben gerade hier Spaß im Urlaub Hurrah. Der hat eine psychische Krankheit und sieht auf dem Bild was anderes als ich und lädt es noch dazu irgendwo anders hoch für andere die das gleiche Problem haben wie er. Und dann dreht sich die Maschine irgendwann und ich bin plötzlich Ersteller von Kinderpornografie?!

Oder nehmen wirs mal ganz anders einfach und gehen weg von psychischen Problemen oder einfach Perversen. Ich hatte auch Fotos von ner leicht bekleideten 16 jährigen auf meinem Handy. Also, ich war damals halt auch 15 und sie meine Freundin, damit eigentlich irgendwie okay oder? Ich hau so Kram zum Glück immer weg aber ...

Die Grenzen in dem Fall sind nicht sooo easy. Und eben genau der Punkt - irgendwann sitzt ggf. Wer anderer am Trigger und dann kanns ungut werden. Für einige von uns sicher - siehe mein Beispiel

 

[jensche]

Ganz so einfach ist das nicht, da nicht reines Hashing sondern "NeuralHashing" aka. Perceptual Hashing verwendet wird.

Also wäre aber dann jeglicher Abgleich möglich. Nicht nur spezifischer Kinderporno Content. Sondern technisch jede Abfrage wäre möglich mit den richtigen Quell Hashes?

Genau da liegt doch das Problem.

 

[Jan Gruber]

Jop ... Next Step ist ... Content ID on your Phone 🎉

Da wird jetzt "Mist" mit nem Todschlag-Argument durchgedrückt. Wo kann man das Thema denn vernünftig disskutieren, außer hier? Sich hinstellen und sagen "Ja gegen Kinderpornografie vorgehen ist aber nicht wirklich cool" ist halt echt auch irgendwie schwer - in dieser verkürzten Form zumindest

 

[doc_holleday]

Und da dachte man als Teenager in den Achtzigern, dass mit saurem Regen, Waldsterben, dem GAU in Tschernobyl und dem kalten Krieg die Zukunftsaussichten trübe wären.

Aber unabhängig davon, wie schlimm der jetzige Zustand schon ist und wie viel schlimmer der zukünftige noch sein kann, was ist denn ein pragmatischer Ansatz, um mit der Situation umzugehen? Also, was tut man als unbescholtener Bürger, wenn man einfach nicht will, dass die eigenen vollkommen harmlosen und legalen Bilder von Dritten - egal wie - ausgewertet werden (können)?

Zwei getrennte Systeme betreiben? Eins online und eins komplett offline?

 

[Mitglied 87291]

Also wäre aber dann jeglicher Abgleich möglich. Nicht nur spezifischer Kinderporno Content. Sondern technisch jede Abfrage wäre möglich mit den richtigen Quell Hashes?

Genau da liegt doch das Problem.

Nein, es ist nicht jeder Abgleich möglich. Momentan bezieht sich Hashing rein auf Bilddateien und es wird mit einer bestehenden Liste abgeglichen, welche von extern kommt. Allerdings betrifft dies ausschließlich Bilder, welche in die Cloud geladen werden.

Bilder welche nicht in der Cloud gelagert werden, werden auch nicht gehasht. Weiterhin sind andere Dateien aktuell nicht betroffen.

Warum du falsch liegst bzw. deine erste Aussage übertrieben war:
Apple filzt nicht das ganze Handy sondern "nur" Bilder welche in der Cloud landen.
Apple lässt China und Co nicht die Hashing Liste erstellen (Momentaufnahme, aktuell tun sies nicht da es das Feature in China noch nicht gibt, dass dies autokratische Systeme dazu verleiten kann gierig zu werden, ist natürlich naheliegend. Das Apple sich gegen sowas nicht wehrt bzw. gerne kooperiert, wissen wir auch. Missbrauch liegt also nahe).

Nebenbei bemerkt hat dies nichts mit Perceptual Hashing zu tun. Perceptual Hashing ist einfach eine Möglichkeit INhalt ein verschiedenen konstellationen, also auch als Teil von anderem Material, zu erkennen. Dieses System erzeugt allerdings fehler. Apples sagt dass Fehler sehr selten sind, wie sie das schaffen wollen ist mit allerdings schleierhaft. Effektives Perceptual Hashing lebt halt von Abweichungen welche automatisch fehler generieren.

Natürlich ist das ganze nur ein schwacher Trost, da dieses System Missbrauch quasi anzieht. So dramatisch wie du es schilderst, ist es aber (noch) nicht.

Also, was tut man als unbescholtener Bürger, wenn man einfach nicht will, dass die eigenen vollkommen harmlosen und legalen Bilder von Dritten - egal wie - ausgewertet werden (können)?

iCloud (Fotos) nicht verwenden. Wenn Apple die Überwachung weiter eskalieren lässt Apple Geräte meiden. Auf freie Systeme mit Open Source Quellcode wechseln. D.h. Linux aufm Laptop/Desktop und Linux aufm Smartphone.

 

[MichaNbg]

Naja weiß nicht ,... Ist das wirklich so? Ich schieß das Foto und schicks einem Freund ,... Meinetwegen absichtlich. Kontext: Wir haben gerade hier Spaß im Urlaub Hurrah. Der hat eine psychische Krankheit und sieht auf dem Bild was anderes als ich und lädt es noch dazu irgendwo anders hoch für andere die das gleiche Problem haben wie er. Und dann dreht sich die Maschine irgendwann und ich bin plötzlich Ersteller von Kinderpornografie?!

Oder nehmen wirs mal ganz anders einfach und gehen weg von psychischen Problemen oder einfach Perversen. Ich hatte auch Fotos von ner leicht bekleideten 16 jährigen auf meinem Handy. Also, ich war damals halt auch 15 und sie meine Freundin, damit eigentlich irgendwie okay oder? Ich hau so Kram zum Glück immer weg aber ...

Die Grenzen in dem Fall sind nicht sooo easy. Und eben genau der Punkt - irgendwann sitzt ggf. Wer anderer am Trigger und dann kanns ungut werden. Für einige von uns sicher - siehe mein Beispiel

also nach bisheriger Datenlage ist das wirklich so.

Aber ich unterstütze deine Punkte ja, weil Apple gleichzeitig zur Analyse gegen Hash-Datenbanken auch weitgehende Bilderkennung für iMessage einführt. Und es ist kein Hexenwerk beides irgendwann zu verbinden.


Deshalb bleibt es dabei:
Höchstgefährliche Systeme die hier eingeführt werden.

 

[jensche]

Nein, es ist nicht jeder Abgleich möglich.

bestehenden Liste abgeglichen, welche von extern kommt.

Hier wiedersprichst du dich selbst.
Also ist der Hashabgleich mit jeder externen Liste möglich?

Eine Liste dann kombiniert mit dem "Perceptual Hashing", welches du erwähnst, wäre es dann ein leichtes z.B. Fotos mit Personen mit einem Roten T-Shirt zu filtern (nur ein Beispiel, aber ich denke ihr wisst was ich meine)?

 

[dtp]

Das mag ambivalent erscheinen, ist jedoch nicht prüde.

In meinen Augen ist es prüde, wenn man mit öffentlich zur Schau gestellter Sexualität bzw. Erotik (also natürlich keine Pornographie) ein Problem hat.

Bei uns laufen z.B. im Vorabendprogramm der Öffentlich Rechtlichen Werbespots zu Sexualspielzeug und Potenzmittel. Finde ich persönlich absolut okay. Auch, dass das meine Kinder im Alter von 10 und 12 Jahren sehen können. Weiß nicht, ob das in den USA auch so möglich wäre. Kann mich da aber täuschen.

 

[Jan Gruber]

Bei uns laufen z.B. im Vorabendprogramm der Öffentlich Rechtlichen Werbespots zu Sexualspielzeug und Potenzmittel. Finde ich persönlich absolut okay. Auch, dass das meine Kinder im Alter von 10 und 12 Jahren sehen können. Weiß nicht, ob das in den USA auch so möglich wäre. Kann mich da aber täuschen.

Jetzt bin ich ggf der prüde aber ,... Haste Kids oder welche im Umfeld? Ich hab neulich einem 5 jährigen in der Familie erklären müssen was ein Womanizer ist und was man mit dem Spielzeug (zitat) macht und ob das was für Mädchen oder Jungs ist. UPS! Zum Glück ist dessen Aufmerksamkeitsspanne sehr gering und ich konnte mit Eis von der Antwort ablenken 18:30 Eis.de Werbung übrigens ,...

Hier wiedersprichst du dich selbst.
Also ist der Hashabgleich mit jeder externen Liste möglich?

Jein ,... Fotos können sie defakto alles. Was nicht in Fotos ist und nicht in der Cloud ist momentan aber mal raus. Sie analyisieren nicht alles sondern nur diese Sandbox und Dateitypen. Die Indie-Bootlag-MP3s oder runtergeladenen Sexfilmchen die in ,... Keine Ahnung Documents oder meinetwegen sogar der Dateein App liegen sind eigentlich mal "save"

 

[dtp]

Linux aufm Smartphone.

Welches wäre das?

 

[Jan Gruber]

Welches wäre das?

Sailfish war auf der Basis und Firefox also auch?

In der Welt in der wir Android und iOS haben ... Ist das ja alles ne nette Idee aber Quatsch
Am Ende können jetzt einmal mehr die iOS Nutzer nachdenken ob "Alles selbst machen auf Android" nicht doch ne bessere Alternative ist. Der goldene Käfig kriegt Lücken und wird enger. Schritt für Schritt.

 

[dtp]

Jetzt bin ich ggf der prüde aber ,... Haste Kids oder welche im Umfeld?

Öh. Ja. Hatte ich doch in dem von dir zitierten Absatz geschrieben. Und meinem 10-Jährigen habe ich das dann auch mal erklärt, wofür man das braucht. Meiner 12-jährigen Tochter brauchte ich das nicht mehr erklären. Die ist bereits voll in der Pubertät mit Menstruation, Bockigkeit und Co. und muss folglich so langsam auf die Pille vorbereitet werden.

 

[Jan Gruber]

Sorry mir lief der Tread zu schnell haste recht ☺️ Also beim 5 fast 6 jährigen hatte ich so meine bittere Not =)

 

[dtp]

Am Ende können jetzt einmal mehr die iOS Nutzer nachdenken ob "Alles selbst machen auf Android" nicht doch ne bessere Alternative ist.

Ach nö. Ich nutze zwar Raspis und Co. im Smart Home, aber beim Smartphone und der Smart Watch habe ich echt keine Lust auf noch mehr Bastelei und ständigen Firmware- und Software-Updates.

 

[FuAn]

In meinen Augen ist es prüde, wenn man mit öffentlich zur Schau gestellter Sexualität bzw. Erotik (also natürlich keine Pornographie) ein Problem hat.

Bei uns laufen z.B. im Vorabendprogramm der Öffentlich Rechtlichen Werbespots zu Sexualspielzeug und Potenzmittel. Finde ich persönlich absolut okay. Auch, dass das meine Kinder im Alter von 10 und 12 Jahren sehen können. Weiß nicht, ob das in den USA auch so möglich wäre. Kann mich da aber täuschen.

das hat ja mit Prüderie nix zu tun, wenn im Vorabendprogramm keine Werbung fuer Vibratoren laeuft. Werbung fuer Potenzmittel ist hier aber zb. allgegenwärtig, weil die einfach per internet Arzt verschrieben gibt. Und das es zb. keine Nippel im TV gibt ist so auch nicht richtig, die Auflagen was Zugang und Kennzeichnung etc. angeht ist etwas strenger geregelt, als z.b. in Deutschland. Ansonsten gibts genauso FKK, Swingerclubs... Prostitution ist bei weitem nicht so offen wie in Deutschland. Und der No Shoes, No Shirt, No Service Mentalität kann ich persoehnlich ebenfalls einiges abgewinnen.

Um die zu erwischen musst du nicht die 99,99999% der restlichen Bevölkerung überwachen.

Ein Argument, das in der Tat bisher noch etwas untergegangen ist, Apple stellt iOS Nutzer imho tatsaechlich unter Generalverdacht. Man merkt wie der Zweck, Kinderpornographie zu verhindern, die Diskussion beeinflusst.

Und zum Thema perceptual hashing, es steckt ja im Namen, es ist kein 1:1 abgleich, sondern eine Wertung des contents auf basis von vergleichen. Nur wer legt den Wertmaßstab fest?

 

[Jan Gruber]

Ach nö. Ich nutze zwar Raspis und Co. im Smart Home, aber beim Smartphone und der Smart Watch habe ich echt keine Lust auf noch mehr Bastelei und ständigen Firmware- und Software-Updates.

Ja, so handhabe ich das seit 2005 It Just Works Apple und Bastel-Linux, Man muss nur von Zeit zu Zeit prüfen wo man die Grenze zieht. Was iPhone und Co betrifft werd ich das Ganze zumindest mal wieder überdenken müssen