Siri-Anfragen: Auch Apple hört mit – manchmal

[Martin Wendel]

Siri-Anfragen: Auch Apple hört mit – manchmal

Ein Artikel des The Guardian sorgt für Aufsehen. Darin wird berichtet, dass auch Siri-Anfragen von Menschen analysiert werden, um den Dienst weiter zu verbessern. Erst kürzlich gab es ähnliche Berichte über die digitalen Assistenten von Amazon und Google. Offenbar beauftragt Apple dafür (auch) externe Unternehmen. Und diese bekommen manchmal durch irrtümliche Siri-Aktivierungen auch sensible Details zu hören, wie in Insider berichtet. Die Rede ist von Drogendeals, vertraulichen Arzt-Patienten-Gesprächen und Audio-Mitschnitten von Geschlechtsverkehr.
Apple analysiert weniger als 1 Prozent der Siri-Anfragen


Apple hat sich inzwischen dazu geäußert und sagt, dass weniger als ein Prozent der Siri-Anfragen analysiert werden und die Ausschnitte in der Regel wenige Sekunden betragen. "Ein kleiner Anteil der Siri-Anfragen wird dazu verwendet, Siri und die Diktieren-Funktion zu verbessern. Die Nutzeranfragen werden dabei nicht mit der Apple-ID verknüpft. Die Siri-Antworten werden in sicheren Einrichtungen analysiert und das Personal ist verpflichtet, sich an die strikten Vertraulichkeitsbedingungen von Apple zu halten", so Apple.
Insider sieht Missbrauchs-Potential


Der Insider berichtet weiter, dass man für die Analyse lediglich technische Probleme melden solle. Der Inhalt soll nicht beachtet werden. Allerdings gebe es hohe Personalfluktuationen bei den beauftragten Unternehmen. "Die Mitarbeiter werden nicht gerade dazu ermutigt, sich besonders um die Privatsphäre der Menschen zu kümmern. Wenn es jemanden mit böswilligen Absichten gäbe, wäre es nicht schwer Personen in den Aufnahmen zu identifizieren", berichtet er.
Siri-Nutzungsbedingungen


In den Nutzungsbedingungen von Siri ist die Verwendung von Siri-Anfragen zu Analysezwecken folgendermaßen formuliert: "Von Apple gesammelte Informationen werden jederzeit gemäß der Apple-Datenschutzrichtlinie unter www.apple.com/de/privacy behandelt. Dies schließt deine Diktate und Benutzerdaten ein, um Siri und die Diktierfunktion und -funktionalität in anderen Apple-Produkten und -diensten bereitzustellen und zu verbessern." Es wird kritisiert, dass hier der Hinweis fehlt, dass die Siri-Anfragen von Menschen analysiert werden.

Via 9to5Mac

 

[NorbertM]

Es wird kritisiert, dass hier der Hinweis fehlt, dass die Siri-Anfragen von Menschen analysiert werden.

Da kann man ja auch beim besten Willen nicht selbst darauf kommen.

Der "Insider" kann mich übrigens gerne mal anrufen, wenn er meine Identität so problemlos aus den Sprachaufzeichnungen ableiten kann.

 

[Mitglied 87291]

Ist halt ein zweischneidiges Schwert. Einerseits meckere ich oft dass Siri im Vergleich zur Konkurrenz einfach untergeht. Andersrum bekommt man dies nur besser hin, wenn dann eben solche Analysen gefahren werden. Diese sind aber wiederum datenschutztechnisch kritisch zu betrachten. Vor allem wenn es sich um "versehentliche" Aufzeichnungen handelt. Über Amazon wird dann immer groß gemeckert, vor allem weil sich Apple immer so als Datenschutz-marktführer präsentiert (oder wie man dies auch immer ausdrücken möchte).

Den Punkt den ich bei Apple konkret kritisch sehe ist das outsourcing an fremdfirmen. Wenn es inhouse geschieht, bleiben die Daten trotzdem bei Apple. Wenn diese aber an dritte zur Analyse weitergegeben werden finde ich das ohne Hinweis schon problematisch.

 

[Marcel Bresink]

Ein Artikel des The Guardian sorgt für Aufsehen. Darin wird berichtet, dass auch Siri-Anfragen von Menschen analysiert werden

Seit wann ist denn das eine Überraschung? Jeder, der Siri nutzt, muss einen Vertrag mit Apple abschließen, in dem steht:

"Ältere Spracheingabedaten, die keine Rückschlüsse auf deine Person zulassen, können für eine bestimmte Zeit erhalten bleiben, um eine generelle Optimierung von Siri und der Diktierfunktion und -funktionalität in anderen Produkten und Diensten von Apple zu ermöglichen. Zu diesen Spracheingabedaten können auch Audiodateien und schriftliche Protokolle der von dir gesprochenen Texte, relevante Diagnosedaten wie Hardware- und Betriebssystemspezifikationen und Leistungsstatistiken sowie die ungefähre Position deines Geräts zum Zeitpunkt der Anfrage gehören."

Das mit den "Rückschlüssen auf deine Person" bedeutet nach amerikanischem Recht nur, dass Apple nicht direkt den Namen des Sprechers bei jeder Aufzeichnung mit abspeichert. Je nach Rahmenbedingungen wird es aber trotzdem oft möglich sein, indirekt auf die Identität des Sprechers zu schließen.

 

[Martin Wendel]

Seit wann ist denn das eine Überraschung?

Das habe ich mich auch gefragt. Interessant ist vielleicht höchstens, dass Apple diese Tätigkeiten auslagert. Aber ungewöhnlich ist auch das nicht.

 

[DF0]

Ich bin etwas enttäuscht. Dachte mal gelesen zu haben, dass Apple das gerade wegen Datenschutz nicht macht und eher mit Inhouse-Test das Siri-System entwickelt und verbessert. Deshalb, so damals irgendwo die Begründung, sei Siri nicht ganz so ausgereift (bzw. „So schlecht“), dafür aber in Bezug auf Datenschutz unbedenklich.

Und jetzt sowas. Man mag unken „Das war doch klar! Wie naiv kann man sein?“. Aber ich meine, genau so wurde es noch vor ca 2 Jahren begründet. Und das fand ich okay. Deshalb (unter anderem) habe ich den HomePod gekauft.

 

[Mitglied 87291]

Genau die Punkte die bei anderen Herstellern gerne kritisiert werden, treffen jetzt halt auch auf Apple zu. Schade.

 

[echo.park]

Ich bin etwas enttäuscht. Dachte mal gelesen zu haben, dass Apple das gerade wegen Datenschutz nicht macht und eher mit Inhouse-Test das Siri-System entwickelt und verbessert. Deshalb, so damals irgendwo die Begründung, sei Siri nicht ganz so ausgereift (bzw. „So schlecht“), dafür aber in Bezug auf Datenschutz unbedenklich.

Und jetzt sowas. Man mag unken „Das war doch klar! Wie naiv kann man sein?“. Aber ich meine, genau so wurde es noch vor ca 2 Jahren begründet. Und das fand ich okay. Deshalb (unter anderem) habe ich den HomePod gekauft.

Ehrlich gesagt dachte ich das auch. Das war ja mal irgendwie in den Medien, dass vieles immer nur On-Device oder zumindest ohne Zutun von Mitarbeitern abläuft.

 

[Martin Wendel]

Siri und die Diktieren-Funktion lief noch nie On-Device, das wurde auch immer so kommuniziert.

 

[echo.park]

Siri und die Diktieren-Funktion lief noch nie On-Device, das wurde auch immer so kommuniziert.

Ja, ich weiß. Das war jetzt nur so gesagt, allgemein versucht Apple eben das meiste On-Device abzudecken.

 

[Martin Wendel]

Ja das stimmt. zB in der Fotos-App die automatischen Tags.

 

[Mitglied 87291]

Aberzumindest ich hatte das Gefühl, dass das weitergeben an Dritte für Apple ein No-Go dar stellt. Ob das mal so gesagt wurde weiß ich nicht, aber der Eindruck wurde bei mir erweckt.

Und das Siri anscheinend dann auch mal beim Sex oder privaten Gesprächen mithört und eben auch diese Daten an ein Dritt-Unternehmen mit hoher Fluktuation weitergegeben werden, finde ich sehr problematisch. Aber gut, ich nutze Siri sowieso nicht.

 

[marcozingel]

Wie unterschiedlich die medialen Überschriften zum Umfang sind...

 

[angerhome]

Interessant ist der letzte Satz.
Bei Amazon und Google kann ich den Dienst nutzen und das nach Hause telefonieren untersagen.
Bei Siri friss oder stirb.

 

[echo.park]

Das unbeabsichtigte Mithören kann ja nur passieren, wenn Hey Siri aktiviert ist und das falsch getriggert wird. Ich nutze Siri nur auf Knopfdruck. Zumindest unbeabsichtigtes Mithören bei der Aktion mit der Freundin kann so nicht stattfinden.

 

[MichaNbg]

Das mit den "Rückschlüssen auf deine Person" bedeutet nach amerikanischem Recht nur, dass Apple nicht direkt den Namen des Sprechers bei jeder Aufzeichnung mit abspeichert. Je nach Rahmenbedingungen wird es aber trotzdem oft möglich sein, indirekt auf die Identität des Sprechers zu schließen.

Danke.

 

[Dario von Apfel]

Bei Amazon und Google kann ich den Dienst nutzen und das nach Hause telefonieren untersagen.

bestimmt halten die sich auch dann daran...

 

[ChavezDing]

Dass Apple hier ein externes Unternehmen einsetzt ist eher uncool, vor allem wenn man bedenkt, welche Kampagne grade gefahren wird. Wären sie wenigstens intern bei Apple, hätte ich weniger Schmerz mit aber sobald was an eine Subfirma geht...naja. Vor allem es geht hier um Stimmen, die sind halt wiedererkennbar, egal über wie viele Ecken ich die Sprachdatei schicke.

 

[Butterfinger]

Das unbeabsichtigte Mithören kann ja nur passieren, wenn Hey Siri aktiviert ist und das falsch getriggert wird.

Nur dass es auch ohne "Hey Siri" immer wieder mithört und das nervt etwas . Immer wieder reagiert das iPhone oder die Watch auf irgendetwas aber es ist definitiv nicht "Hey Siri". Das ist in Meetings recht unangenehm.

 

[echo.park]

Dann musst du Hey Siri abschalten.