Update 16.08.2019, 13:50 Uhr : Facebook erklärte am Donnerstag, dass keine Konversationen von Nutzern in Europa abgetippt worden seien, die Funktion, die dafür im Messenger aktiviert sein musste, stehe europäischen Nutzern gar nicht zur Verfügung.
Vor wenigen Wochen hätte diese Schlagzeile weltweit Empörung ausgelöst: "Facebook bezahlte Vertragspartner, um Audio-Chats von Nutzern zu transkribieren", titelte die Agentur Bloomberg. Heute aber ist die Reaktion nur Schulterzucken. Überraschend ist höchstens, dass die Nachricht so lang auf sich warten ließ.
Ein Unternehmen mit mehr als zwei Milliarden Nutzern, das jahrelang einen Datenschutz-Skandal an den nächsten gereiht hat, beauftragt Hunderte Menschen, die private Sprachnachrichten von Nutzern zu hören bekommen - und niemand regt sich auf? Mark Zuckerberg kann sich bei Amazon, Apple, Google und Microsoft bedanken: Ausnahmsweise ist Facebook nicht das erste, sondern das letzte große Unternehmen, dessen fragwürdiger Umgang mit Nutzerdaten öffentlich wird.
Wer Alexa, Siri oder Google nutzt, kann sich sicher sein, dass irgendwann ein Mensch zuhört. Aber ist das ein Skandal?
Die vergangenen Monate haben eines gezeigt: Alle großen Sprachassistenten haben menschliche Ohren. Hinter Alexa, Siri, Google und Cortana stecken Mitarbeiter, die einen kleinen Teil der Aufnahmen anhören und transkribieren. Microsoft ließ auch automatisch übersetzte Skype-Telefonate analysieren. Die Unternehmen wollen so die maschinelle Spracherkennung der Programme verbessern.
Allerdings hatten sie ihren Nutzern jahrelang verschwiegen, dass unter Umständen Mitarbeiter zuhören - auch Menschen, die sich komplett unbelauscht wähnen. Die Sprachassistenten reagieren auf Aktivierungsworte und verwechseln zum Beispiel "Alexandra" mit "Alexa". Oder sie halten das Geräusch eines Reißverschlusses für einen Befehl an Siri. Dann zeichnen die Mikrofone auf, die Daten landen auf Servern in den USA und möglicherweise auch bei anderen Unternehmen, die als externe Dienstleister für die Konzerne arbeiten.
Die Tech-Unternehmen sprechen von Einzelfällen, nennen aber keine konkreten Zahlen. Medienberichte legen nahe, dass Fehlalarme häufiger vorkommen. Dem flämischen Sender VRT wurden etwa 1000 Google-Aufnahmen zugespielt. Davon seien rund 150 aufgezeichnet worden, ohne dass Nutzer etwas davon mitbekommen hätten. Bloomberg nennt einen Anteil von zehn Prozent unbeabsichtigter Alexa-Aktivierungen.
Mitarbeiter müssen mutmaßliche Straftaten mit anhören
Bei der SZ haben sich fünf Menschen gemeldet, die angeblich für Amazon, Apple und Google Aufnahmen transkribieren. Auch sie berichten, dass sie immer wieder private Aufzeichnungen zu Ohren bekommen hätten. Dazu zählen sensible berufliche Telefonate und intime Momente: Offenbar stehen auch in vielen Schlafzimmern smarte Lautsprecher. Manchmal nehmen die Sprachassistenten auch Streitgespräche, Bedrohungen und körperliche Übergriffe auf.
Für die Abhörenden ist das belastend, weil sie Zeugen mutmaßlicher Straftaten werden, aber nichts tun können. Die Aufnahmen lassen zwar mitunter Rückschlüsse auf die Identität der Nutzer zu, etwa wenn Namen oder Adressen zu hören sind. Sie werden aber nicht fest mit Nutzerprofilen verknüpft, sondern pseudonymisiert, das heißt ihnen werden zufällig generierte Identifikationsnummern zugeordnet. Ob die Konzerne selbst diese nachträglich Personen zuordnen können, ist unklar. Die Mitarbeiter externer Dienstleister haben diese Möglichkeit jedenfalls nicht.
Die Enthüllungen entzaubern Begriffe wie "künstliche Intelligenz". Kein System arbeitet vollständig autonom, alle Sprachassistenten machen regelmäßig Fehler. Deshalb braucht es Menschen, um die Algorithmen zu trainieren. Sie hören einen kleinen Teil der Aufzeichnungen an und überprüfen, ob die Maschine richtig gehört hat. Dass diese Tatsache Empörung auslöst, haben sich die Unternehmen selbst zuzuschreiben. Statt offensiv aufzuklären, wie Sprachassistenten funktionieren, haben sie lange vertuscht, verharmlost und beschwichtigt.
Diese Strategie der Vertuschung funktioniert nicht mehr. Die Unternehmen realisieren, dass sie dabei sind, den letzten Rest Vertrauen ihrer Nutzer zu verspielen. Einige haben die Auswertung durch Menschen gestoppt, andere halten an der Praxis fest. Ein chronologischer Überblick über Enthüllungen und Reaktionen:
Amazon
- Enthüllung: Im April deckte Bloomberg auf, dass Tausende Angestellte und Mitarbeiter bei externen Dienstleistern Alexa-Aufnahmen anhören und auswerten. Anfang August berichtete die Welt, dass dafür auch Zeitarbeiter im Homeoffice zuständig sind. Offenbar schützt Amazon die Daten weniger sorgfältig, als das Unternehmen behauptet.
- Reaktion: Amazon überlässt seinen Kunden die Entscheidung, was mit den Sprachaufnahmen geschehen soll. Anders ausgedrückt: Amazon wälzt die Verantwortung auf seine Nutzer ab. Sie müssen die menschlichen Ohren selbst in den Privatsphäre-Einstellungen der Alexa-App abschalten oder das Alexa-Datenschutzportal im Browser aufrufen.
- Enthüllung: Im Juli spielte ein Whistleblower dem flämischen Rundfunk VRT Aufnahmen des Google Assistant zu. Die Person arbeitet demnach bei einem Drittunternehmen, wo sie die Mitschnitte anhört, kategorisiert und Abschriften anfertigt.
- Reaktion: Zunächst versuchte Google, den Vorfall herunterzuspielen. Lediglich 0,2 Prozent aller Aufnahmen würden von Menschen analysiert. Später wurde bekannt, dass Google unmittelbar nach der Enthüllung vorerst damit aufgehört hatte, Aufzeichnungen von Mitarbeitern auswerten zu lassen. Derzeit ermittelt der Hamburger Datenschutzbeauftragte Johannes Caspar, der für Google zuständig ist. Der Stopp gilt bis mindestens Ende Oktober. Ob Google die Auswertung durch Mitarbeiter danach fortsetzt, ist unklar. Das Unternehmen bespricht das weitere Vorgehen derzeit mit Caspar.
Apple
- Enthüllung: Ende Juli berichtete der Guardian, dass auch Siri-Aufnahmen von Menschen überprüft werden. Wie alle anderen Unternehmen hatte Apple diese Tatsache mit unklaren Formulierungen verschleiert. Und das, obwohl das Unternehmen sonst bei jeder Gelegenheit betont, dass es die Daten seiner Nutzer besonders zuverlässig schütze. Im Gegensatz zu Facebook und Google erzielt Apple den Großteil seines Umsatzes mit Hardware und nicht mit Werbung. Digitale Anzeigen sind auf möglichst große Datenberge angewiesen, um die bestmöglichen Empfänger zu finden.
- Reaktion: Das Unternehmen lässt Siri-Aufnahmen vorerst nicht mehr von Menschen auswerten. Mit einem kommenden Software-Update will Apple Nutzer dann vor die Wahl stellen, was mit ihren Aufzeichnungen geschehen soll. Bislang ist offen, ob es sich um ein Opt-in- oder ein Opt-out-Verfahren handeln wird. Im ersten Fall wäre aktive Zustimmung nötig. Bei einer Opt-out-Lösung müssen Nutzer bewusst widersprechen, etwa indem sie einen Haken entfernen.
Microsoft
- Enthüllung: Anfang August vervollständigte Microsoft die Liste der Unternehmen mit Sprachassistenten, die Menschen mithören lassen. Einer Recherche von Vice zufolge werden aber nicht nur Cortana-Aufzeichnungen, sondern auch bestimmte Skype-Telefonate ausgewertet: Mitarbeiter überprüfen Sprach- und Videoanrufe, die mit Skype Translator übersetzt wurden.
- Reaktion: Microsoft sagt, dass es die Daten anonymisiere und von Vertragspartnern eine Geheimhaltungsvereinbarung verlange. Außerdem müssten externe Dienstleister hohe Datenschutzstandards einhalten. Im Gegensatz zu Google und Apple hat Microsoft bislang nicht angekündigt, die Auswertung einzustellen. Nutzer können sie auch nicht optional deaktivieren, wie es bei Amazon möglich ist.
- Aktualisierung, 15. August 2019: Mittlerweile hat Microsoft seine Datenschutzerklärung geändert. Das Unternehmen weist Nutzer nun darauf hin, dass auch Menschen Skype-Aufnahmen abhören können.
- Enthüllung: Der aktuelle Bloomberg-Bericht zeigt, dass Unternehmen gar keine eigenen Sprachassistenten brauchen, um Sprachaufnahmen auswerten zu lassen. Facebook hat Hunderte Angestellte bei externen Dienstleistern beauftragt, automatisch transkribierte Sprachaufnahmen im Facebook Messenger zu überprüfen.
- Reaktion: Auf Anfrage teilt Facebook mit, dass die Auswertung "vor mehr als einer Woche" gestoppt worden sei. Es habe sich um vollständig anonymisierte Aufzeichnungen gehandelt. Facebook versichert, dass es die Daten nur genutzt habe, um seine Systeme zu trainieren - und nicht etwa, um Anzeigen zu personalisieren. Außerdem schalte Facebook die Mikrofone niemals im Hintergrund ein. Es sei immer nötig, dass Nutzer sie bewusst aktivieren.
Die SZ wollte von Facebook wissen, ob und wie viele deutsche Nutzer betroffen waren, wie die Aufnahmen geschützt werden, bei welchen Dienstleistern die Angestellten arbeiten, ob Facebook die Praxis künftig wieder aktivieren will und ob Nutzer dann klarer informiert werden. Falls Facebook antwortet, ergänzen wir das hier.
