Smart-Speaker Echo Amazon-Mitarbeiter hören Alexa-Sprachbefehlen zu

Amazons Alexa-Sprachassistent auf der Internationalen Funkausstellung (IFA) in Berlin.

(Foto: imago images / allOver)
  • Bei vielen Sprachbefehlen von Alexa-Kunden hört nicht nur der Amazon-Assistent zu, berichtet Bloomberg. Amazon-Mitarbeiter bekommen die Clips ebenfalls zu hören.
  • Das ist nicht ungewöhnlich. Nur wenn falsche Interpretationen der künstlichen Intelligenz korrigiert werden, kann Alexa schnell besser werden.
  • Die Audioclips sind aber offenbar nicht gut anonymisiert.
Von Max Muth

Fragen, die Kunden an Amazons Sprachassistenten "Alexa" stellen, werden offenbar nicht nur in der Cloud von der künstlichen Intelligenz selbst verarbeitet. Die Nachrichtenagentur Bloomberg berichtet, dass Tausende Audioclips auch von Amazon-Mitarbeitern abgehört werden. Demnach sitzen Teams des Konzerns in verschiedenen Städten über den Globus verteilt und bearbeiten eine Auswahl der von Nutzern verschickten Nachrichten.

Bloomberg hat nach eigenen Angaben mit sieben ehemaligen Mitarbeitern dieser Standorte gesprochen. Ein Mitarbeiter aus Boston gab an, dass er Tausende eher belanglose Nachrichten nach Stichworten wie "Taylor Swift" abgesucht habe. Es sollte Alexa darauf aufmerksam machen, dass hier die Musikerin und nicht lediglich der Name "Taylor Swift" allgemein gemeint ist.

Laut Aussage der Mitarbeiter werden teilweise auch sehr private Audionachrichten in größeren Team-Meetings besprochen. In internen Chat-Kanälen würden amüsante Audioclips geteilt. Die von Bloomberg befragten Mitarbeiter weisen zudem darauf hin, dass in vielen Aufzeichnungen das Schlüsselwort fehlte. Amazon zufolge zeichnet der Assistent erst auf, wenn Nutzer ein zuvor festgelegtes Wort - zumeist "Alexa" - aussprechen. Die Technik scheint allerdings recht fehleranfällig zu sein. Einem der Mitarbeiter zufolge fehle das Wort in etwa zehn Prozent der Audioclips.

Private Audioclips landen bei Amazon-Mitarbeitern

Dass Mitarbeiter verschickte Audionachrichten noch einmal zu Gehör bekommen, ist bei digitalen Assistenten nicht ungewöhnlich. Es dient dazu, die Qualität der Antworten zu verbessern. Das gelingt, indem die menschlichen Helfer etwa die automatischen Transkriptionen, die Sprachassistenten von den Anfragen anfertigen, korrigieren und die verbesserte Antwort an die künstliche Intelligenz zurückschicken. So lernt diese und liefert im besten Fall bei der nächsten ähnlichen Anfrage ein besseres Ergebnis.

Problematisch ist allerdings, dass Amazon in den Nutzungsbedingungen zu Alexa keinerlei konkrete Hinweise auf diese Praxis liefert. Dort heißt es nur, Alexa verarbeite die Anfragen der Nutzer "in der Cloud". Nur in den Datenschutz-Einstellungen von Alexa-Nutzern ist ein Menüpunkt zu finden, der die Interpretation zulässt, dass die Daten auch anderweitig eingesetzt werden. Dort können Kunden eine Funktion deaktivieren, mit der "Sprachaufnahmen möglicherweise bei der Entwicklung neuer Funktionen verwendet" werden. Ganz freiwillig ist der Ausstieg aus dieser Option allerdings auch nicht. Die Kunden werden gewarnt, dass neue Funktionen bei ausgeschalteter Option "möglicherweise nicht ordnungsgemäß" arbeiten. Das liest sich eher abschreckend.

Werden Kundendaten ausreichend anonymisiert?

Ein Amazon-Sprecher sagt, dass für die von Bloomberg beschriebenen Trainings nur wenige Kundenanfragen verwendet würden: "Wir nehmen die Sicherheit und den Schutz der personenbezogenen Daten unserer Kunden ernst. Wir versehen nur eine extrem geringe Anzahl von Interaktionen einer zufälligen Gruppe von Kunden mit Anmerkungen, um die Nutzererfahrung zu verbessern." Die Arbeit der Teams sei zudem so organisiert, dass Mitarbeiter keinen direkten Zugriff auf Informationen haben, "die die Person oder das Konto identifizieren können".

Der Bloomberg-Artikel weckt allerdings Zweifel, ob sich diese Aussage halten lässt. Demnach liegen der Nachrichtenagentur Screenshots vor, wonach die Amazon-Mitarbeiter sowohl den Vornamen von Kunden, als auch die Account- und Gerätenummer ihrer Sprachassistenten sehen können. Dass es theoretisch auch anders ginge, zeigt ein Konzeptpapier von Apple. Darin heißt es, dass Kundennachrichten von Anfragen an Apples Sprachassistentin Siri lediglich zusammen mit einer zufällig ausgewählten ID verschickt werden.

Gadgets Amazon verschickt intime Sprachdateien an Wildfremden

Sprachsoftware Alexa

Amazon verschickt intime Sprachdateien an Wildfremden

Wer Alexa nutzt, muss damit rechnen, dass seine Daten gespeichert werden. In mindestens einem Fall gab der Konzern Sprachaufzeichnungen weiter.   Von Mirjam Hauck