Messenger Wie Facebook private Nachrichten durchleuchtet

Facebook hat bestätigt, dass es jede Messenger-Nachricht auf illegale Videos und Bilder oder schadhafte Links durchleuchtet.

(Foto: dpa-tmn)
  • Der Facebook-Messenger scannt automatisch Bilder und Links in privaten Nachrichten. Wird ein Chat als unangemessen gemeldet, liest sogar ein menschlicher Moderator mit.
  • Das Unternehmen möchte damit illegale Fotos, Videos und Scam-Nachrichten aus seinem Netzwerk fernhalten.
  • Zudem kann Facebook-Chef Mark Zuckerberg wohl gesendete Nachrichten nachträglich löschen. Normale Nutzer können die Funktion nicht nutzen.
Von Caspar von Au

Die Nachricht ist kurz: Sie enthält zwei Emojis mit aufgerissenen Mündern und den Vornamen des Empfängers - außerdem einen Link, der auf Youtube zu verweisen scheint. Wer den Link anklickt, gelangt aber nicht auf Youtube, sondern auf eine andere Website, die automatisch vermutlich schadhafte Software herunterlädt.

Der Link in der Nachricht sieht auf den ersten Blick so aus, als würde er zu Youtube führen. In Wirklichkeit steckt ein Betrugsversuch dahinter. Sie sollten auf keinen Fall den Link anklicken, sondern die Nachricht an Facebook melden.

(Foto: Screenshot / Facebook)

Ginge es nach Facebook, sollten solche Scam-Nachrichten im Messenger, dem Dienst des Netzwerkes für private Nachrichten, gar nicht möglich sein., Das Unternehmen scannt alle Links, Videos und Bilder, die User über den Messenger verschicken. Meldet ein Nutzer einen Chat, lesen sogar menschliche Moderatoren in einem zweiten Schritt die Nachrichten mit. Sie sollen überprüfen, ob die Inhalte mit den Facebook-Richtlinien vereinbar sind und im Zweifel den Chat löschen.

Den meisten Nutzern des Messengers dürfte nicht bekannt sein, dass Maschinen und auch menschliche Mitarbeiter Zugriff auf ihre eigentlich privaten Chats haben. Diese Praxis bestätigte das Unternehmen dem Wirtschafts-Dienst Bloomberg, Mark Zuckerberg hatte sie zuvor in einem Interview - womöglich unfreiwillig - verraten. Wenige Tage zuvor hatte er der Webseite Vox.com erklärt, dass das Unternehmen so Nachrichten, mit denen in Myanmar Menschen gegen die Minderheit der Rohingya aufgehetzt werden sollten, in Chats aufgespürt und gelöscht hätten.

"Es war mein Fehler"

Facebook-Chef Zuckerberg will diesen Dienstag vor dem US-Kongress zum Skandal um Cambridge Analytica aussagen. In der vorab verbreiteten Erklärung räumt er persönliche Versäumnisse ein. Von Claus Hulverscheidt mehr ...

Die Diskussion um den Messenger ereignet sich mitten in der Aufarbeitung von Facebooks Datenskandal um Cambridge Analytica. Das Unternehmen soll die persönlichen Daten von bis zu 87 Millionen Facebook-Nutzern verkauft haben. Facebook-Chef Zuckerberg muss sich am Dienstagabend vor dem US-Senat rechtfertigen.

Algorithmen gleichen die Fotos mit bekannten illegalen Bildern ab

Um Fotos und Links zu checken, nutzt Facebook dieselbe Software, mit der das Unternehmen öffentliche Posts automatisiert prüft. Hochgeladene Fotos und Videos gleicht ein Programm zum Beispiel mit einer schwarzen Liste ab, die bekannte kinderpornografische Inhalte enthält. Links werden auf Viren und Malware gescannt. Letzteres scheint noch nicht hundertprozentig zu funktionieren, wie etwa eine Umfrage in der SZ-Redaktion zeigt. Immer wieder kommen Nachrichten durch, die dubiose Links enthalten. Die Verbreitung des gefälschten Youtube-Links habe man mittlerweile gestoppt, sagte ein Facebook-Sprecher auf Nachfrage. Wer eine solche Nachricht erhält, sollte auf keinen Fall auf den Link klicken. Nutzer können die Nachricht Facebook melden und sollten den Absender darauf hinweisen, dass sein Account Scam-Nachrichten verschickt. Das beschleunigt die Prüfung.

Wer sich gegen die Übernahme seines Facebook-Accounts schützen möchte, aktiviert am besten die Zwei-Faktor-Authentifizierung (wie das geht, erfahren Sie hier). Wer glaubt, dass sein Account gehackt wurde, kann sich unter diesem Link von Facebook helfen lassen.

Facebook überprüft die Bilder und Videos mit Hilfe von Algorithmen. Die Algorithmen errechnen aus bereits bekannten illegalen Bildern und Videos sogenannte Hash-Werte. Das sind Kombinationen aus Zahlen und Buchstaben, die für Außenstehende keinen Rückschluss auf das ursprüngliche Bild zulassen und eine Art digitaler Fingerabdruck sind. Lädt ein User ein Foto als Post oder im Messenger hoch, gleicht die Software den Hash-Wert ab. Stimmt der Wert zum Beispiel mit dem Hash-Wert eines kinderpornografischen Bildes überein, das bereits auf der schwarzen Liste steht, wird der Upload blockiert. Der Fall wird einem menschlichen Moderator gemeldet. Sollte sich herausstellen, dass das Bild verbotene Inhalte zeigt, sperrt Facebook den Nutzer. Nach ähnlichem Prinzip funktionieren auch andere Upload-Filter, zum Beispiel PhotoDNA von Microsoft, das gegen Kinderpornografie und Terror-Propaganda eingesetzt wird, sowie Content ID, mit dem Youtube Urheberrechtsverletzungen aufspürt.

Im November 2017 gab Facebook bekannt, in Australien eine solche Technik zu testen. Dazu sollen User Nacktfotos im Facebook-Messenger hochladen und an sich selber schicken. Der Upload erfolgt verschlüsselt, die Bilder werden nach Erstellen des Hash-Werts gelöscht. Das Unternehmen verspricht, die Nutzer so vor Rachepornos durch bösartige Ex-Partner schützen zu können.

Zuckerberg konnte gesendete Nachrichten löschen

Dass Facebook private Nachrichten mitliest, ist nicht die einzige neue Erkenntnis über den Messenger aus den vergangenen Tagen. Zuckerberg und andere hochrangige Mitarbeiter des Unternehmens haben die Möglichkeit, bereits gesendete Nachrichten zu löschen, berichtet das Tech-Portal TechCrunch. Normale Nutzer können das nicht, viele dürften aber davon träumen. In einer ersten Stellungnahme führte das Unternehmen Sicherheitsgründe an: Man habe nach dem Sony-Hack 2014 die möglicherweise für den Konzern heiklen Nachrichten damit vor Hackerangriffen schützen wollen. Gelöscht wurden offenbar vor allem Zuckerbergs ältere Nachrichten, allerdings nicht alle. Das spricht dafür, dass das Unternehmen gezielt bestimmte Nachrichten entfernt hat. In Facebooks "Gemeinschaft", die Mark Zuckerberg immer wieder beschwört, haben die Manager offenbar Freiheiten, die gewöhnliche Nutzer nicht besitzen.

Nur wenig später verkündete Facebook: Man habe die "Unsend"-Funktion für alle User ohnehin schon länger diskutiert. In einigen Monaten sollen alle Facebook-Nutzer ihre Nachrichten im Messenger nachträglich löschen können. Bis dahin wolle man keine von Zuckerbergs Nachrichten mehr zurücknehmen oder löschen, verspricht das Unternehmen. Facebook entschuldigt sich abermals und klingt dabei - wie schon zuletzt nach ähnlichen Enthüllungen - wie ein getadelter Schulbub: "Wir hätten das früher tun sollen - und es tut uns leid, dass wir das nicht gemacht haben."

Schon jetzt können Messenger-Nutzer in den sogenannten geheimen Unterhaltungen einstellen, dass ihre Nachrichten nach einer bestimmten Zeit (zwischen fünf Sekunden und 24 Stunden) gelöscht werden, sobald diese gelesen wurden. Ähnlich wie Whatsapp, das Facebook gehört, können User auch im Messenger End-zu-End-Verschlüsselung aktivieren. In der App tippen Sie dazu auf Ihr Profilbild und schieben den Regler unter dem Reiter "Geheime Unterhaltungen" nach rechts. Zusätzlich müssen Sie eine geheime Unterhaltung mit dem jeweiligen Chatpartner starten; das Layout ist dann schwarz statt blau gehalten. Doch auch die verschlüsselten Nachrichten kann Facebook lesen, wenn Nutzer das Unternehmen mit dem Melden-Button alarmieren. In dem Fall bekommt ein Moderator einen Screenshot der Unterhaltung zugeschickt.

Der Bürger muss mehr sein als Facebooks Produkt

Nach dem Missbrauch der Daten von Millionen Nutzern zitiert der US-Kongress Mark Zuckerberg zu sich. Nun muss eine scharfe Regulierung bis hin zur Zerschlagung Facebooks diskutiert werden. Kommentar von Nicolas Richter mehr...