Facebook Files: Die Sprachlosigkeit der Maschinen

(Foto: Illustration: Stefan Dimitrov)

Jenseits des englischsprachigen Internets stoßen die Sicherheitsmechanismen von Facebook an Grenzen.

Das Internet spricht englisch, heißt es. Das zeigen auch die Dokumente der Facebook Files ganz deutlich. Auch wenn der Großteil der Mitglieder heute außerhalb der englischsprachigen Welt lebt, funktionieren die Sicherheitsmechanismen der Plattformen dort nicht ausreichend. Es ist ein Phänomen, das zwei anonyme Facebook-Mitarbeiter an einem exemplarischen Fall untersucht und Ende Dezember 2020 im internen Forum zur Diskussion gestellt haben. Monatelang hatten sie die Aktivitäten der Nutzer in Nordafrika und im Nahen Osten beobachtet, Facebooks arabischsprachigem Markt von Marokko bis Irak. Aufgefallen war ihnen dabei vor allem eins: Immer zu Ramadan, dem islamischen Fastenmonat, fielen die Meldungen von Verstößen wegen sexueller Belästigung, Nacktheit oder Pornografie steil ab, während sich die Meldungen zu Terrorismus und Gewaltaufrufen extrem vermehrten. Das erste ließe sich leicht erklären, schreiben die beiden Forscher: Ramadan sei für die meisten Muslime ein Monat der Besinnung und Einkehr. Doch dann stellen sie fest: Was der Algorithmus von Facebook und Instagram als Aufruf zu Gewalt liest, sind in Wahrheit ebenso fromme Aussagen. Denn die Programme reagierten auf Worte wie "Märtyrer" und "Krieg", ohne zu erkennen, dass es sich dabei um Koran-Zitate handelt, die muslimische Nutzer während der heiligen Wochen millionenfach posten.