Facebook Files:Die Sprachlosigkeit der Maschinen

Facebook Files: undefined
(Foto: Illustration: Stefan Dimitrov)

Jenseits des englischsprachigen Internets stoßen die Sicherheitsmechanismen von Facebook an Grenzen.

Von Simon Hurtz, Lena Kampf, Till Krause, Andrian Kreye, Georg Mascolo und Frederik Obermaier

Das Internet spricht englisch, heißt es. Das zeigen auch die Dokumente der Facebook Files ganz deutlich. Auch wenn der Großteil der Mitglieder heute außerhalb der englischsprachigen Welt lebt, funktionieren die Sicherheitsmechanismen der Plattformen dort nicht ausreichend. Es ist ein Phänomen, das zwei anonyme Facebook-Mitarbeiter an einem exemplarischen Fall untersucht und Ende Dezember 2020 im internen Forum zur Diskussion gestellt haben. Monatelang hatten sie die Aktivitäten der Nutzer in Nordafrika und im Nahen Osten beobachtet, Facebooks arabischsprachigem Markt von Marokko bis Irak. Aufgefallen war ihnen dabei vor allem eins: Immer zu Ramadan, dem islamischen Fastenmonat, fielen die Meldungen von Verstößen wegen sexueller Belästigung, Nacktheit oder Pornografie steil ab, während sich die Meldungen zu Terrorismus und Gewaltaufrufen extrem vermehrten. Das erste ließe sich leicht erklären, schreiben die beiden Forscher: Ramadan sei für die meisten Muslime ein Monat der Besinnung und Einkehr. Doch dann stellen sie fest: Was der Algorithmus von Facebook und Instagram als Aufruf zu Gewalt liest, sind in Wahrheit ebenso fromme Aussagen. Denn die Programme reagierten auf Worte wie "Märtyrer" und "Krieg", ohne zu erkennen, dass es sich dabei um Koran-Zitate handelt, die muslimische Nutzer während der heiligen Wochen millionenfach posten.

Zur SZ-Startseite
Facebook Files

SZ PlusExklusivFacebook Files
:Fehler im System

Drogenkartelle suchen über Facebook Auftragskiller, hier brodeln Hass und Lügen und die Erosion des politischen Diskurses: Die Whistleblowerin Frances Haugen über einen Konzern, der genau weiß, was er anrichtet - und trotzdem immer weitermacht.

Lesen Sie mehr zum Thema

Jetzt entdecken

Gutscheine: