Facebook Files:Die Sprachlosigkeit der Maschinen

Facebook Files: undefined
(Foto: Illustration: Stefan Dimitrov)

Jenseits des englischsprachigen Internets stoßen die Sicherheitsmechanismen von Facebook an Grenzen.

Von Simon Hurtz, Lena Kampf, Till Krause, Andrian Kreye, Georg Mascolo und Frederik Obermaier

Das Internet spricht englisch, heißt es. Das zeigen auch die Dokumente der Facebook Files ganz deutlich. Auch wenn der Großteil der Mitglieder heute außerhalb der englischsprachigen Welt lebt, funktionieren die Sicherheitsmechanismen der Plattformen dort nicht ausreichend. Es ist ein Phänomen, das zwei anonyme Facebook-Mitarbeiter an einem exemplarischen Fall untersucht und Ende Dezember 2020 im internen Forum zur Diskussion gestellt haben. Monatelang hatten sie die Aktivitäten der Nutzer in Nordafrika und im Nahen Osten beobachtet, Facebooks arabischsprachigem Markt von Marokko bis Irak. Aufgefallen war ihnen dabei vor allem eins: Immer zu Ramadan, dem islamischen Fastenmonat, fielen die Meldungen von Verstößen wegen sexueller Belästigung, Nacktheit oder Pornografie steil ab, während sich die Meldungen zu Terrorismus und Gewaltaufrufen extrem vermehrten. Das erste ließe sich leicht erklären, schreiben die beiden Forscher: Ramadan sei für die meisten Muslime ein Monat der Besinnung und Einkehr. Doch dann stellen sie fest: Was der Algorithmus von Facebook und Instagram als Aufruf zu Gewalt liest, sind in Wahrheit ebenso fromme Aussagen. Denn die Programme reagierten auf Worte wie "Märtyrer" und "Krieg", ohne zu erkennen, dass es sich dabei um Koran-Zitate handelt, die muslimische Nutzer während der heiligen Wochen millionenfach posten.

SZ-Plus-Abonnenten lesen auch:
Corona-Pandemie
Kann es ohne Lockdown gehen?
Achtung: einmalige Nutzung für Interview in GES, Online Inklusive: Dr. Heidi Kastner, Psychiaterin.
Psychologie
"Dummheit hat Hochkonjunktur!"
Coronavirus - Portugal
Portugal
Wie lebt es sich in einem durchgeimpften Land?
Patientenrückgang in Kliniken
Corona-Politik
Es reicht mit der falschen Rücksichtnahme
Fans on the tribune in the match FC BAYERN MÜNCHEN - ARMINIA BIELEFELD 1-0 1.German Football League on Nov 27, 2021 in M
Corona
Pandemie der Ungeimpften
Zur SZ-Startseite
Süddeutsche Zeitung
  • Twitter-Seite der SZ
  • Facebook-Seite der SZ
  • Instagram-Seite der SZ
  • Mediadaten
  • Newsletter
  • Eilmeldungen
  • RSS
  • Apps
  • Jobs
  • Datenschutz
  • Kontakt und Impressum
  • AGB