bedeckt München
vgwortpixel

Recherche in internen Dokumenten:Erpressung mit Nacktbildern

Die Content-Moderatoren müssen sich nicht nur mit Beleidigungen und Drohungen herumschlagen, sondern auch mit Erpressungen. Eine eigene Kategorie sind Erpressungen mit intimen, privaten Fotos oder Videos. In Facebooks Dokumenten wird unterschieden zwischen mehreren Arten des Missbrauchs: Nutzer posten Bilder und Videos auf Facebook oder drohen damit, es zu tun, um von den dargestellten Personen Geld oder weitere Aufnahmen zu erpressen. Eine weitere Kategorie bilden Aufnahmen, die nur verbreitet werden, um dem Ruf oder gar der Existenz der Betroffenen zu schaden. Facebook spricht hier von "Rachepornografie".

Die Lösch-Teams greifen in diesem Fall ein, wenn ein Bild drei Bedingungen erfüllt: Es muss in einem privaten Umfeld entstanden sein, die gezeigte Person muss "nackt, fast nackt oder sexuell aktiv" sein, und die fehlende Zustimmung der Betroffenen muss aus einem "rachsüchtigem Kontext" oder unabhängigen Quellen erkennbar sein.

Facebook weist seine Mitarbeiter explizit darauf hin, dass keine "persönliche Beziehung" zwischen Erpresser und Opfer vorausgesetzt wird. Die Schulungsunterlagen warnen in diesem Zusammenhang, dass es Seitenbetreiber gibt, die explizit darum bitten, intime Privataufnahmen zu verschicken, um sie später weiterverbreiten zu können.

Nutzer, die Nacktbilder verwenden, um Geld zu erpressen oder sich zu rächen, sind offenbar ein relativ weit verbreitetes Problem: Allein im Januar 2017 löschte Facebook die Konten von mehr als 14 000 Nutzern, nachdem diese im Zusammenhang mit Rachepornografie oder Erpressung gemeldet worden waren. In 33 Fällen wurde zusätzlich ein sogenanntes Sicherheits-Team eingeschaltet, da Minderjährige betroffen waren.

Tierquälerei

Die internen Unterlagen bestätigen, was Mitarbeiter der Lösch-Teams bereits im Dezember vergangenen Jahres Reportern des SZ-Magazins geschildert hatten: Viele der gemeldeten Fotos und Videos zeigen barbarische Gewalt und belasten die Content-Moderatoren, die diese Inhalte sichten und löschen müssen. Auch in den Schulungsunterlagen finden sich etliche grausame Fotos. In solchen Fällen ist die Entscheidung eindeutig: Mitarbeiter sollen die entsprechenden Aufnahmen löschen, um die Nutzer zu schützen.

Es gibt aber auch Graubereiche, etwa im Umgang mit Videos, die Tierquälerei zeigen. Diese werden nicht zwangsläufig gelöscht, sondern teilweise nur als "verstörend" markiert. Das bedeutet: Die Videos bleiben online, starten aber nicht mehr automatisch, wenn Nutzer daran vorbeiscrollen. Es braucht also einen zusätzlichen Klick, um am Frühstückstisch von Aufnahmen überrascht zu werden, die "das wiederholte Beißen eines lebenden Tieres durch einen Menschen nicht zu Ernährungszwecken" zeigen.

Facebook

Screenshot eines Dokuments, das der Guardian erhalten und der Süddeutschen Zeitung zur Verfügung gestellt hat.

(Foto: Guardian)

Das ist eine von insgesamt fünf Kategorien, die Mitarbeiter mit entsprechenden Warn-Botschaften versehen, aber nicht löschen sollen. Dazu gehören auch das "wiederholte Treten oder Schlagen eines lebendigen Tieres"; Tiere, die sich in inszenierten Kämpfen gegenseitig beißen und sich "ernsthafte Verletzungen zufügen" (Schaukämpfe ohne blutende Wunden sollen nicht markiert werden); und Menschen, die Tiere "foltern", ihnen also "mit Absicht mehr körperliche Schmerzen zufügen als für Disziplinierungsmaßnahmen nötig".

Interessant ist die Begründung, die Facebook für diese Vorgaben anführt. Auf der entsprechenden Folie mit Entwürfen für Vorgaben für den Umgang mit Tierquälerei findet sich zwar auch ein Auszug aus den allgemeinen Richtlinien, in dem von "traumatisierenden Bildern" und dem "Schutz der Betrachter" die Rede ist. Eingeleitet wird die Folie aber mit den Ergebnissen von Nutzerbefragungen. Diese hätten ergeben, dass die Unzufriedenheit der Nutzer zunehme, wenn sie auf Facebook Darstellungen von Tierquälerei sähen. Das ist nur konsequent: Facebooks wichtigstes Kapital sind möglichst viele zufriedene Nutzer, die möglichst viele Inhalte teilen und dabei möglichst viel Werbung betrachten.

Soziale Netzwerke Inside Facebook

Exklusive SZ-Magazin-Recherche

Inside Facebook

Wer löscht die Hasskommentare, Kinderpornos und Fake News auf Facebook? Im SZ-Magazin sprechen erstmals Mitarbeiter aus dem 600 Mann starken Löschteam in Berlin über ihre belastende Arbeit. Sie sind bei dem Dienstleister Arvato angestellt und fühlen sich nicht ausreichend unterstützt. Einblicke in einen grauenvollen Job und die streng geheimen Lösch-Regeln.   Von Till Krause und Hannes Grassegger