Inside Facebook:Das sind Facebooks geheime Lösch-Regeln

Facebook verrät nicht, nach welchen Kriterien Inhalte entfernt werden müssen. Dem SZ-Magazin liegen Teile der Regeln vor. Wir zeigen Ausschnitte und erklären sie.

Von Till Krause und Hannes Grassegger

Einleitende Worte

1 / 10
(Foto: anonym)

Diese Dokumente sind Teil interner Unterlagen, die den Löschteams die Arbeit erklären sollen. Um unsere Quellen zu schützen zeigen wir nur Ausschnitte, die wir optisch verfremdet haben. Die Regeln ändern sich ständig - geben aber zum ersten Mal Einblicke in die derzeitigen Vorschriften, nach denen Facebook Inhalte entfernen lässt. Das Logo rechts unten, das Herz mit der Weltkugel, ist laut unserer Quellen das Symbol von Facebooks Abteilung, die die Regeln festlegt, nach denen Inhalte gelöscht werden. Umgesetzt werden diese Regeln dann oft von Subunternehmen - wie der Bertelsmann-Tochter Arvato in Berlin. Sie bekommen interne Schulungen, in denen ihnen erklärt wird, was gelöscht wird und was nicht. Auf dieser Abbildung soll vermittelt werden, warum Facebook gegen Hassrede vorgeht: "weil es ein einschüchterndes und ausschließendes Umfeld schafft, in dem Menschen ungern Dinge teilen". Das aber ist genau das Geschäftsmodell von Facebook: Dass viele Menschen dort möglichst viel teilen und interagieren - und dabei viel Werbung sehen.

Nicht erlaubt: Hassrede (aber nur bei bestimmten Personengruppen)

2 / 10
(Foto: anonym)

Zu Beginn des Kapitels über Hassrede wird zunächt klargemacht, welche Kriterien erfüllt sein müssen, damit ein Beitrag als Hassrede gelöscht wird: Der verbale Angriff auf eine sogenannte "geschützte Kategorie". Diese werden von Facebook festgelegt und bestehen momentan aus: Geschlecht Religionszugehörigkeit Nationale Herkunft Geschlechtliche Identität Rasse Ethnizität Sexuelle Orientierung Behinderung oder ernsthafte Krankheit Angriffe, die aufgrund einer dieser Kategorien erfolgen, werden gelöscht. Daraus ergeben sich aber auch Merkmale, die keinen besonderen Schutz genießen, sie werden im selben Kapitel erklärt: Alter - wie Jugendliche, Alte, Teenager Berufsstand - wie Lehrer, Ärzte, Piloten, Astronauten oder arbeitslos Herkunftskontinent - wie Europäisch, Südamerikanisch. Hier wird gesondert auf Gefahren bei folgenden Begriffen hingewiesen: Asiaten (sind geschützt im Konzept der Rasse); Amerikanisch oder Australisch (geschützt aufgrund nationaler Herkunft) Sozialer Stand - wie reich, arm, Mittelschicht Aussehen - wie blond, brünett, groß, klein, dick, dünn Politische Überzeugung - wie Republikaner, Demokrat, Sozialist, Kommunist, Revolutionär Religion wie Islam, Katholizismus, Scientology - hier gilt: Die Anhänger einer Religion sind geschützt, nicht aber die Religion selbst. Das selbe gilt für Länder. Man darf pauschal schlecht über Frankreich oder Deutschland sprechen - aber nicht Menschen aus diesen Ländern aufgrund ihrer Staatsangehörigkeit verurteilen.

3 / 10
(Foto: anonym)

Daraus ergeben sich auch Kombinationsmöglichkeiten: Eine "geschützte Kategorie" (Protected Category, abgekürzt: PC) plus eine andere "geschützte Kategorie" ergibt eine "geschützte Kategorie". Als Beispiel sind irische Frauen gewählt: Irisch entspricht einer "Nationalen Herkunft" und Frauen sind als Geschlecht geschützt. Wer als schreibt: "Irische Frauen sind dumm" verstößt gegen die Regeln und der Beitrag wird entfernt. Anders verhält es sich bei der Kombination einer "geschützten Kategorie" und einer "nicht geschützten Kategorie": Daraus resultiert eine "nicht geschützte Kategorie". Das Beispiel sind Irische Teenager. Zwar gilt auch hier der Schutz für die nationale Herkunft - aber da Teenager als Altersbezeichnung keinen besonderen Schutz genießt (genauso wie etwa "Rentner" oder "Jugendlicher"), muss der Satz "Irische Teenager sind dumm" nicht gelöscht werden.

Eine Übersicht erlaubter und verbotener Sätze

4 / 10
(Foto: anonym)

Diese Übersichtsdarstellung zum Ende des Kapitels über Hassrede illustriert viele Regeln auf einmal. Besonders interessant: die Regeln, die sich auf Migranten beziehen. So ist es nicht erlaubt, "Scheiß Moslems" zu schreiben, da Religionszugehörigkeit eine "geschützte Kategorie" ist. Der Satz "Scheiß Migranten" ist hingegen erlaubt, da Migranten nur eine "teilweise geschützte Kategorie sind" - eine Sonderform, die nach Protesten aus Deutschland eingeführt wurde. Demnach darf gegen Migranten unter bestimmten Umständen gehetzt werden. Der Satz "Migranten sind dreckig " ist demnach erlaubt, der Satz "Migranten sind Dreck" hingegen nicht.

Nicht erlaubt: Mobbing

5 / 10
(Foto: anonym)

Eine Rangliste von Privatpersonen aufgrund äußerer Erscheinung oder Persönlichkeitsmerkmalen zu erstellen, ist unzulässig - es gilt als Mobbing. Demnach müssen Bilder von drei Frauen am Strand gelöscht werden, wenn darunter als Bildunterschrift steht: "Welche von ihnen ist heißer? Bitte kommentieren!". Damit könnten gemäß der Facebook-Richtlinien auch Aussagen von Donald Trump gelöscht werden, der Frauen immer wieder aufgrund ihres Aussehens bewertet - mit Sätzen wie "eine Frau mit kleiner Oberweite hat es sehr schwer, zehn von zehn Punkten zu bekommen".

Erlaubt: Selbstverletzendes Verhalten

6 / 10
(Foto: anonym)

All diese Bilder müssen nicht gelöscht werden. Selbstverletzendes Verhalten (wozu offenbar auch Tätowierungen und extreme Piercings zählen) dürfen auf der Seite bleiben, wenn sie ohne weitere Bildunterschrift hochgeladen werden und daraus keine Aufforderung zur Nachahmung hervorgeht. Es sei eine Frage des Kontexts: Abbildungen von extremer Magersucht (Bild oben rechts) oder einer offensichtlich schlimmen Verletzung bei einem Kind (unten rechts) verstoßen nicht gegen die Richtlinien. Im selben Kapitel erscheinen später auch verstörende Bilder von extremer Selbstverletzung mit tiefen Fleischwunden. Solche Inhalte müssen nur gelöscht werden, wenn sie andere zu ähnlichen Taten anstiften. Andernfalls bleiben die Bilder auf der Seite, damit Freunde den - wie es die Richtlinie beschreibt - "Hilfeschrei" sehen können. Es ist in den Dokumenten auch davon die Rede, dass Leute, die Bilder von eigener Selbstverletzung hochladen, die Kontaktdaten von Hilfsangeboten übermittelt bekommen.

Personen des öffentlichen Lebens

7 / 10
(Foto: anonym)

Facebook unterscheidet zwischen Menschen des öffentlichen Lebens und Privatpersonen. Weil Personen des öffentlichen Lebens weniger streng geschützt sind, ist es interessant, sich die Kriterien zu betrachten, nach denen jemand bei Facebook als Person des öffentlichen Lebens gilt. Sie sind: Menschen, die in eine Regierungsposition gewählt wurden Menschen mit mehr als 100 000 Followern in sozialen Medien Menschen, die bei Rundfunk- oder Nachrichtenmedien angestellt sind und sich dort öffentlich äußern Menschen, die in den letzten zwei Jahren fünfmal oder öfter in Nachrichtenartikeln erwähnt wurden.

Nicht erlaubt: Menschen in verletzender Weise beim Urinieren zu zeigen

8 / 10
(Foto: anonym)

Im Kapitel zu Mobbing gibt es eigene Regeln für den Umgang mit Körperfunktionen. Demnach ist es unzulässig, "Fotos zu teilen, die andere in verletzender Weise dabei zeigen, zu menstruieren, zu urinieren, sich zu übergeben oder zu koten". Darum sind diese Bilder allesamt zu löschen. Bildunterschriften (von links nach rechts): "Haha, sieht so aus, als hätte er Probleme". "Oh Gott. Du bist erwachsen. Das ist ekelhaft". "Kann ihr bitte jemand eine Damenbinde reichen? Lol."

9 / 10
(Foto: anonym)

An der Tatsache, dass diese Bilder nicht gelöscht werden sollen, zeigt sich eine wichtiger Mechanismus der internen Löschregeln von Facebook: Bilder müssen nur entfernt werden, wenn sich aus dem Kontext etwas Verbotenes ablesen lässt - in diesem Falle das Mobbing. Nur weil bei diesen Beispielen die Bildunterschriften fehlen, dürfen sie auf der Seite bleiben. Auch wenn man sicher darüber diskutieren könnte, ob die Frau auf dem Bild ganz rechts die Darstellung nicht auch als verletzend empfinden könnte. Oder die Verbreitung dieses Bildes in eine nicht zu kontrollierende Öffentlichkeit.

10 / 10
(Foto: anonym)

Wir bleiben beim Beispiel des Körperfunktionen. Denn noch eine wichtige Unterscheidung lässt sich hier ablesen: Die Differenzierung zwischen Menschen des öffentlichen Lebens und Privatpersonen. Für mehr oder weniger prominente Menschen (auf die genauen Kriterien wird später genauer eingegangen) wie die Black-Eyed-Peas Sängerin Fergie, den Ex-Boygroup Star Harry Styles oder den Schauspieler Owen Wilson gelten andere Maßstäbe bei Facebook. Sie dürfen laut Facebook-Regeln bedenkenlos dabei gezeigt werden, wie sie sich beim Singen in die Hose machen, sich öffentlich übergeben oder urinieren. Über den Beispielen steht: "Bilder, die öffentliche Personen beim urinieren, koten, kotzen oder menstruieren zeigen, werden ignoriert".

© SZ.de - Rechte am Artikel können Sie hier erwerben.
Zur SZ-Startseite

Lesen Sie mehr zum Thema

Jetzt entdecken

Gutscheine: