bedeckt München

Inside Facebook:Das sind Facebooks geheime Lösch-Regeln

Facebook verrät nicht, nach welchen Kriterien Inhalte entfernt werden müssen. Dem SZ-Magazin liegen Teile der Regeln vor. Wir zeigen Ausschnitte und erklären sie.

Von Till Krause und Hannes Grassegger

10 Bilder

Inside Facebook Arvato Filter

Quelle: anonym

1 / 10

Einleitende Worte

Diese Dokumente sind Teil interner Unterlagen, die den Löschteams die Arbeit erklären sollen. Um unsere Quellen zu schützen zeigen wir nur Ausschnitte, die wir optisch verfremdet haben. Die Regeln ändern sich ständig - geben aber zum ersten Mal Einblicke in die derzeitigen Vorschriften, nach denen Facebook Inhalte entfernen lässt.

Das Logo rechts unten, das Herz mit der Weltkugel, ist laut unserer Quellen das Symbol von Facebooks Abteilung, die die Regeln festlegt, nach denen Inhalte gelöscht werden. Umgesetzt werden diese Regeln dann oft von Subunternehmen - wie der Bertelsmann-Tochter Arvato in Berlin. Sie bekommen interne Schulungen, in denen ihnen erklärt wird, was gelöscht wird und was nicht. Auf dieser Abbildung soll vermittelt werden, warum Facebook gegen Hassrede vorgeht: "weil es ein einschüchterndes und ausschließendes Umfeld schafft, in dem Menschen ungern Dinge teilen". Das aber ist genau das Geschäftsmodell von Facebook: Dass viele Menschen dort möglichst viel teilen und interagieren - und dabei viel Werbung sehen.

Inside Facebook Arvato Filter

Quelle: anonym

2 / 10

Nicht erlaubt: Hassrede (aber nur bei bestimmten Personengruppen)

Zu Beginn des Kapitels über Hassrede wird zunächt klargemacht, welche Kriterien erfüllt sein müssen, damit ein Beitrag als Hassrede gelöscht wird: Der verbale Angriff auf eine sogenannte "geschützte Kategorie". Diese werden von Facebook festgelegt und bestehen momentan aus:

Geschlecht

Religionszugehörigkeit

Nationale Herkunft

Geschlechtliche Identität

Rasse

Ethnizität

Sexuelle Orientierung

Behinderung oder ernsthafte Krankheit

Angriffe, die aufgrund einer dieser Kategorien erfolgen, werden gelöscht.

Daraus ergeben sich aber auch Merkmale, die keinen besonderen Schutz genießen, sie werden im selben Kapitel erklärt:

Alter - wie Jugendliche, Alte, Teenager

Berufsstand - wie Lehrer, Ärzte, Piloten, Astronauten oder arbeitslos

Herkunftskontinent - wie Europäisch, Südamerikanisch. Hier wird gesondert auf Gefahren bei folgenden Begriffen hingewiesen: Asiaten (sind geschützt im Konzept der Rasse); Amerikanisch oder Australisch (geschützt aufgrund nationaler Herkunft)

Sozialer Stand - wie reich, arm, Mittelschicht

Aussehen - wie blond, brünett, groß, klein, dick, dünn

Politische Überzeugung - wie Republikaner, Demokrat, Sozialist, Kommunist, Revolutionär

Religion wie Islam, Katholizismus, Scientology - hier gilt: Die Anhänger einer Religion sind geschützt, nicht aber die Religion selbst. Das selbe gilt für Länder. Man darf pauschal schlecht über Frankreich oder Deutschland sprechen - aber nicht Menschen aus diesen Ländern aufgrund ihrer Staatsangehörigkeit verurteilen.

Inside Facebook Arvato Filter

Quelle: anonym

3 / 10

Daraus ergeben sich auch Kombinationsmöglichkeiten:

Eine "geschützte Kategorie" (Protected Category, abgekürzt: PC) plus eine andere "geschützte Kategorie" ergibt eine "geschützte Kategorie". Als Beispiel sind irische Frauen gewählt: Irisch entspricht einer "Nationalen Herkunft" und Frauen sind als Geschlecht geschützt. Wer als schreibt: "Irische Frauen sind dumm" verstößt gegen die Regeln und der Beitrag wird entfernt.

Anders verhält es sich bei der Kombination einer "geschützten Kategorie" und einer "nicht geschützten Kategorie": Daraus resultiert eine "nicht geschützte Kategorie". Das Beispiel sind Irische Teenager. Zwar gilt auch hier der Schutz für die nationale Herkunft - aber da Teenager als Altersbezeichnung keinen besonderen Schutz genießt (genauso wie etwa "Rentner" oder "Jugendlicher"), muss der Satz "Irische Teenager sind dumm" nicht gelöscht werden.

Inside Facebook Arvato

Quelle: anonym

4 / 10

Eine Übersicht erlaubter und verbotener Sätze

Diese Übersichtsdarstellung zum Ende des Kapitels über Hassrede illustriert viele Regeln auf einmal. Besonders interessant: die Regeln, die sich auf Migranten beziehen. So ist es nicht erlaubt, "Scheiß Moslems" zu schreiben, da Religionszugehörigkeit eine "geschützte Kategorie" ist. Der Satz "Scheiß Migranten" ist hingegen erlaubt, da Migranten nur eine "teilweise geschützte Kategorie sind" - eine Sonderform, die nach Protesten aus Deutschland eingeführt wurde. Demnach darf gegen Migranten unter bestimmten Umständen gehetzt werden. Der Satz "Migranten sind dreckig " ist demnach erlaubt, der Satz "Migranten sind Dreck" hingegen nicht.

Inside Facebook Arvato

Quelle: anonym

5 / 10

Nicht erlaubt: Mobbing

Eine Rangliste von Privatpersonen aufgrund äußerer Erscheinung oder Persönlichkeitsmerkmalen zu erstellen, ist unzulässig - es gilt als Mobbing. Demnach müssen Bilder von drei Frauen am Strand gelöscht werden, wenn darunter als Bildunterschrift steht: "Welche von ihnen ist heißer? Bitte kommentieren!". Damit könnten gemäß der Facebook-Richtlinien auch Aussagen von Donald Trump gelöscht werden, der Frauen immer wieder aufgrund ihres Aussehens bewertet - mit Sätzen wie "eine Frau mit kleiner Oberweite hat es sehr schwer, zehn von zehn Punkten zu bekommen".

Inside Facebook Arvato Filter

Quelle: anonym

6 / 10

Erlaubt: Selbstverletzendes Verhalten

All diese Bilder müssen nicht gelöscht werden. Selbstverletzendes Verhalten (wozu offenbar auch Tätowierungen und extreme Piercings zählen) dürfen auf der Seite bleiben, wenn sie ohne weitere Bildunterschrift hochgeladen werden und daraus keine Aufforderung zur Nachahmung hervorgeht. Es sei eine Frage des Kontexts: Abbildungen von extremer Magersucht (Bild oben rechts) oder einer offensichtlich schlimmen Verletzung bei einem Kind (unten rechts) verstoßen nicht gegen die Richtlinien. Im selben Kapitel erscheinen später auch verstörende Bilder von extremer Selbstverletzung mit tiefen Fleischwunden. Solche Inhalte müssen nur gelöscht werden, wenn sie andere zu ähnlichen Taten anstiften. Andernfalls bleiben die Bilder auf der Seite, damit Freunde den - wie es die Richtlinie beschreibt - "Hilfeschrei" sehen können. Es ist in den Dokumenten auch davon die Rede, dass Leute, die Bilder von eigener Selbstverletzung hochladen, die Kontaktdaten von Hilfsangeboten übermittelt bekommen.

Inside Facebook Arvato Filter

Quelle: anonym

7 / 10

Personen des öffentlichen Lebens

Facebook unterscheidet zwischen Menschen des öffentlichen Lebens und Privatpersonen. Weil Personen des öffentlichen Lebens weniger streng geschützt sind, ist es interessant, sich die Kriterien zu betrachten, nach denen jemand bei Facebook als Person des öffentlichen Lebens gilt.

Sie sind:

Menschen, die in eine Regierungsposition gewählt wurden

Menschen mit mehr als 100 000 Followern in sozialen Medien

Menschen, die bei Rundfunk- oder Nachrichtenmedien angestellt sind und sich dort öffentlich äußern

Menschen, die in den letzten zwei Jahren fünfmal oder öfter in Nachrichtenartikeln erwähnt wurden.

Inside Facebook Arvato Filter

Quelle: anonym

8 / 10

Nicht erlaubt: Menschen in verletzender Weise beim Urinieren zu zeigen

Im Kapitel zu Mobbing gibt es eigene Regeln für den Umgang mit Körperfunktionen. Demnach ist es unzulässig, "Fotos zu teilen, die andere in verletzender Weise dabei zeigen, zu menstruieren, zu urinieren, sich zu übergeben oder zu koten". Darum sind diese Bilder allesamt zu löschen.

Bildunterschriften (von links nach rechts): "Haha, sieht so aus, als hätte er Probleme". "Oh Gott. Du bist erwachsen. Das ist ekelhaft". "Kann ihr bitte jemand eine Damenbinde reichen? Lol."

Inside Facebook Arvato Filter

Quelle: anonym

9 / 10

An der Tatsache, dass diese Bilder nicht gelöscht werden sollen, zeigt sich eine wichtiger Mechanismus der internen Löschregeln von Facebook: Bilder müssen nur entfernt werden, wenn sich aus dem Kontext etwas Verbotenes ablesen lässt - in diesem Falle das Mobbing. Nur weil bei diesen Beispielen die Bildunterschriften fehlen, dürfen sie auf der Seite bleiben. Auch wenn man sicher darüber diskutieren könnte, ob die Frau auf dem Bild ganz rechts die Darstellung nicht auch als verletzend empfinden könnte. Oder die Verbreitung dieses Bildes in eine nicht zu kontrollierende Öffentlichkeit.

Inside Facebook Arvato Filter

Quelle: anonym

10 / 10

Wir bleiben beim Beispiel des Körperfunktionen. Denn noch eine wichtige Unterscheidung lässt sich hier ablesen: Die Differenzierung zwischen Menschen des öffentlichen Lebens und Privatpersonen. Für mehr oder weniger prominente Menschen (auf die genauen Kriterien wird später genauer eingegangen) wie die Black-Eyed-Peas Sängerin Fergie, den Ex-Boygroup Star Harry Styles oder den Schauspieler Owen Wilson gelten andere Maßstäbe bei Facebook. Sie dürfen laut Facebook-Regeln bedenkenlos dabei gezeigt werden, wie sie sich beim Singen in die Hose machen, sich öffentlich übergeben oder urinieren. Über den Beispielen steht: "Bilder, die öffentliche Personen beim urinieren, koten, kotzen oder menstruieren zeigen, werden ignoriert".

© SZ.de/ees/gba

Lesen Sie mehr zum Thema

Zur SZ-Startseite