Vor gut einem Jahr wurde Mark Zuckerberg zum ersten Mal Vater und kündigte an, den Großteil seines Vermögens in eine Stiftung, die "Chan Zuckerberg Initiative" zu investieren. Seitdem haben sich fast 300 Millionen Menschen neu bei Facebook angemeldet. Aktienkurs, Umsatz und Gewinn des Unternehmens entwickelten sich in die gewohnte Richtung: steil nach oben. Es gäbe viele gute Gründe, um zu sagen: Zuckerberg hat ein erfolgreiches Jahr hinter sich.
Tatsächlich dürften die vergangenen zwölf Monate die schwierigsten gewesen sein, die Facebook in seiner zwölfjährigen Geschichte erlebt hat.
Der Versuch, den Menschen in Indien ein vorgefiltertes Internet zu bringen, wurde als digitaler Kolonialismus wahrgenommen und scheiterte krachend. Nachdem Facebook ein berühmtes Kriegsfoto aus Vietnam gelöscht hatte, musste sich das Unternehmen öffentlich entschuldigen. Vorwürfe, dass gefälschte Nachrichten die US-Wahl beeinflusst haben könnten, nannte Zuckerberg erst "crazy" - um dann doch zu erklären, dass Maßnahmen gegen die Verbreitung gezielter Desinformation nötig seien.
Facebook verrät nicht, nach welchen Kriterien Inhalte entfernt werden müssen. Dem SZ-Magazin liegen Teile der Regeln vor. Wir zeigen Ausschnitte und erklären sie.
Facebook verstärkt Echokammern und hetzt Menschen gegeneinander auf
Der Gründer Zuckerberg gab seinem Unternehmen und sich selbst eine Mission: die Welt offener machen und Menschen miteinander vernetzen. Momentan trägt das Netzwerk aber dazu bei, Echokammern zu verstärken und Menschen gegeneinander aufzuhetzen. Facebook muss transparenter werden, den Nutzern mehr Mitspracherechte geben und anfangen, Probleme öffentlich zu diskutieren. Sonst wird 2017 noch ungemütlicher als 2016, sonst scheitert Zuckerbergs Vision.
Ein besonders unangenehmes Thema für Zuckerberg rückt nun durch Recherchen des SZ-Magazins weiter in den Fokus: Wie geht Facebook mit problematischen Inhalten um?
In Deutschland steht Facebook besonders in der Kritik. Spätestens im Juli 2015 begann die Diskussion über rassistische Postings und Facebooks Verantwortung. Seitdem nimmt der öffentliche Druck zu. Politiker fast aller Parteien fordern, dass Facebook härter gegen strafbare Inhalte vorgeht. Zuckerberg selbst wurde wegen Volksverhetzung angezeigt, die Münchner Staatsanwaltschaft hat Ermittlungen eingeleitet.
Das Netzwerk ist sich selbst über den Kopf gewachsen
Facebook verdient Milliarden, hat aber kaum weniger Probleme: Nutzer markieren mehr als eine Million Inhalte als unzulässig - und zwar jeden Tag. Da können Sprecher noch so oft beteuern, das Unternehmen habe alles unter Kontrolle; diese Beschwörung ist Unsinn, und bloße Wiederholung macht es nicht glaubwürdiger. Das Netzwerk bekommt die Inhalte nicht mehr in den Griff, die 1,8 Milliarden Menschen dort hinterlassen. Facebook ist sich selbst über den Kopf gewachsen.
Im Oktober 2015 durften einige Journalisten Facebooks Europazentrale in Dublin besuchen. Ein Mitarbeiter, der die gemeldeten Inhalte prüfen und entfernen muss, versicherte, er könne jeden Beitrag mit gebührender Sorgfalt prüfen. Niemand werde mit seiner belastenden Aufgabe alleingelassen, das Arbeitsklima sei gut. Eine Facebook-Managerin zeigte eine Präsentation, darin eine Folie mit den Standorten der Teams: "Hunderte Mitarbeiter" in Dublin, Hyderabad, Austin und Menlo Park seien es angeblich.
Das entsprach nicht den Tatsachen. Facebook hatte bereits Monate zuvor begonnen, einen Löschtrupp in Berlin aufzubauen, der im Herbst 2015 die Arbeit aufnahm. Hinzu kommen Tausende weitere Menschen in Schwellenländern wie den Philippinen. Gemeinsam bilden sie eine Art digitale Müllabfuhr, die all das wegputzt, was Facebook-Nutzer nicht zu Gesicht bekommen sollen: Kinderpornografie, Hinrichtungen, Tierquälerei.
Facebook refuses to disclose the criteria that deletions are based on. SZ-Magazin has gained access to some of these rules. We show you some excerpts here - and explain them. Read the English version here.
Facebook will die Löschteams vor der Öffentlichkeit verstecken
Sie arbeiten bei externen Dienstleistern, verdienen in Deutschland knapp über dem Mindestlohn und sind von ihrer Arbeit teils schwer traumatisiert. Verständlich, dass Facebook diese Zustände geheim halten möchte - als das TV-Magazin "Zapp" einen Besuch anfragte, lehnte das Unternehmen ab, verwies auf den Schutz der Mitarbeiter und empfahl die Lektüre eines anderthalb Jahre alten Artikels aus der Zeit. Der Autor hatte mit fünf sogenannten "Content-Moderatoren" gesprochen, die in Dublin direkt bei Facebook angestellt sind, wo sie in einem traumhaften Büro arbeiten und ordentlich bezahlt werden. Was in Berlin und Manila passiert, soll niemand erfahren.
So bitter es klingen mag, die grauenhafte Filterarbeit dieser Menschen ist nötig. Kein Algorithmus kann Gewalt, Hass und Pornografie zuverlässig aus dem Newsfeed fischen; nur Bilder und Videos, die den Missbrauch von Kindern zeigen, werden teilweise automatisch entfernt, bald soll terroristische Propaganda hinzukommen. Den Rest müssen Menschen aussortieren - die aber brauchen psychologische Betreuung, ausreichend Pausen und Hilfe bei der Bewältigung der Inhalte, denen sie ausgesetzt sind. Das kostet viel Geld, doch ein Unternehmen, das zwischen Juli und September 2016 knapp 2,4 Milliarden Dollar verdiente, sollte in der Lage sein, seinen Angestellten posttraumatische Belastungsstörungen zu ersparen.
Bei diesem Thema ist es einfach, Forderungen zu formulieren, hier kann und muss Facebook handeln. Schwieriger wird es, wenn es um weniger eindeutige Inhalte geht: nicht um Kinderpornos, sondern um Hasskommentare, nicht um Gewaltvideos, sondern um Gewaltandrohungen. Linke beklagen, dass Hetze gegen Flüchtlinge zu lange stehen bleibe. Rechte beschweren sich über angebliche Zensur und die Beschneidung ihrer Meinungsfreiheit.
Hierzulande ist es ein Skandal, wenn Facebook nackte Brüste entfernt, in den USA und muslimischen Ländern würden sich viele Menschen über das Gegenteil empören. Holocaustleugnern droht in Deutschland das Gefängnis, in der Türkei darf das Andenken Atatürks nicht beschmutzt werden. Was passiert, wenn eine Deutsche während ihres Türkei-Urlaubes ein Video postet, auf dem eine stillende Muslima zu sehen ist, die den Staatsgründer als Idioten bezeichnet?
Der beliebte Vorwurf, Facebook folge ausschließlich US-amerikanischen Moralvorstellungen, greift zu kurz. Zuckerberg macht sich Facebook nicht, wie es ihm gefällt, sondern, wie es Milliarden Menschen in knapp 200 Ländern mit vollkommen unterschiedlichen Kulturen wünschen - und teilweise auch, wie es deren Regierungen fordern. Das bedeutet nun mal: im Durchschnitt deutlich prüder und gleichzeitig toleranter gegenüber Hass und Hetze, als es die deutsche Öffentlichkeit gewohnt ist. Liberale und Konservative haben teilweise diametral entgegengesetzte Moralvorstellungen, ebenso unterscheiden sich die Gesetze einzelner Staaten. Ein Weltkonzern kann es in einem globalisierten Internet nicht allen recht machen.
Exklusiv
Facebook legt fest, wer geschützt wird und wer nicht - und dass es in Ordnung ist zu posten: "Hängt Kinderschänder". Das Netzwerk erscheint aber zunehmend unfähig, seine eigenen Regeln sauber umzusetzen. Dem SZ-Magazin liegen Teile der geheimen Facebook-Löschregeln vor.
Das bedeutet nicht, dass öffentlicher Druck vergeblich ist. Facebook ahndet Drohungen gegen Flüchtlinge mittlerweile konsequenter, menschenverachtende Postings sollen nach maximal 24 Stunden verschwinden. Die Löschquoten sind im Vergleich zum Vorjahr gestiegen. Facebook entfernt immerhin 46 Prozent der strafbaren Inhalte, bei Twitter ist es nur ein Prozent. Auch, dass Facebook aktuell nach einem " Head of News Partnership" sucht, zeigt, dass die Kritik ankommt und sich der Konzern vorsichtig öffnet. Die Blackbox Facebook setzt sich in manchen Bereichen eine Milchglasscheibe ein, zumindest Schemen zeichnen sich ab.
Ist Facebook eine neutrale Plattform oder ein Medienunternehmen?
Völlig undurchsichtig bleibt aber weiterhin, in welcher Rolle Facebook sich selbst sieht: Ist das soziale Netzwerk ein Telekommunikationsdienstleister oder ein Medienunternehmen? Will das Unternehmen völlig neutral bleiben, alle Inhalte gleich behandeln, ausschließlich eindeutig strafbare Postings löschen? Oder greift Facebook stärker ein, kennzeichnet Falschmeldungen und übernimmt redaktionelle Verantwortung?
Führende Facebook-Manager haben zuletzt immer wieder betont, bloß keine Redakteure einstellen zu wollen, um Nachrichten zu bewerten und zu gewichten. Gleichzeitig aber sieht es so aus, als realisiere das Unternehmen langsam, dass es für Hunderte Millionen Menschen die Tageszeitung ersetzt - und sich damit auseinandersetzen muss, wie es das Weltbild seiner Nutzer prägt. Wenn das Netzwerk seinen Algorithmus ändert, hat das mehr Einfluss als jeder Leitartikel. Fast alle großen US-Zeitungen haben sich für Clinton ausgesprochen - sie konnten Trumps Sieg trotzdem nicht verhindern. Zuckerberg wäre dazu in der Lage gewesen, ein paar Zeilen Programmiercode hätten wohl gereicht.
Zuckerberg will die Welt verbessern - er sollte zuerst Facebook verbessern
Erfolgreiche Tech-Konzerne sind nicht automatisch gute Medien. Facebook ist ein privates Unternehmen in einer kapitalistischen Welt. Natürlich kann es digitale Müllmänner von Drittfirmen einkaufen, die dort unter miesen Arbeitsbedingungen leiden und keine psychologische Hilfe bekommen. Natürlich kann es weiterhin Hass und Hetze dulden und zur größten Plattform für Desinformation und Falschmeldungen werden - der Umsatz würde kurzfristig trotzdem steigen, denn Werbekunden zahlen für jeden Klick.
Oder aber Mark Zuckerberg erinnert sich an seine eigenen Worte. Am Tag nach der US-Wahl schrieb er: "Wir alle haben die Möglichkeit, die Welt zu verbessern, und wir sind dazu verpflichtet." Damit im eigenen Haus zu beginnen, wäre ein guter erster Schritt.
