bedeckt München 14°

"Monitor"-Beitrag:Wenn ein Video über Hanau in Instagrams Filter landet

Ein Graffiti mit den Gesichtern der Opfer von Hanau: Ein Video über die Versäumnisse der Polizei bei dem rassistischen Anschlag landete nun in den Content-Filtern von Facebook und Instagram.

(Foto: Armando Babani/AFP)

Das WDR-Magazin "Monitor" arbeitet die Mordnacht von Hanau auf. Instagram sperrt den Beitrag und entschuldigt sich später. Der Fall zeigt die Willkür der Content-Moderation.

Von Simon Hurtz

Vor einem Jahr erschoss ein rechtsextremer Rassist neun junge Menschen, seine Mutter und sich selbst. Das WDR-Magazin Monitor hat die Mordnacht in einem Video rekonstruiert, das die Versäumnisse der Polizei offenlegt. Der 13-minütige Film findet sich beim WDR, in der ARD-Mediathek und auf Youtube. Nur auf Instagram fehlte der Beitrag zwischenzeitlich, die Plattform hatte den Post entfernt.

"Ausgerechnet unser Monitor-Film über den rassistischen Anschlag von Hanau soll gegen Eure Richtlinien verstoßen. Ernsthaft jetzt?", fragte Redaktionsleiter Georg Restle am Dienstag auf Twitter. Monitor hatte den Beitrag am 19. Februar veröffentlicht, unmittelbar danach wurde er gesperrt. Instagram begründete die Löschung nur vage mit dem Verweis auf die Gemeinschaftsrichtlinien. Woran genau sich die Plattform störte, geht aus dem Sperrvermerk nicht hervor.

Instagram entschuldigt sich

Am Mittwochmittag überlegte es sich Instagram anders. "Wir haben den Beitrag wiederhergestellt und entschuldigen uns für den Fehler", sagt ein Sprecher des Mutterkonzerns Facebook. Auf Facebook wurde bereits der Upload des Videos blockiert, Monitor hat deshalb einen Link zu Youtube geteilt.

Die Hintergründe bleiben unklar. Instagrams Regeln verbieten unter anderem "Videos mit hochgradiger drastischer Gewaltdarstellung", auch wenn sie sich auf aktuelle Ereignisse beziehen. Der Monitor-Film ist verstörend, weil er das Leid der Angehörigen und die Fehler der Behörden zeigt. Die nachgestellten Szenen aus der Tatnacht enthalten aber nicht mal ansatzweise Gewalt, die eine Sperrung rechtfertigen könnte.

Die Journalistengewerkschaft DJU/Verdi nennt die Entscheidung von Instagram und Facebook "völlig absurd", Politiker der Linken und Grünen forderten Aufklärung. Dabei ist der Monitor-Film kein Einzelfall. Immer wieder werden Beiträge in sozialen Netzwerken grundlos gesperrt. Wenn es nicht gerade Medien oder prominente Accounts trifft, bleiben die Fehler öffentlich meist unbemerkt. Viele Betroffene wissen nicht, wie sie sich gegen die Willkür wehren können. Für sie sind die US-Konzerne eine Blackbox, deren Entscheidungen sie hilflos ausgeliefert sind.

Auch die SZ war betroffen

Tatsächlich muss hinter der Sperre keine böse Absicht stecken. Soziale Netzwerke sind schlicht mit der Flut an Inhalten überfordert, die Nutzerinnen und Nutzer hochladen. Facebook und Google beschäftigen jeweils Zehntausende Menschen, die Kommentare, Fotos und Videos sichten und sperren. Die Moderatorinnen und Moderatoren arbeiten aber oft unter schwierigen Bedingungen und müssen binnen Sekunden entscheiden. Deshalb rutschen regelmäßig illegale Inhalte durch oder harmlose Beiträge werden entfernt.

Langfristig wollen die großen Plattformen menschliche Prüferinnen und Prüfer durch maschinelle Systeme ersetzen, die Verstöße erkennen und filtern. Die Algorithmen machen große Fortschritte, mittlerweile werde ein Großteil der illegalen Beiträge automatisch gelöscht, sagt Facebook. In der Kategorie "gewalttätige und drastische Inhalte" sind es demnach etwa 99,5 Prozent auf Facebook und 98,3 Prozent auf Instagram. Doch kein Filtersystem der Welt ist perfekt. Im Zweifel blockieren die Plattformen lieber zu viel als zu wenig. Gesetze wie das deutsche Netzwerkdurchsetzungsgesetz sanktionieren Versäumnisse, sehen bislang aber keine Konsequenzen für das sogenannte Overblocking vor.

Davon war kürzlich auch die SZ betroffen. Youtube blockierte nach dem Sturm auf das Kapitol den Videokommentar "Donald Trumps gefährlicher Zynismus", da er "Spam, irreführende Praktiken oder Betrug" enthalte. Eine Beschwerde lehnte die Plattform ab. Angeblich habe man sich das Video erneut angesehen und bleibe bei der Einschätzung. Wer sich selbst ein Bild machen will, findet den Kommentar auf der Homepage der SZ.

© SZ
Zur SZ-Startseite
WhatsApp ändert die Nutzungsbedingungen - Facebook zwingt WhatsApp Nutzer zum Facebook Account - Viele Nutzer sind nun a

Messenger
:Das droht Menschen, die Whatsapps Bedingungen nicht zustimmen

Anfang des Jahres löste Whatsapp mit einem kleinen Pop-up Panik aus. Jetzt gibt es eine neue Frist, ein fieses Druckmittel und etwas mehr Transparenz.

Von Simon Hurtz

Lesen Sie mehr zum Thema