Es klang schon reichlich nach altem, analogem Politikbetrieb, was Justizminister Heiko Maas vergangene Woche nach einem Treffen mit Facebook-Vertretern verlautbaren ließ. Eine gemeinsame Arbeitsgruppe von Internetkonzernen und Nichtregierungsorganisationen solle Vorschläge gegen die unerträglichen Hassbotschaften vorlegen, die momentan gegen Flüchtlinge in sozialen Netzwerken metastasieren. Bis zum Jahresende - auch das klingt eher nach gemütlicher deutscher Behörde als nach rasantem Netz-Tempo - sollen erste Ergebnisse vorliegen.
Vielleicht sollte sich die Taskforce ein Beispiel an einem nur auf den ersten Blick abwegigen Vorbild nehmen: dem Online-Computerspiel League of Legends. Immerhin muss sich der Hersteller mit dem passenden Namen Riot Games in erster Linie mit schwer pubertierenden Teenagern herumschlagen, also mit jener Zielgruppe, die verbal wahrscheinlich ähnlich häufig und heftig im Netz herumrandaliert wie die "besorgten Bürger".
Mehr als 27 Millionen User spielen League of Legends jeden Tag weltweit. Sie verbringen pro Monat weit mehr als eine Milliarde Stunden in dem Fantasie-Universum. Das kann zwar immer noch nicht mit der auf Facebook verbrannten Lebenszeit mithalten, erlaubt aber trotzdem einen gewissen Einblick in das menschliche Dasein und dessen Abgründe. Rassismus, Sexismus und anderer, unmotivierter Hass sind in den Chats an der Tagesordnung.
Die Software kann in 15 Sprachen zwischen positiven und negativen Kommentaren unterscheiden
Kein Wunder, dass Riot Games nicht mehr nur Spiele-Programmierer beschäftigt, sondern auch Sozialwissenschaftler und Psychologen. Die arbeiten seit einigen Jahren an einem selbstlernenden Computersystem, um das Blockieren von Hass-Botschaften und deren Autoren zu automatisieren. Nachdem sie an unzähligen Beispielfällen geübt hat, kann die Software - man hat sie, um die martialische Atmosphäre des Spiels nicht zu brechen, "Das Tribunal" genannt - selbständig zwischen positiven und negativen Kommentaren unterscheiden. Und das in 15 verschiedenen Sprachen. Auch die Bearbeitung von gemeldeten Fällen geht nun wesentlich schneller. Hat es früher bis zu einer Woche gedauert, bis nach einer Meldung reagiert wurde, spricht das Tribunal sein Urteil meist schon innerhalb von fünf Minuten.
Das System misst auch die Effizienz unterschiedlicher Sanktionsmittel. Eingeschränkte Chat-Möglichkeiten oder das Aussperren der Nutzer für prestigeträchtige Spielmodi scheinen besonders effektiv zu sein. Nach Angaben der Forscher stiegen die Rehabilitationsquoten von einmal auffällig gewordenen Spielern auf sagenhafte 92 Prozent.
Bei Riot Games ist man davon überzeugt, mit der Software ein geeignetes Mittel gegen Online-Diffamierung gefunden zu haben. Bald will man die gesammelten Daten und Nutzungsszenarien öffentlich machen, sodass die Technik auch von anderen Internetanbietern eingesetzt werden kann. So oder so scheint es effizienter zu sein als die Art und Weise, wie Facebook momentan gegen Hasskommentare vorgeht: Bislang überprüfen Tausende Billig-Arbeiter in Indien oder auf den Philippinen, ob im fernen deutschen Internet gehasst wird.