bedeckt München 29°

Netzkolumne:Nur ein bisschen Rassismus, bitte

Die Tötung von George Floyd durch einen Polizisten erregte viele Menschen. Viele drückten ihr Mitgefühl aus wie hier der Muralist Damarra Atkins, andere aber ergehen sich in Hasstiraden, gerade im Netz.

(Foto: Julio Cortez/AP)

Der Tod von George Floyd und die Verurteilung des Täters haben in den sozialen Medien viele Hasskommentare produziert. Es gibt unterschiedliche, aber immer problematische Methoden, damit umzugehen.

Von Michael Moorstedt

Im Vorfeld des Prozesses um die Tötung von George Floyd wartete man gespannt auf das Urteil. Auch bei Facebook lagen die Nerven blank. Man arbeite rund um die Uhr daran, Inhalte zu entfernen, "die gegen unsere Community-Standards verstoßen, einschließlich unserer Richtlinien gegen Hassreden, Mobbing und Belästigung, grafische Gewalt sowie Gewalt und Aufwiegelung". Zudem solle auch die "Verbreitung eben dieser Inhalte" eingeschränkt werden. Es gebe verschiedene Werkzeuge, die sicherstellen, dass entsprechende Inhalte markiert und nicht gezeigt werden.

Das mag man im ersten Moment ganz löblich finden, direkt im Anschluss aber wirft die Ankündigung gleich eine ganze Reihe von Fragen auf. Wie kann man sich das vorstellen? Existiert da eine interne Toxizitätsstellschraube? Ist sie an einem normalen Tag eher auf eins oder auf zehn eingestellt? Und welchen Grund gibt es eigentlich, sie nicht auch abseits von gesellschaftlich hochsensiblen Gerichtsurteilen auf niedrigem Niveau zu lassen und nicht wieder hochzudrehen? Es mögen einem so schnell keine guten Gründe für mehr Hassreden und Gewaltaufrufe einfallen.

Die jetzige Ankündigung stiftet aber auch deshalb Verwirrung, weil Facebooks Chef-Spin-Doctor Nick Clegg erst vor einigen Wochen in einem ellenlangen Artikel mit der programmatischen Überschrift "It Takes Two to Tango" - also etwa: es gehören immer zwei dazu - die Algorithmen seines Arbeitgebers mehr oder weniger von sämtlicher Schuld freigesprochen hat. Darin hieß es noch, die Nutzer seien mehr oder weniger durch ihr Verhalten selbst dafür verantwortlich, wenn sie verstörende oder hasserfüllte Inhalte zu sehen bekommen. Schließlich sei es ja gar nicht in Facebooks Interesse, diese weiterzuverbreiten, allein schon wegen der Werbepartner. An eine gewisse Inkonsequenz hat man sich im Umgang mit dem sozialen Netzwerk ja schon gewöhnt. Wünschenswert wäre vor allem also ein ellenlanger Artikel, der über die tatsächlichen Verhältnisse informiert. Ohne unabhängige Einsicht in die internen Daten bleibt die Öffentlichkeit also im Dunkeln.

Mit welchen Einheiten wird da gemessen, und wer legt die Einteilung fest, was akzeptabel ist und was zu viel?

Auch an anderer Stelle hat man sich kürzlich mal wieder über eine Einschränkung von hasserfüllten Inhalten Gedanken gemacht. Der Chiphersteller Intel hat kürzlich eine Software namens Bleep vorgestellt, die anstößige Äußerungen automatisch und in Echtzeit ausblendet. Ganz so, wie man es aus dem Fernsehen kennt, wenn ein Piepton über Anzüglichkeiten gelegt wird. Möglich gemacht werden soll die Autozensur durch künstliche Intelligenz.

Das Programm ist speziell für Multiplayer-Videospiele und Sprachchats entwickelt worden, und von "Aggression" über "Misogynie" hin zu "Rassismus" und "Schimpfwörtern" gibt es gleich zehn Kategorien, die so gut wie alle Spielarten übler Ausdrücke und Geisteshaltungen beinhalten. Es ist ein Lautstärkeregler für den Hass, wenn man so will. Die unterschiedlichen Einstellungen lauten gar nichts, ein bisschen, das meiste oder alles. Das "N-Wort", wie es hier genannt wird, lässt sich entweder ein- oder ausschalten.

Momentan befindet sich die Software noch in einer Testphase, soll aber noch in diesem Jahr erscheinen. Bei Intel meint man, eine solche Nuancierung sei immerhin ein "Schritt in die richtige Richtung". Aber wie viel ist denn eigentlich "ein bisschen" Rassismus? Mit welchen Einheiten wird da gemessen, und wer legt die Einteilung fest, was akzeptabel ist und was zu viel? Und welcher Mensch muss man sein, um die Wahlmöglichkeit zu goutieren, all den Hass auf drei Viertel der Stärke laufen zu lassen?

© SZ/rjb
Zur SZ-Startseite

Lesen Sie mehr zum Thema

Süddeutsche Zeitung
  • Twitter-Seite der SZ
  • Facebook-Seite der SZ
  • Instagram-Seite der SZ
  • Mediadaten
  • Newsletter
  • Eilmeldungen
  • RSS
  • Apps
  • Jobs
  • Datenschutz
  • Kontakt und Impressum
  • AGB