bedeckt München

Volksverhetzung:Mit künstlicher Intelligenz gegen den Hass

Hatespeech und Justiz

Wie stark ist das symbolische Schwert der Justitia gegen virtuellen Hass?

(Foto: Imago/SZ-Grafik/Imago/SZ-Grafik)

In einem Münchner Kellerbüro bringen IT-Experten einer künstlichen Intelligenz bei, wie Hass aussieht. Die neue Software der Behörde ZITiS soll Ermittlern bald dabei helfen, strafbare Hatespeech zu identifizieren.

Von Jannis Brühl und Ronen Steinke, München

Auf Florian Ludwigs Bildschirm hat die künstliche Intelligenz Alarm geschlagen. Sie meldet: "potenziell strafbar gemäß Paragraf 130". Gemeint ist: Volksverhetzung. "Angriffsobjekt: Muslime. Tathandlung: Verletzung der Menschenwürde durch Verleumden". Auf dem Bildschirm hat der Algorithmus einen Satz, wie er auf Facebook und anderen sozialen Netzwerken manchmal zu lesen ist, in seine Einzelteile zerlegt, "Musels sind alles Vergewaltiger! Schützt unsere deutschen Frauen!" Das Programm, das Ludwig entwickelt, soll das rassistische Schimpfwort aufspüren. Es soll lernen, Alarm zu schlagen, wenn hier eine Gruppe als Vergewaltiger diffamiert wird.

Künstliche Intelligenz

Eine Maschine soll die Vorauswahl für die Ermittler übernehmen, die Software muss dafür lernen, wie Hass aussieht.

(Foto: ZITiS)

Ludwig, 30 Jahre alt, sitzt in einem Kellerbüro am Stadtrand von München und versucht, einer Maschine die Essenz des Hasses beizubringen. "Ich habe vorher im Medizinbereich gearbeitet, aber die Algorithmen sind ja immer dieselben." Jetzt arbeitet er für den Staat. Der hat sich vorgenommen, rassistische Hetze konsequenter zu verfolgen. Dem jungen Computeringenieur und seinem Algorithmus kommt dabei eine entscheidende Rolle zu.

Florian Ludwig arbeitet für die Zentrale Stelle für Informationstechnik im Sicherheitsbereich, kurz: Zitis. Die 2017 gegründete Behörde sucht händeringend Leute wie ihn, sie sollen neue Technologie entwickeln für das Bundeskriminalamt (BKA), die Bundespolizei und das Bundesamt für Verfassungsschutz. Für Beamten also, die vor einem großen Problem stehen - weil sie damit rechnen, schon bald von einer Flut von Strafanzeigen gegen Online-Hetze überspült zu werden.

Auf die Ermittler kommen 250 000 neue Straffälle pro Jahr zu

Schon vor Monaten hat der Bundestag dies beschlossen: Facebook, Twitter und andere Betreiber sozialer Netzwerke sollen anstößige Äußerungen nicht mehr nur löschen. Sie sollen alles, was strafbar sein könnte, auch der Polizei melden. Das könnten 250 000 neue Straffälle pro Jahr sein, schätzt die Bundesregierung. Und das heißt: Sobald Bundespräsident Frank-Walter Steinmeier die entsprechende Gesetzesänderung ausfertigt und sie in Kraft tritt, womöglich schon zum 1. Januar, dürfte für die Ermittler eine schwindelerregende Fließbandarbeit beginnen.

Mit menschlicher Arbeitskraft werde man kaum mehr hinterherkommen, hat kürzlich der Vizepräsident des BKA eingestanden, Jürgen Peter. So ist jetzt große Anspannung in den Behörden zu spüren, überall laufen die Vorbereitungen. So tüftelt der Computerexperte in seinem Münchner Kellerbüro an künstlicher Intelligenz, die den Menschen Arbeit abnehmen soll. Und so werden auch andernorts die Strafverfolger, diese eigentlich eher konservative Berufsgruppe, gerade ungewöhnlich erfinderisch.

Es geht um das Meinungsklima in Deutschland. Um den Schutz von Menschen, die im Internet bedroht werden. Aber auch um das Grundrecht der Meinungsfreiheit, ein hohes Gut. Wo beginnt Volksverhetzung? Wann werden Worte justiziabel? Das sind Fragen, mit denen sich selbst Gerichte oft schwertun. Die künstliche Intelligenz soll nur "vorfiltern", betont deshalb Eleanor Hobley, die das Software-Projekt bei Zitis in München leitet. Die Algorithmen sollen die "unvorstellbare Masse gemeldeter Inhalte im Netz" nur grob kategorisieren. Dann übernehmen menschliche Ermittler.

Der Computer wird mit Ausdrücken wie "Nafris" oder "Quotenweiber" gefüttert

Dafür muss der Algorithmus auch Rechtschreibfehler und Synonyme erkennen, der Sprachinformatiker Torsten Zesch von der Uni Duisburg-Essen arbeitet deshalb an dem Projekt mit, und er zählt auf, welche Begriffe er gerade seiner Software beibringt. "Scheinasylanten", "Genpoolverbesserer". Auch mit Ausdrücken wie "Nafris", kurz für Nordafrikaner, oder "Quotenweiber" wird der Computer gefüttert. Anhand vieler illegaler und legaler Beispiele soll die Software selbständig lernen, was strafbar ist und was nicht.

Der Sprachinformatiker sagt: "Wir haben uns für Im-Zweifel-für-den-Angeklagten entschieden, sodass nur ganz klare Fälle von Volksverhetzung erkannt werden." Trotzdem: Er meint, dass seine Technik im Moment eher noch zu sensibel reagiere. "Die Staatsanwaltschaften haben uns gesagt, sie ertrinken ohnehin schon in Fällen."

Wie viel Hetze darf der Staat ignorieren? Wie viel Hetze muss die Justiz unbedingt vor Gericht bringen? "Da ist vieles im Fluss", sagt am anderen Ende der Republik die Oberstaatsanwältin Ines Karl. Sie sitzt in einem Bau, der noch den Prunk vergangener Zeiten ausstrahlt, viel Marmor, viele Sandsteinskulpturen: das Moabiter Kriminalgericht. Auf ihrem Schreibtisch steht das Strafgesetzbuch. Viele Paragrafen darin stammen noch aus dem Jahr 1871.

Noch ist unklar, welche Hassbotschaften verfolgt werden und welche nicht

Sie gibt zu: Die Strafvorschriften, die man in Online-Zeiten immer öfter braucht, wie Beleidigung oder Volksverhetzung, sind in den vergangenen Jahrzehnten nur selten genutzt worden. Wer sich zum Beispiel über die Definition von Volksverhetzung informieren will, der findet ein Leiturteil des Bundesgerichtshofs, das bis heute gilt. Es stammt von 1984, damals hatte jemand den Satz "Tod dem Klerus" an einer Kirchenwand geschrieben. Die Richter fanden: Dieser Schmiererei fehle der "appellative Charakter". Das heißt, die Ernsthaftigkeit des Aufrufs zu Gewalt.

Oberstaatsanwältin Ines Karl

Die Oberstaatsanwältin Ines Karl leitet in Berlin die Zentralstelle Hasskriminalität. Ihr Ansatz ist innovativ.

(Foto: Jörg Carstensen/picture alliance / dpa)

Likes oder Retweets waren damals noch gar nicht erfunden, Hassbotschaften konnten noch nicht von Betrachtern verstärkt werden oder sich viral um den Globus ausbreiten. Heute ist die Kommunikation viel komplexer, es stellen sich für die Justiz deshalb viele neue Fragen. Entsprechend schwierig ist der Kampf der Strafverfolger: Was genau will man dem Algorithmus beibringen, wenn die Juristen sich selbst noch unsicher sind, was die alten Regeln für die neue Zeit bedeuten?

"Normalerweise klärt das die obergerichtliche Rechtsprechung", sagt Oberstaatsanwältin Karl. "Aber die hat man hier noch nicht." Deshalb treffen sie und ihre Kollegen aus den Bundesländern sich jetzt vorsorglich, um schon mal eine gemeinsame Linie abzustimmen, welche Hassbotschaften verfolgt werden sollen und welche nicht. Zumindest so gut es geht.

Die Berlinerin geht dabei besonders innovativ vor. Unter Juristen galten die sogenannten Äußerungsdelikte wie Beleidigung oder Volksverhetzung traditionell oft als Kleinkram, als uninteressant. Die Strafen sind viel niedriger als bei Gewalttaten, deshalb haben sich Staatsanwälte nur ungern damit beschäftigt. In Berlin hat man nun das Team der Staatsanwälte, das für diese vermeintlich so geringfügigen Äußerungsdelikte zuständig ist, kurzerhand mit dem Team für den traditionellen Staatsschutz zusammengelegt, mit den ganz harten Verbrechen also wie Terrorismus und politisch motivierter Gewalt.

"Beleidigung, Bedrohung, Attacke - diese Steigerung wollen wir verhindern"

Bei der Berliner Generalstaatsanwaltschaft nennen sie das Ergebnis: "Zentralstelle Hasskriminalität", die Juristin Ines Karl leitet das neue Team. Und sie sagt: Damit rücke das Thema Online-Hetze endlich ins Zentrum der Aufmerksamkeit, für manchen Staatsanwalt auch ins Zentrum der Karriereplanung. Das sei angemessen. "Wenn erst mal die verbalen Schranken fallen, dann steigt die Bereitschaft, auch körperlich übergriffig zu werden." Aus Worten würden oft Taten. "Beleidigung, Bedrohung, Attacke - diese Steigerung wollen wir verhindern."

Traditionell gilt: Strafverfolgung ist Ländersache. Kein Bundesland redet dem anderen herein. Jedes ermittelt selbständig. Wo es aber um Hetze im Netz geht und um die riesige Masse an Verfahren, da werden die Länder auch bei diesem eigentlich heiligen Prinzip bemerkenswert flexibel. Inzwischen ist vereinbart, dass die zwei Staatsanwaltschaften in Deutschland mit der größten Digital-Kompetenz - in Köln und in Frankfurt am Main - ihre besondere Expertise allen anderen zur Verfügung stellen. "Unser Ziel muss sein, die Anonymität zu knacken", sagt hoch über der Frankfurter Innenstadt der Oberstaatsanwalt Benjamin Krause.

Oft verstecken sich die Täter von Hasskommentaren hinter Fantasienamen. Und Benjamin Krause, 41 Jahre alt, der in der "Zentralstelle IT-Kriminalität" der Generalstaatsanwaltschaft Frankfurt arbeitet, schlägt sich schon seit Jahren mit den Firmenzentralen von Facebook und Twitter herum, diskutiert mit diesen über die Privatsphäre von Online-Kunden und über europäisches und internationales Recht. Sein Büro liegt über einem sechsstöckigen Parkhaus. Ein Zeichen der neuen Zeit: Die hessische Justiz schickt immer mehr Staatsanwälte hinauf zu Krause, schon 14 von insgesamt 400 Staatsanwälten des Bundeslandes arbeiten auf dem Parkhaus.

Er kann erzählen, wie schwierig es oft ist, Online-Unternehmen dazu zu bewegen, etwas über ihre Kunden zu verraten. Vor allem, wenn diese Unternehmen sagen, dass nach ihrer eigenen Auffassung oder nach dem Recht ihrer amerikanischen Heimat die Meinungsfreiheit Vorrang habe. Facebook, Instagram, Youtube, Tiktok und Twitter - die fünf großen sozialen Netzwerke, auf die das neue Netzwerkdurchsetzungsgesetz anwendbar ist, müssen künftig zwar jeden Verdacht einer Straftat dem Bundeskriminalamt anzeigen. Aber, sagt der Jurist Krause: "Der Gesetzgeber hat davon abgesehen, die sozialen Netzwerke zu verpflichten, auch die Kundendaten herauszugeben."

Was heißt das? Da ist man als Strafverfolger oft schlicht auf den guten Willen der Online-Unternehmen angewiesen.

Viele der Verfahren könnten rasch wieder eingestellt werden

Sobald die neue Rechtslage in Kraft tritt, aller Voraussicht nach zum 1. Januar, werden die Betreiber sozialer Netzwerke zwar riesige Mengen an Hasskommentaren an das BKA weiterleiten. Benjamin Krause rechnet mit "mindestens tausend" Fällen pro Tag, ein ständiger Strom von Hetze, Erniedrigung, Rassismus, das meiste davon im Schutze der Anonymität begangen.

Aber dann kommen Benjamin Krause und seine Spezialisten ins Spiel, sie müssen gemeinsam mit dem BKA herausfinden, welche realen Menschen sich hinter den Online-Taten verbergen, damit sie den Fall an eine örtliche Staatsanwaltschaft irgendwo im Bundesgebiet übergeben können. Und hier werde man "in der Regel" schlicht vor einem Rätsel stehen, fürchtet Krause. "Denn es gibt keine Vorratsdatenspeicherung." Bei einem anonymen Hasskommentar, der schon ein paar Tage alt ist, lasse sich die Identität nur noch schwer klären. Die Telekom speichert IP-Adressen nur sechs Tage lang. Bei mobiler Internetnutzung sogar noch kürzer.

Das ist deshalb seine große Befürchtung: Aus Strafanzeigen "am laufenden Band" könnten rasch Verfahrenseinstellungen am laufenden Band werden. Aus mehr als tausend Strafanzeigen pro Tag: bald schon mehr als tausend Niederlagen der Justiz pro Tag.

© SZ/stad

Lesen Sie mehr zum Thema

Zur SZ-Startseite