Propaganda für den Islamischen Staat Wie Google Islamisten und Nazis umprogrammieren will

Eine Tochterfirma des Google-Konzerns plant, der Radikalisierung von potenziellen Extremisten vorzubeugen - indem es Googles Suchergebnisse ergänzt.

(Foto: REUTERS)
  • Eine Tochterfirma von Google soll Suchergebnisse manipulieren, die potenziellen Extremisten angezeigt werden.
  • Ihnen sollen statt IS-naher Botschaften, und denen anderer radikaler Gruppen, Ergebnisse angezeigt werden, die deren Argumente als falsch entlarven.
  • Kritiker fürchten, dass Google das Instrument auch nutzen könnte, um andere unliebsame politische Positionen zu beeinflussen - wenn es denn überhaupt funktioniert.
Von Luca Deutschländer

Über Google lassen sich Informationen über Restaurants und Hotels finden, aber auch Antworten auf die Frage, warum man möglichst viele Ungläubige töten sollte. Wer will, kommt an dschihadistisches und rechtsradikales Propagandamaterial, besonders Googles Videoplattform Youtube bietet Unmengen davon als Bewegtbild. IS-Kämpfer schwärmen dort vom "Fünf-Sterne-Dschihad" und sprechen von der Notwendigkeit, bei diesen "goldenen Zeiten" mitten im Geschehen zu sein. Nun will Googles Mutterkonzern Alphabet seinen Einfluss nutzen, um die Sympathisanten gewaltbereiter Gruppen zu bekehren.

Die Tochterfirma Jigsaw versucht, Muslime davon abzuhalten, sich zu radikalisieren. Dafür soll der Suchalgorithmus von Google angepasst werden. Immer, wenn ein Nutzer der Suchmaschine nach einem Begriff sucht, den Jigsaw potenziellen IS-Sympathisanten zuordnet, tauchen im Ergebnis neben den eigentlichen Treffern Links zu Anti-IS-Kampagnen auf statt der üblichen Anzeigen. Eine Art Werbung gegen das Böse. Bald soll die Technik auch gegen Neonazis eingesetzt werden.

Jigsaw ist so etwas wie Googles politische Ideenfabrik. Sie soll mit dem Know-how des Konzerns technische Lösungen für Korruption, fragwürdiges Hacking, illegalen Handel und mehr finden. Regierungen erhöhen den Druck auf IT-Konzerne wie Google und Facebook immer weiter, sich stärker im Kampf gegen Extremismus zu engagieren. Das ist allerdings umstritten, weil sich die Frage stellt, ob Unternehmen statt Staaten Urteile fällen sollten, welche Äußerungen erlaubt sind und welche nicht.

Wie Facebook Menschen zum Schweigen bringt

Das soziale Netzwerk löscht Inhalte und sperrt Nutzer - niemand weiß, warum. Unterstützung erhält Facebook von zweifelhaften Partnern. Von Johannes Boie mehr ...

Über Jigsaws Technik hatte zuerst das US-Magazin Wired berichtet. Das Unternehmen bestätigte der Süddeutschen Zeitung das Vorhaben, dem es den Namen "Redirect Method" ("Umleitungs-Methode") gegeben hat. "Wir haben festgestellt, dass es im Netz bereits viele Inhalte gibt, die die Botschaften des IS widerlegen", lässt Yasmin Green mitteilen. Sie leitet bei Jigsaw den Bereich Forschung und Entwicklung.

Wo Imame die IS-Gewalttaten ablehnen

Wenn Green von Anti-IS-Botschaften spricht, meint sie Videos, in denen Imame die Gewalttaten des IS ablehnen und den "wahren Islam" predigen, also eine friedlichere Interpretation. Auch würden Berichte von Aussteigern gezeigt. Solche Anzeigen neben den Suchergebnissen zeige man dann jenen Nutzern, die der Algorithmus als potenzielle Sympathisanten extremistischer Gruppen ausgemacht habe, weil sie bestimmte Begriffe eingegeben haben. Für die manipulierten Treffer greifen die Entwickler nur auf Videos und Links zurück, die es schon im Internet gibt. Eine wichtige Rolle spielt dabei die Videoplattform Youtube, ebenfalls eine Alphabet-Tochter. Dort haben die Entwickler Anti-IS-Videos in Kanälen gebündelt. Und dorthin werden die IS-Sympathisanten später weitergeleitet, wenn sie auf eine der Jigsaw-Anzeigen in der Google-Suche klicken, die etwa heißen: "Ist der IS seriös?" oder "Willst du beim IS mitmachen?".

Glaubt man Jigsaw, hat das während der zweimonatigen Testphase ziemlich gut funktioniert. "Wir können nachvollziehen, wie viele Menschen sich mit den Suchergebnissen beschäftigen und wie lang sie das tun", sagt Green. Wired zufolge sind in der Testphase mehr als 300 000 Nutzer auf die Seiten von Anti-IS-Kampagnen geleitet worden. Auf die Jigsaw-Anzeigen haben demnach drei- bis viermal so viele Menschen geklickt wie auf normale Werbeanzeigen, die Google Nutzern präsentiert. Green räumt ein, dass es "seine Zeit dauern wird, bis unsere Anstrengungen Wirkung zeigen werden".

Berühmtes Vietnam-Foto gelöscht - Aftenposten greift Facebook an

Die norwegische Zeitung teilt das berühmte Bild eines nackten Mädchens. Facebook entfernt das Foto - und alle Kritik an der Entscheidung. Der Chefredakteur geht auf die Barrikaden mehr ...

Claudia Dantschke hält das Vorhaben des Konzerns für einen grundsätzlich guten Ansatz, weil Propagandavideos im Internet ihrer Meinung nach "radikalisierungsfördernd" sind. Sie arbeitet für Hayat-Deutschland, eine Beratungsstelle für Deradikalisierung, und hat regelmäßig Kontakt zu Angehörigen von Menschen, die sich mit dschihadistischen Gruppen identifizieren. Insbesondere Emotionen seien bei der Radikalisierung von Bedeutung - und das gelte auch für den umgekehrten Prozess der Deradikalisierung. Dantschke schränkt aber ein, dass "allein die 'Redirect Method' niemanden davon abhalten wird, sich zu radikalisieren".

Man müsse auch außerhalb der virtuellen Welt konkret mit Nutzern arbeiten, die Sympathien für extremistische Gruppen hegen. Kein Mensch radikalisiere sich nur wegen bestimmter Videos im Netz, sagt sie der SZ: "Er oder sie muss offen dafür sein." Die Gründe, warum manche anfällig für die Botschaften des IS seien, lägen in der realen Welt.

"Beeinflussung auch in andere politische Richtungen denkbar"

Die Macher des Blogs netzpolitik.org in Berlin sehen den neuen Vorstoß von Jigsaw kritisch. "Wenn man eine politische Haltung durch den Suchalgorithmus beeinflussen kann, ist das genauso in andere Richtungen denkbar", sagt Markus Reuter aus der Redaktion der Netzaktivisten der SZ.

Es sei fraglich, wenn eine Suchmaschine auf diese Weise die politische Haltung anderer beeinflussen wolle. Als ein denkbares Beispiel nennt er Wahlen: "Wenn das Unternehmen oder die Plattform X der Meinung ist, ein bestimmter Kandidat ist besser für das Geschäft, ist theoretisch auch dort eine große Beeinflussung des Nutzers möglich." Außerdem gibt Reuter zu bedenken, dass kaum einem Google-Nutzer ein veränderter Suchalgorithmus auffallen dürfte - und er sich somit im Zweifel nicht einmal manipuliert fühlt.

Jigsaw hofft hingegen, dass sich die "Redirect Method" weiterverbreitet. Weil sie auf quelloffener Software basiere und auf gängigen Programmen aufbaue, sei sie leicht einzusetzen. Green sagt: "Wir hoffen, dass andere Institutionen das Projekt international expandieren lassen."

So werden Sie zum Google-Profi

Sie haben beim Suchen noch nie Anführungszeichen verwendet und wissen nicht was "site:sz.de" oder "filetype:pdf" bedeutet? Mit diesen neun Tricks finden Sie in Zukunft garantiert, wonach Sie suchen. mehr ...