Mehrere große Digitalkonzerne, darunter Facebook, Google, Twitter und Microsoft, wollen mit einer gemeinsamen Technologie verhindern, dass Terroristen oder deren Anhänger ihre Plattformen nutzen, um Propaganda zu verbreiten. Kern der Technologie wird eine Datenbank sein, in der die "Hashes" von Bildern gespeichert sind, die als Terrormaterial erkannt wurden. Ein Hash ist eine eindeutige Nummer, mit der ein Bild, auch wenn es kopiert wurde, immer wieder erkannt werden kann. Wenn nun also ein Google-Mitarbeiter auf einer Google-Webseite auf ein Foto stößt, mit dem die Terrororganisation Islamischer Staat um Nutzer wirbt, dann kann er das Bild künftig nicht nur löschen, sondern auch den Hash des Bildes in der Datenbank speichern. Die anderen Tech-Konzerne können das Bild dann auf ihren Plattformen automatisiert finden. Weil sich das Geschehen im Netz in den vergangenen Jahren immer mehr auf die Plattformen der großen Anbieter verlagert hat, können auf diese Art viele Bilder aus weiten Teilen des Netzes gezielt verbannt werden. Eine ähnliche Technologie setzen zahlreiche Anbieter bereits ein, um die Verbreitung von Bildern zu verhindern, auf denen sexueller Missbrauch an Kindern zu sehen ist. Sie funktioniert auch für Videos.
Facebook tut sich schwer, illegale Inhalte zu löschen und legale zu erkennen
In einer Presseerklärung von Facebook heißt es, jede der beteiligten Firmen entscheide selbst, welche Inhalte gelöscht und an die Datenbank gemeldet würden. Die automatisiert gefundenen Bilder sollten auch nicht einfach gelöscht werden, sondern - je nach den Standards der jeweiligen Firma - zunächst überprüft werden, bevor sie dann, gegebenenfalls, gelöscht würden. Insbesondere Facebook und Twitter haben eigene Regeln, nach denen darüber entschieden wird, ob Inhalte gelöscht oder auf ihren Seiten gelassen werden.
Die Entscheidung kommt zu einem Zeitpunkt, an dem insbesondere Facebook massiv in der Kritik steht, weil die Firma es in Tausenden Fällen nicht schafft, Illegales von ihrer Seite zu löschen - und, paradoxerweise, Legales nicht zu löschen. Die Regeln, nach denen Mitarbeiter anderer Firmen im Auftrag von Facebook Inhalte löschen, sind öffentlich nicht bekannt. Journalisten und Politiker dürfen diese Mitarbeiter - zumindest in Deutschland - bislang nicht besuchen.
Gleichzeitig haben Terroristen in aller Welt Facebook und andere Seiten als effektive Verbreitungswerkzeuge für ihre Propaganda entdeckt, gerade, um Nachwuchs für Terrorgruppen anzuwerben. Alleine Twitter löschte im zweiten Halbjahr 2015 mehr als 125 000 Konten, weil der Verdacht bestand, dass Terroristen sie betreiben.
Jene Mitarbeiter, die diese Inhalte bei Facebook löschen, müssen in kurzer Zeit darüber entscheiden, ob ein Bild nach den Regeln des Gesetzes und nach internen Regeln zu löschen oder auf der Seite zu behalten ist. Unabhängige Tests zeigen, dass Facebook dabei versagt. Mittlerweile ermitteln deutsche Staatsanwälte gegen das Unternehmen und zahlreiche Mitarbeiter, darunter auch Firmenchef und -gründer Mark Zuckerberg.