Der Kampf gegen die Verbreitung von Aufnahmen missbrauchter Kinder muss verstärkt werden, das zeigen nicht nur die grauenvollen Fälle von Bergisch-Gladbach und Lügde. Ermittler sind überfordert von der Menge an Bildern und Videos. Weil aber kaum ein Verbrechen so geächtet ist wie Kindesmissbrauch, macht sich unbeliebt, wer einzelne Maßnahmen des Kampfes dagegen kritisiert. Aber für das EU-Parlament und die Zivilgesellschaft ist es Zeit, sich unbeliebt zu machen und sich gegen die neuen Pläne der EU-Kommission zu wehren. Denn die missbraucht das Ziel, die Täter zu fassen, um ein neues Überwachungsnetz über allen Computern und Handys auszuwerfen.
Die neuen Regeln sollen Tech-Unternehmen verpflichten, in E-Mails sowie auf Plattformen und Chat-Apps wie Facebook, Whatsapp oder Signal private Kommunikation ihrer Nutzer zu durchleuchten. Sie sollen Darstellungen von Missbrauch erkennen und einer neu zu schaffenden EU-Behörde melden. Tun sie das nicht, drohen hohe Strafen. Es ist schlimm genug, dass Tech-Konzerne ein Überwachungssystem geschaffen haben, das Datenspuren von Menschen zusammenträgt, um ihnen maßgeschneiderte Werbung vorzusetzen. Nun will die Politik auf dieses kommerzielle System ein System der staatlichen Schnüffelei draufsetzen.
Matthew Green, einer der führenden Forscher für Verschlüsselung, beschreibt die Pläne als "die am meisten ausgeklügelte Massenüberwachungsmaschinerie, die je außerhalb Chinas und der UdSSR installiert wurde". Selbst wenn das Polemik sein sollte: Mit Sicherheit geht der Entwurf über so manche Snowden-Enthüllung zur Schnüffelei der NSA in den Tech-Unternehmen von 2013 hinaus. Unternehmen mussten dem Geheimdienst Nachrichten von bestimmten E-Mail-Adressen aushändigen. Nun aber soll in der EU jede Nachricht auf jedem Gerät gescannt werden.
Dabei sollen offensichtlich automatisierte, lernfähige Systeme eingesetzt werden. Solche Technik ist geeignet, Missbrauchsdarstellungen zu finden. Doch die Folgen sind unabsehbar. Der Zwang zum Scannen würde an der Ende-zu-Ende-Verschlüsselung scheitern, die etwa Whatsapp-Chats absichert. Die Regeln würden Unternehmen also zwingen, diese bislang beste Form der Verschlüsselung zu korrumpieren. Sie würde dadurch nicht nur auf Handys von Tätern geschwächt, sondern für alle Nutzer unbrauchbar. Absurderweise zwingt die EU mit Regeln wie der Datenschutz-Grundverordnung ebenjene Unternehmen, die Privatsphäre ihrer Nutzer zu schützen. Dabei sind Messenger und E-Mails für die Täter ohnehin nicht das Werkzeug der Wahl. Die Szene lädt Dateien auf Seiten im Netz hoch oder agiert gleich im schwer zugänglichen Darknet.
Zudem ist die Technik, Bilder anhand ihres digitalen Fingerabdrucks zu erkennen, fehleranfällig. Weil sie kein Gespür für Kontext und Details von Bildern hat, wird sie Hunderttausende falsche Treffer melden. Bis das auffällt, sind private - und völlig legale - Bilder schon in der Hand der EU-Behörde. Und wer garantiert, dass die Software erkennen kann, ob ein Mensch auf einem Bild noch minderjährig ist oder gerade 18 geworden, und dass es sich um ein Verbrechen handelt? Das neue System würde auch bedeuten, dass die Behörde eine Standleitung in das Intimleben junger Menschen bekommt.
Erst recht absurd wird der geplante Einsatz automatisierter Systeme, wenn es um Grooming geht, das Heranmachen von Tätern an künftige Opfer in Chats. Auch das sollen Unternehmen automatisiert erkennen. Eine Technologie, die derart komplexe Muster in der Sprache erkennt und dabei keine Unschuldigen erwischt, existiert aber schlicht nicht. Die EU malt sich Science-Fiction aus, die bald in einer Realität voller falscher Verdächtigungen ankommen wird.
Automatisierung mit Software wird die Gesellschaft in jedem Fall verändern, aber wenn die Politik versucht, Probleme der Gesellschaft wegzuautomatisieren, wird das schiefgehen. Offensichtlich hat sich die Kommission überzeugen lassen, dass sich mit Software Investitionen in gut ausgebildete, von Psychologen unterstützte Beamte vermeiden lassen. Dabei ist Geld für solche Stellen und für Technik, die einzelne Verdächtige gezielt überwacht, zielführender, als umstrittene Unternehmen zu Hilfssheriffs zu machen.