bedeckt München 32°

Manipulierte Porno-Videos:Selbst Computer-Laien können "Deepfakes" erstellen

Face Swap nannte man das Verfahren, als es noch nur lustig war. Im Frühjahr des letzten Jahres tauschte eine künstliche Intelligenz auf Smartphones Doppelporträts mehr schlecht als recht gegeneinander aus: Hund gegen Herrchen, Luftballon gegen Mopsgesicht, so was. Nun aber sieht man ganze Filme mit Emma Watson, Scarlett Johansson und Natalie Portman, die sehr überzeugend in Hardcore-Kontexte eingebettet sind: "Excellent and very convincing" seien sie, wie das Magazin Forbes es vornehm formulierte.

So sehr, dass sich zu Jahresbeginn ganze Communities um den anonymen Nutzer "Deepfakes" scharten, nachdem das Internet-Magazin Motherboard erstmals in allgemein verständlicher Sprache über das Verfahren berichtet hatte. Danach explodierte das Interesse. Eine Reddit-Community brachte es in vier Wochen auf 100 000 Abonnenten.

"Deepfakes" zeigte ihnen allen, wie man noch von den ältesten Windows-Rechnern aus auf das Maschinenlernsystem "Tensorflow" für den digitalen Gesichtstransfer zugreift, also auf jene künstliche Intelligenz, die Google 2017 Wissenschaft und Forschung zur Verfügung gestellt hatte. "Deepfakes" veröffentlichte dann die frei verfügbare Software Fakeapp (inzwischen Version 2.1). Damit kann nun jeder, der einen Computer einzuschalten versteht, die Gesichter der Traumfabrik dorthin versetzen, wo er sie gerne sähe.

Menschen haben KIs programmiert, die sich selbst optimieren

Es ist ja eine der größten Ironien des Anthropozäns, also jener Epoche, in der der Mensch Natur, Umwelt, ja die Geschicke der Erde bestimmt, dass er seinen Grips darauf verwendet, künstliche Intelligenzen sich selbst optimieren zu lassen. Deren Erfolge stellen sich nun oft binnen Monatsfrist ein, "deep learning" nennt man das. Es erfolgt über Netzwerke, deren Aufbau dem menschlichen Gehirn nachgeahmt ist. Maschinen können mittlerweile in Abermillionen Fotos einzelne Individuen identifizieren. "Deepface" heißt denn auch das entsprechende System von Facebook.

Der Nutzer "Deepfakes" dürfte sich für sein Pseudonym von diesem Namen inspiriert haben lassen. Seine Identität ist ebenso unbekannt wie seine Absichten. Im vergangenen Sommer synthetisierten Wissenschaftler der University of Washington mithilfe künstlicher Intelligenzen einen "Fake Obama", sie kreierten aus Bild- und Tonmaterial des "echten" Barack Obama ein künstliches TV-Interview mit dem Präsidenten, das nie so geführt wurde.

Menschen dürfen nicht mehr glauben, was sie sehen

"Deepfakes" geht darüber noch hinaus. Er verwendet die Ergebnisse von Googles (statischer) Bildersuche, um Porträts eines Prominenten aus unterschiedlichen Perspektiven mit möglichst vielen Gesichtsausdrücken zu bekommen. Die künstliche Intelligenz bettet sie dann passgenau in die Pornovorlage ein. Der Algorithmus erledigt das "on the fly", im Vorübergehen, wie "Deepfakes" es nicht ohne Stolz ausdrückte.

Diese Videos behaupten ihre eigene (gelogene) Wahrheit noch unverfrorener als die Wortlügen eines twitternden Präsidenten, und mit größerer Evidenz. Menschen glauben, was sie sehen. Doch das sollten sie sich schleunigst abgewöhnen. Denn nun muss jeder Videobeweis als potenziell gefälscht gelten, Rache-Pornos genauso wie die mutmaßlichen Belege von Überwachungskameras. Die Beweiskraft von Bildern ist erschüttert. Höchste Zeit, dass die Hersteller von Filmkameras unmanipulierbare Wasserzeichen erfinden, um Filme zu kennzeichnen, die in Wirklichkeit aufgenommen worden sind. Andererseits: Wer will noch, dass etwas "real" ist?

Künstliche Intelligenz Absolute Kontrolle

Digitale Überwachung in China

Absolute Kontrolle

Chinas KP erfüllt sich den Traum aller autoritären Herrscher: die totale Überwachung des Volkes. Von den Gesichtszügen bis zum Überqueren der Straße wird bereits alles überprüft. Und das ist erst der Anfang.   Von Kai Strittmatter