Mark Zuckerberg guckt etwas schief aus dem Instagram-Video, als er zu erzählen beginnt: "Stellt euch das kurz vor: Ein Mann, der vollständige Kontrolle über die gestohlenen Daten von Milliarden Menschen hat, über all ihre Geheimnisse, ihr Leben, ihre Zukunft." Der Facebook-Chef, zu dessen Konzern auch Instagram gehört, meint natürlich sich selbst und wagt eine Prophezeiung: "Wer die Daten kontrolliert, kontrolliert die Zukunft." Im nächsten Video packt Chef-Influencerin Kim Kardashian aus und gesteht lächelnd: "Ich liebe es, Menschen online zu manipulieren, um Geld zu machen."
Diese Aussagen sorgen derzeit für Aufmerksamkeit, weil die beiden Prominenten sie nie getroffen haben. Die britischen Medienkunst-Aktivisten Bill Posters und David Howe haben die Videos mithilfe der israelischen Firma Canny AI erstellt, auf einem Filmfestival in Sheffield präsentiert und nun eben hochgeladen.
"Video Dialogue Replacement Technology" (Technik zum Austausch von Videodialogen) nennt sich etwas umständlich die dafür verwendete Methode. Im Volksmund ist das Ergebnis als "Deepfake" bekannt: manipulierte Videos, in denen Hochleistungssoftware Worte, Gesichtsausdruck und Mundwinkel eines gefilmten Menschen nach Belieben verändert hat oder sein Gesicht in eine Szene einbaut. Ganze Online-Sexportale werben damit, Gesichter von Hollywoodschauspielerinnen in Pornovideos montiert zu haben. Und Prominente wie Zuckerberg bekommen wilde Aussagen in den Mund gelegt.
Facebook blieb tatenlos
Müssen sie das dulden? Das ist eine Debatte, die ausgerechnet Facebook gerade führt. Vor zwei Wochen ging ein Video der mächtigen demokratischen US-Politikerin Nancy Pelosi online. Weil die Bildgeschwindigkeit verändert worden war, erweckten die Aufnahmen den Eindruck, die 79-Jährige sei betrunken. Das Video wurde millionenfach angesehen und auch aus dem Umfeld von Präsident Donald Trump verbreitet. Youtube löschte es, Facebook dagegen markierte es nur als "falsch", blieb aber sonst tatenlos. Die Begründung: "Wir haben keine Regel, wonach eine Information, die du auf Facebook veröffentlichst, wahr sein muss." Pelosi war ihren Mitarbeitern zufolge so erzürnt, dass sie die Beschwichtigungsanrufe Zuckerbergs ignorierte.
Auch das Zuckerberg-Video auf Instagram bleibt online, ließ der Konzern nun erklären. Doch hinter den Kulissen überlegt Facebook Medienberichten zufolge bereits intensiv, ob man manipulierte Videos verbieten soll. Noch ist die für Normalnutzer verfügbare Deepfake-Technik etwas hölzern, auch beim Zuckerberg- und Kardashian-Zwilling bewegt sich der Mund nicht völlig im Einklang mit den Silben, wirkt die Stimme leicht unnatürlich. Doch die Software wird stetig besser und einfacher zu bedienen. In absehbarer Zeit wird sie zum digitalen Werkzeugkasten gehören wie heute Videoschnitt-Programme.
Vor wenigen Tagen stellten Forscher einen Prototyp vor, bei dem Nutzer nur noch das Texttranskript eines Videos verändern müssen, um den Menschen die Worte im Mund herumzudrehen. Die Philosophin Regina Rini von der York University in Toronto warnte in der New York Times vor einer neuen Ära von Rufmord und Meinungsmanipulation: "Die Fähigkeit, überzeugende Video-Fälschungen zu produzieren, wird fast genauso verbreitet sein wie die Fähigkeit, zu lügen."
Auch Hollywood macht sich Sorgen
Zu den Betroffenen dürften zunächst vor allem Prominente und Politiker gehören, weil von ihnen am meisten Videomaterial vorhanden ist. Wobei "Betroffene" nicht immer zutrifft, denn Deepfake-Videos lassen sich durchaus auch zur Eigenwerbung nutzen. Als vergangenen Herbst in Gabun ein Video von Präsident Ali Bongo auftauchte, in dem er nach einem Schlaganfall erstaunlich rüstig auftrat, raunte die Opposition von einer Deepfake-PR-Aktion.
Auch Hollywood betrachtet die Entwicklung mit Sorge, Schauspieler-Gewerkschaften dringen auf rechtliche und technische Handhabe. Selbst das US-Verteidigungsministerium beschäftigt sich mit der Deepfake-Erkennung, Forscher fordern eindeutige Echtheitsmerkmale wie Video-Wasserzeichen, um eine Welt zu verhindern, in der die Menschheit ihren Augen und Ohren nicht mehr trauen kann.
Medienkunst-Aktivist Bill Posters allerdings hatte mit dem Zuckerberg-Zwilling etwas ganz anderes im Sinne. Zuckerberg sei kein Opfer, sondern der Zwilling ein Kunstwerk, das auf die Allgegenwart der "digitalen Beeinflussungsindustrie" hinweisen solle, sagte er der SZ. Die Aussagen der Deepfake-Doppelgänger symbolisierten "alternative Wahrheiten, die diese Akteure an anderer Stelle - oder in einem anderen Leben - einmal diskutieren könnten".