bedeckt München

Perfekt gefälschte Videos:Menschen glauben, was ins Weltbild passt - selbst wenn es billig gefälscht ist

Für die Betroffenen ist das entsetzlich, die politischen Verwerfungen beschränken sich bislang aber auf Einzelfälle. Gabuns Präsident Ali Bongo soll etwa mit einem Deep-Fake-Video seine Neujahrsansprache inszeniert haben, um seine Genesung nach einem Schlaganfall vorzutäuschen und Neuwahlen zu verhindern. Die Kontroverse um die mögliche Fälschung löste einen Putschversuch aus. In Malaysia kursierte kürzlich ein Video, in dem ein Mann angeblich zugibt, Sex mit einem Politiker gehabt zu haben. Experten halten beide Videos für Fälschungen, können es aber bislang nicht beweisen.

"Was das politische Manipulationspotenzial angeht, sehe ich viel Hype", sagt Nießner. Um Unruhe zu stiften, seien keine Deep-Fakes nötig. "Warum sollte ich einen Machine-Learning-Ingenieur bezahlen, wenn ich mit weniger Aufwand 500 Photoshop-Fakes basteln kann, die viel mehr bewirken?"

Ein Vorfall Ende Mai belegt das Potenzial billiger Manipulationen, genannt "Cheap Fakes": Millionen Menschen sahen auf Facebook ein Video von Nancy Pelosi. Die Demokratin wirkt betrunken. Hochrangige Republikaner, darunter Trump-Berater Rudy Giuliani, teilten den Link. Tatsächlich trinkt Pelosi gar keinen Alkohol - die Originalaufnahme wurde nur verlangsamt, was Zweifel an der Zurechnungsfähigkeit weckt.

In zwei bis drei Jahren könnten Deep Fakes richtig gefährlich werden

Den viralen Erfolg der billigen Fälschungen erklärt Nießner mit einer Theorie aus der Kognitionspsychologie: "Der Bestätigungsfehler besagt, dass Menschen glauben, was sie glauben wollen. Das hängt oft mit der politischen Überzeugung zusammen." Studien zur Verbreitung von Falschnachrichten bestätigen die These: Geteilt wird, was ins Weltbild passt.

Derzeit mag von Deep Fakes noch keine große Gefahr für die Gesellschaft ausgehen. 2022 könne das schon anders aussehen, sagt Nießner: "Ich gehe davon aus, dass die Technik in zwei bis drei Jahren so weit ist, dass auch normale Nutzer ziemlich gute Fälschungen erstellen können." Das Szenario klingt bedrohlich: Manipulierte Videos fluten das Netz, wo sie auf Massenmedien und soziale Netzwerke treffen, die auf Emotionen, Reichweite und schnelle Verbreitung getrimmt sind.

Fox News richtet mehr Schaden an als alle Deep Fakes zusammen

Hinzu kommt, dass die Fälschungen die Glaubwürdigkeit von Fakten beschädigen. "Deep Fakes erleichtern es Lügnern, die Verantwortung für ihre Taten von sich zu weisen", sagt die Bostoner Juraprofessorin Danielle Citron, die zu den Auswirkungen von Deep Fakes forscht. US-Präsident Trump hat bereits versucht, echte Videos als Fälschungen abzutun. Seriöse Medien widerlegten seine Behauptungen, doch Trumps Anhänger sind eher bei Fox News zu Hause.

Dieser Fernsehsender zeigt zugleich, dass es keine KI braucht, um Schaden anzurichten. Die Verschwörungstheorien über die Mondlandung wurden maßgeblich durch eine umstrittene Doku befeuert, die Fox News 2001 ausstrahlte. Der Sender formt das Weltbild vieler US-Amerikaner bislang sicher stärker als "Fake News" und Deep Fakes zusammen.

© SZ vom 29.07.2019/sih
Zur SZ-Startseite
Nancy Pelosi

Nancy Pelosi
:Warum sich Facebook weigert, ein manipuliertes Video zu löschen

Millionen Menschen sehen eine vermeintlich betrunkene US-Politikerin Nancy Pelosi. Die virale Fälschung zeigt, wie leicht sich Facebook missbrauchen lässt.

Von Simon Hurtz

Lesen Sie mehr zum Thema