bedeckt München 14°
vgwortpixel

Netzkolumne:So echt ist nur Falsches

Intimste Geständnisse waren Zeichen von Authentizität. Heute lassen sie sich per Software genauso generieren wie kompromittierende Szenen aller Art. Damit sind alle wahren Bilder entwertet. Deep Fakes sind die neuen Fake News.

Die Menschen geben im Netz ja wirklich sehr viel von ihrem Leben preis. Da ist etwa eine Frau, die von der Bibliothek ihres Vaters erzählt und wie diese ihr Leben geprägt hat. Ein junger Mann schreibt von seinen spleenigen Masturbationsgewohnheiten. Und ein älterer Herr erzählt, was er in einem nächsten Leben alles anders machen würde - mehr Musik, mehr Seltsamkeit, mehr Liebe.

All diese Menschen und ihre Geschichten findet man auf einer Website namens "Humans of an Unknown City". Es gibt da nur einen Haken. Keine davon ist echt. Es sind sogenannte Deep Fakes. Die fotorealistischen Porträts werden von einer Software generiert, und die Begleittexte stammen aus dem Computer. Auf www.unrealcity.xyz kann man sich die nicht echten Menschen ansehen, ihre nicht echten Geschichten lesen und mit einem Klick noch ein paar mehr generieren.

Das Projekt des australischen Informatikers Julian Koplin ist inspiriert von dem enorm erfolgreichen Foto-Blog "Humans of New York". Hier erzählen als Reaktion auf eine immer künstlichere Medienwelt echte Menschen ihre Geschichten, die andere Menschen am anderen Ende des Internets wiederum oft enorm rührend finden. Daraus entstand im Laufe der letzten Jahre eine eigene Medienmarke und Bücher, die monatelang die Bestsellerlisten dominierten.

Heute herrscht Hyperrealität statt Authentizität. Die computergenerierten Porträts weisen kaum noch visuelle Unstimmigkeiten auf, die Grammatik der Texte ist kaum schlechter als die der Durchschnittsbevölkerung. Nur manchmal verirrt sich die Software namens GPT-2 ein bisschen in den Zusammenhängen. Da kommen dann sehr verquere Biografien heraus. Aber sind solche Lebensläufe nicht sehr menschlich? Gerade wegen dieser beinahe erschreckenden Hyperrealität fürchten viele IT-Forensiker, dass die Deep Fakes dazu benutzt werden können, Wahlen zu manipulieren.

Vielleicht ist die Sorge aber auch übertrieben. Zumindest hatten, fand das niederländische Unternehmen Deep-Trace in einer Studie heraus, überwältigende 96 Prozent aller gefundenen Fälschungen, nicht Politik, sondern Pornografie zum Thema. Fotos von Schauspielerinnen, Popstars, Ex-Freundinnen oder beliebigen Frauen aus dem Netz werden per Computer in entwürdigende Posen hineinmontiert. Es geht um Macht und Rache. Doch das wahre Opfer der Deep Fakes, schreibt deshalb auch das IT-Portal ZDNet, sei nicht die Demokratie, es seien wieder einmal die Frauen.

Als wäre das nicht schon schlimm genug, zeigt es leider doch nicht das ganze, nun ja, Bild. Die großen Tech-Konzerne wie Google oder Facebook lassen ihre KI-Abteilungen zwar emsig daran arbeiten, die Fälschungen aufzuspüren. Manchen Programmen reicht ein einziges fehlplatziertes Pixel, um festzustellen, ob ein Bild echt ist oder nicht. Auch die Legislative reagiert. So wurden in Kalifornien unlängst zwei Gesetze verabschiedet, die den Umgang mit Deep Fakes regulieren sollen. Es darf etwa kein manipuliertes Bild oder Video eines Politikers innerhalb von 60 Tagen vor einer Wahl veröffentlicht werden.

Was für eine herrliche Naivität! Schließlich reicht das bloße Wissen, dass visuelle Quellen gefälscht sein könnten, schon aus, um ihre Wahrhaftigkeit anzuzweifeln. Der breiten Masse der Internetnutzer dient Dokumentation längst nicht mehr als Beweis. Wenn alles gefälscht werden kann, was ist dann noch wahr? Was bis vor Kurzem noch die Fake News waren, sind heute die Deep Fakes.

© SZ vom 14.10.2019
Zur SZ-Startseite