Netzkolumne:Pixelwesen

Screenshot zum Thema Deepfake: bei Verwendung muss explizit auf das Video und seine Produktion eingegangen werden!

Der Chef als Deepfake: Nvidia-CEO Jensen Huang bei seinem KI-gernerierten Vortrag.

(Foto: youtube.com; NVIDIA/youtube.com; NVIDIA)

Computergenerierte Abbilder sind nicht nur Deepfakes, sondern auch ein Geschäft.

Von Michael Moorstedt

Im April diesen Jahres richtete der Chef wichtige Worte an seine Angestellten. Jensen Huang, CEO des Tech-Konzerns Nvidia benutzte dafür eine Telekonferenzsoftware, so weit die neue Normalität in pandemischen Zeiten. Was die Mitarbeiter allerdings nicht wussten: Zu ihnen sprach nicht der echte Boss, sondern ein computergeneriertes Abbild, angetrieben von der Hochleistungs-Hardware der eigenen Firma. Keiner der Angestellten, unter denen Huang wohlgemerkt einen quasi erlösergleichen Status besitzt bemerkte den Tausch.

Huangs Auftritt war mehr als nur ein Marketing-Gag. Von künstlicher Intelligenz aus dem Nichts erzeugte Bilder, Videos und Tonschnipsel, sogenannte Deep Fakes, waren noch vor wenigen Jahren nur ein theoretisches Phänomen. Technik-Kritiker warnten vor ihrem zersetzenden Potential: Was würde passieren, wenn ein jeder Politiker vor beliebigen Hintergründen und mit beliebigen O-Tönen künstlich in Szene gesetzt werden könnte? Wenn synthetische Menschen zu Kronzeugen jeder nur denkbaren Verschwörungstheorie werden? Wäre das nicht desaströs für den ohnehin schon reichlich angeschlagenen öffentlichen Diskurs? Und was wäre schließlich mit banaler, gänzlich agendaloser Rache? Mittels der Technologie könnte man das Gesicht der oder des Ex glaubwürdig in Pornofilmchen hineinmontieren und so den Ruf einer jeden Person nachhaltig ruinieren.

Wie das eingangs erwähnte Beispiel zeigt, sind Deep Fakes inzwischen gut genug, um selbst Menschen zu täuschen, die enorm mit der gefälschten Person vertraut sind. Die Welt hat sich einmal mehr zu schnell gedreht, um neue zeitgemäße Regeln aufzustellen. Neben der Aushöhlung der Demokratie stellen die künstlichen Menschen mit computergenerierten Attributen eine ganze Reihe von anderen tradierten Systemen auf den Kopf. Die Zunft der Synchronsprecher etwa steht vor düsteren Zeiten. Denn von KI erzeugte Stimmen sind inzwischen so lebensecht und authentisch, dass professionelle Sprecher kaum noch gebraucht werden.

Man kann sein Gesicht an eine KI-Firma verkaufen, die dann Werbetexte auf die Person spielt

Nun wäre der Kapitalismus nicht er selbst, wenn er nicht auch dafür sorgen würden, dass sich die Menschen sogar darum bemühen, ausgenutzt zu werden. Start-Ups wie das in Israel ansässige Unternehmen Hour One bezahlt die Menschen für die Rechte an ihren Gesichtern. Alles was man dafür tun muss ist, vor einer hochauflösenden Kamera Platz zu nehmen. Wenn man die resultierenden Daten in eine KI-Software einspeist, kann die Firma daraus eine schier endlose Menge an Videomaterial erzeugen, in dem die entsprechende Person in jeder beliebigen Sprache sagt, was sie will. Die so generierten Clips sollen in Werbevideos eingesetzt werden, für Firmen, die glaubhafte Testimonials benötigen. Die Kunden wählen ein Gesicht aus, laden den Text hoch, den es sagen soll, und erhalten ein Video, das aussieht, als würde eine echte Person den Text in eine Kamera sprechen. Jedes Mal, wenn das eigene Gesicht wieder Teil einer neuen Kampagne wird, bekommen die Spender eine kleine Tantiemenzahlung. Dass man bei der Frage, für welche Botschaft das eigene Gesicht in Zukunft dann benutzt wird nichts zu sagen hat, versteht sich von selbst.

Eine angesichts der aktuellen Entwicklungen beinahe gemütliche Vorgänger-Technologie sind Stock-Fotos. So konnte man sich etwa ein schmales Zusatzeinkommen während dem Studium sichern, indem man sein Antlitz in möglichst generischen Szenarien ablichten ließ, die dann von Fotoredakteuren in Werbeagenturen mit Stichwörtern wie "glückliche Familie" oder "dynamisches Team" gefunden werden. Man musste sich halt nur von der Hoheit über das eigene Gesicht verabschieden. Die größte Gefahr bestand darin, dass man sein früheres Selbst irgendwann als Bestandteil einer CDU-Imagekampagne wiederfand.

© SZ/eye
Zur SZ-Startseite
Wahlplakate - Bundestagswahl 2021am 28.08.2021 in Essen Ein Wahlplakat der Partei die Basis. Die Bundestagswahl findet a

SZ PlusDie Sprache der Wahlprogramme
:Entschlossen neblig

Zur Sprache des Wahlprogramms der "Basispartei".

Lesen Sie mehr zum Thema

Süddeutsche Zeitung
  • Twitter-Seite der SZ
  • Facebook-Seite der SZ
  • Instagram-Seite der SZ
  • Mediadaten
  • Newsletter
  • Eilmeldungen
  • RSS
  • Apps
  • Jobs
  • Datenschutz
  • Kontakt und Impressum
  • AGB