Der größte Popstar der Welt durchlebt einen Albtraum, den viele Frauen kennen. Seit Tagen wird das Internet mit gefälschten Bildern geflutet, die Taylor Swift in pornografischen Posen zeigen. Auf der Plattform X, einst bekannt als Twitter, wurden manche dieser Beiträge Dutzende Millionen Mal gesehen und zehntausendfach weiterverbreitet.
Die Richtlinien von X verbieten " synthetische, manipulierte oder aus dem Zusammenhang gerissene Medien" sowie intime oder sexuell explizite Fotos, die ohne Zustimmung der abgebildeten Person aufgenommen oder verbreitet wurden. Trotzdem reagierte die Plattform mit großer Verspätung. Erst nach 17 Stunden wurde ein Post gelöscht, der zu diesem Zeitpunkt bereits 47 Millionen Mal angezeigt worden war. Mit wenig Aufwand lassen sich die Bilder immer noch auf X finden.
Man könnte es als den x-ten Beleg betrachten, dass X bei der Moderation von Inhalten versagt. Doch in diesem Fall geht es um mehr als die Folgen des radikalen Sparkurses, den Elon Musk seit seiner Übernahme des Unternehmens Ende 2022 durchzieht. Auf X wird deutlich, was täglich in dunkleren Ecken des Netzes geschieht: Frauen werden gegen ihren Willen sexualisiert und mit manipulierten Bildern verleumdet.
Misogyne Gruppen auf Telegram
Von fast jeder prominenten Sängerin oder Schauspielerin kursieren gefälschte Fotos und Videos, die sie vermeintlich nackt oder beim Sex zeigen. Früher wurde plump mit Photoshop manipuliert, moderne Technologie hat diese Form des Missbrauchs professionalisiert und massentauglich gemacht. Zum einen gibt es sogenannte Deepfakes, die in ein echtes Foto oder Video das Gesicht einer anderen Person einfügen. Zum anderen ermöglicht sogenannte generative KI seit Kurzem, ohne technische Kenntnisse komplett künstliche Inhalte zu erzeugen.
So scheinen auch die pornografischen Fakes von Swift entstanden zu sein. Einer Recherche von 404 Media zufolge wurden sie mit Microsoft Designer erzeugt. Die frei zugängliche, kostenlose Software erzeugt Bilder aus Text. Demnach stammen die Fälschungen aus einer Gruppe auf dem Messenger Telegram, erst einen Tag später wurden sie auf X geteilt und massenhaft verbreitet.
Microsoft hat reagiert und bestimmte Begriffe blockiert, doch auf Telegram werden Anleitungen geteilt, wie sich diese Blockaden angeblich umgehen lassen. Am Grundproblem ändert sich ohnehin wenig: Es gibt Hunderte vergleichbare Bildgeneratoren, und längst nicht alle Betreiber dieser Programme kümmern sich darum, wofür sie genutzt werden. Im Gegenteil: Manche Anbieter werben damit, dass sich mit ihrer Technik gefälschte Nacktaufnahmen erzeugen lassen.
Fast alle Deepfakes sind pornografisch
Die öffentliche Diskussion über die Gefahren von Deepfakes und generativer KI dreht sich meist um politische Desinformation und Propaganda sowie Betrug. Dabei wird die Technologie seit Jahren in viel größerem Ausmaß als Waffe gegen Frauen missbraucht. 2017 gab es die ersten Berichte über KI-Pornografie, schon damals war Taylor Swift eine der betroffenen Prominenten. Zwei Jahre später kam eine Studie zum Ergebnis, dass sexuell explizite Fälschungen 96 Prozent aller Deepfake-Videos ausmachten.
Mittlerweile kann fast jeder gefälschte Nacktaufnahmen erzeugen. Kürzlich wurde etwa bekannt, dass Teenager an einer Highschool in New Jersey Deepfakes ihrer Mitschülerinnen geteilt hatten. "Am meisten nervt mich, dass es zu 100 Prozent eine Sache ist, die Jahre im Voraus 'vorhergesagt' wurde", schreibt die Stanford-Forscherin Renee DiResta auf der Plattform Threads über den Missbrauch von Swift. Expertinnen und Experten hätten seit Jahren vor KI-gestützter Belästigung und Rache-Pornografie gewarnt. "Es ist ein weiteres Beispiel, dass sich Technik schnell entwickelt, während Gesetzgeber hinterherhinken."
Zumindest zeigt der aktuelle Fall, dass es im Netz noch eine Gruppe gibt, die mächtiger ist als misogyne Männer: Swifties, wie sich die Fans der Sängerin nennen. Mit Zehntausenden harmlosen Postings unter dem Schlagwort "Protect Taylor Swift" versuchen sie, die Fälschungen aus den Suchergebnissen zu verdrängen. Das klappt nicht komplett, aber zumindest teilweise. Wer nach "Taylor Swift" sucht, sieht in erster Linie Beiträge ihrer Unterstützer.
Vielleicht hat die Aufmerksamkeit für das Thema sogar etwas Gutes. Glaubt man der britischen Boulevardzeitung Daily Mail, dann soll Swift wütend sein und rechtliche Konsequenzen erwägen. Es wäre nicht das erste Mal, dass es erst ein prominentes Opfer braucht, bis Politiker schärfere Gesetze erlassen, von denen am Ende alle Frauen profitieren.