Deepfakes

Deepfakes

:„Man fühlt sich irgendwie ertappt, obwohl man gar nichts gemacht hat“

Als die Münchner Schauspielerin Teresa Rizos sich selbst googelt, entdeckt sie ein gefälschtes Bild von sich –  in pornografischer Pose. Wie sie auf das Deepfake reagiert und was Bayerns Justizminister Georg Eisenreich fordert.

Das Europaparlament hat einem Verbot von KI-Anwendungen, mit denen sexualisierte Deepfakes erstellt werden können, zugestimmt. Eine große Mehrheit von 423 Abgeordneten stimmte in Straßburg für eine entsprechende Änderung des europäischen ...

MeinungDeepfakes

:In dem EU-Gesetz klafft eine große Lücke

KI-erstellte Pornos sind von Dezember an zwar verboten. Menschen mithilfe dieser Apps bis auf die Unterwäsche auszuziehen, aber nicht. Das ist ein Fehler.

Künstliche Intelligenz

:EU geht gegen KI für sexualisierte Deepfakes vor

Ungewollt im gefälschten Porno – das soll es in der EU nicht mehr geben. Die Union schreibt mehr Sicherheit und Transparenz bei KI-Programmen vor, einige verbietet sie. Besonders Kinder sollen geschützt werden.

MeinungKünstliche Intelligenz

:Zum Glück macht sich die EU daran, gegen Deepfakes vorzugehen

Parlament und Rat wollen entsprechende Programme verbieten. Aber das zielt nur auf einen Teil des Problems. Der andere Teil sind: Männer, die diese KI-Anwendungen nutzen.

KI-Gesetz

:Einigung: EU will KI für Missbrauch-Deepfakes verbieten

Das KI-Gesetz der EU wird so angepasst, dass sexualisierte Deepfakes schon auf Anwendungsebene gestoppt werden sollen. In Deutschland hat zuletzt der Fall Fernandes die Debatte wieder befeuert.

Fernsehen

:Hirschhausen gegen die Deepfake-Mafia

Der Arzt und Moderator Eckart von Hirschhausen kämpft seit Jahren gegen betrügerische Internetwerbung mit seinem Namen. Eine ARD-Doku zeigt, wie er sich gegen die Ohnmacht stemmt.

Feminismus

:Einfach keine Menschen verachten

Die selbsternannte Fotzenrapperin Ikkimel preist auf Instagram Herbert Grönemeyer als Pionier kritischer Männlichkeit und feiert das Revival eines alten Hits. Und so sieht einer mit 70 Jahren plötzlich wieder superjung aus.

Social Media

:„Ich bin 77, aber ich war mal 47“

Unsere Lieblingsschauspieler können dank KI-Videos ihr jüngeres Ich umarmen, und das Berlin der Stummfilmzeit erstrahlt in Farbe: Sind die digitalen Zeitreisen reine Sehnsucht nach früher oder eine neue Form von Lebensweisheit?

Sexualisierte Gewalt

:„Wenn wir eine andere Geschlechterpolitik wollen, ist das Strafrecht die billigste Antwort“

Kann das Recht für Geschlechtergerechtigkeit sorgen? Die Verfassungsrechtlerin Dana-Sophia Valentiner über den Zusammenhang zwischen Deepfakes und Femiziden – und darüber, warum Gewalt nicht gleich Gewalt ist.

Digitale Gewalt

:Staatsanwaltschaft ermittelt gegen Ulmen

Bereits im November 2024 erstattete Collien Fernandes Anzeige gegen unbekannt wegen „Ausspähens von Daten“. Die Ermittlungen wurden damals eingestellt und jetzt nach den vielen Medienberichten wiederaufgenommen. Ulmen weist über seinen Anwalt nun Vorwürfe zurück.

MeinungDigitale Gewalt

:Schweigen ist Schuld

Soziale Medien und Plattformen tragen zur Gewalt gegen Frauen bei, dagegen braucht es wirksame Gesetze. Doch das größte Problem sind nicht Strafrecht oder Internet. Sondern Männer.

SZ JetztDigitale Gewalt

:Wie reagiert man auf ein Deepnude?

Eine fremde Nummer schickt unserer Autorin zwei Fotos: ein Selfie von ihr und ein vermutlich KI-generiertes Nacktfoto. Und jetzt?

Digitale Gewalt

:Deine Qual ist meine Freude

Seit Collien Fernandes es tut, redet das ganze Land über digitale Gewalt. Aber wer sind diejenigen, die anderen das Leben zur Hölle machen? Es sind zum Beispiel Jungs und Männer, die sagen, es gehe ihnen um „Unterhaltung“.

MeinungCollien Fernandes

:Ein Opfer? Eine selbstbewusste Frau

Es lässt sich nur erahnen, was die digitale Gewalt gegen die Schauspielerin in Kopf und Seele angerichtet hat. Und doch traut sie sich, aus dem Schatten zu treten.

Deepfakes

:Träge Riesen

Seit 2024 gefälschte Nacktbilder von Taylor Swift kursierten, gibt es selbst in den USA eindeutige Gesetze gegen Deepfakes – und neue sind unterwegs. Werden sie die Plattformen endlich zum Handeln bringen?

Sexuelle Gewalt im Internet

:Warum kann man rechtlich (noch) nichts gegen Deepfakes tun?

Der Fall von Collien Fernandes macht deutlich, welche Lücke im deutschen Recht herrscht: Der Schutz vor digitalen Übergriffen gegen Frauen ist mangelhaft. Was sich nun ändern könnte.

Collien Fernandes und Christian Ulmen

:Der Feind im eigenen Bett

In den sozialen Medien tauschen Frauen nach der „Spiegel“-Recherche zu den Vorwürfen von Collien Fernandes ihre Wut über die Geschlechterverhältnisse aus. Zur Bitterkeit und der Frage, wie aus ihr etwas erwachsen könnte.

Podcast „Auf den Punkt“

:Digitale Gewalt: Es geht um Entwürdigung

Collien Fernandes hat Christian Ulmen angezeigt. Er soll gefälschte Pornovideos und Nacktbilder von ihr verbreitet haben, die seit Jahren im Netz existieren. Warum digitale Gewalt in Zeiten von KI immer größere Dimensionen annimmt.

Deepnudes und Deepfakes

:„Es geht hier um eine gezielte Entwürdigung“

Collien Fernandes versucht seit Jahren, sich gegen KI-Pornografie im Internet zu wehren. Warum das in Deutschland so schwierig ist und welchen Schaden solche Deepnudes anrichten.

MeinungCollien Fernandes

:Das deutsche Strafrecht setzt Prioritäten wie in den 1950er-Jahren

Die Schauspielerin und Moderatorin hat in Spanien Anzeige gegen ihren Ex-Mann Christian Ulmen erstattet. Dafür gibt es Gründe: Dort sind Dinge strafbar, die hierzulande bislang erlaubt sind.

KI-Bilder im ZDF

:„Die Tragweite des Themas wurde spät erkannt“

Wie konnte es zu den Fehlern im „Heute-Journal“ kommen – und war die nun abberufene New-York-Korrespondentin allein für sie verantwortlich? Ein Erklärungsversuch der ZDF-Chefredakteurin Bettina Schausten.

Digitale Gewalt

:Dein Körper gehört meiner KI

Französische Behörden durchsuchen Büros von X, weil der hauseigene KI-Bot Grok Frauen und Mädchen digital ausgezogen hat. Über bildgewordenen sexuellen Missbrauch und die zynische Strategie dahinter.

Deepfakes

:Pornodarstellerin wider Willen

Immer mehr Frauen in Deutschland werden zum Ziel von Deepfakes, das heißt von KI-generierter Pornografie. Pia Scholz und andere Betroffene fordern gesetzliche Maßnahmen dagegen.

Fake-Video

:Betrüger missbrauchen Identität von „Schraubenkönig“ Würth

Es gibt auf Facebook ein Video, in dem Reinhold Würth verspricht: Dein Geld vermehrt sich wie von selbst – eine Fälschung, erstellt mithilfe von KI. Wie Verbraucher sich schützen können.

SZ-Podcast „Auf den Punkt“

:Porno-Fakes auf X: Helfen schärfere Gesetze?

Elon Musks hauseigene KI ermöglicht digitale Gewalt mit wenigen Mausklicks. Der Tech-Milliardär unternimmt nichts.

Sexualisierte Deepfakes

:Elon Musk im Strudel des Grok-Skandals

Seit Wochen erzeugt Grok, der KI-Chatbot der Plattform X, sexualisierte Bilder von Frauen und Minderjährigen. Worum geht es bei der „Industrialisierung der sexuellen Belästigung“?

Digitalisierung der Schule

:Lernen mit eigenem Tablet kann die Motivation von Kindern steigern und Noten verbessern

Eine neue Studie von Würzburger Wissenschaftlern entkräftet gängige Vorurteile gegen den Einsatz von Tablets in Bayerns Schulen – mit überraschend positiven Ergebnissen.

Deepfakes als Ausrede

:Das tat weh. Wirklich

Alles nur KI, behauptet der Élysée-Palast kurzzeitig von dem Video, in dem Brigitte Macrons Hand ins Gesicht des französischen Präsidenten fährt. Es ist aber echt. Was der Fall über den Wahrheitsbegriff der Zukunft erzählt.

Gesetz gegen Deepfakes

:Plötzlich ploppt man als Porno auf dem Handy auf

In Spanien haben Jugendliche Fake-Pornos von Mitschülerinnen verbreitet. Jetzt will die Regierung den Missbrauch von KI-gefälschten Bildern unter Strafe stellen.

Eckart von Hirschhausen: Klage gegen Meta

:Mein Gesicht gehört mir

Nie wieder Diät! Und für immer potent – dank Wunderpille! Klingt zu schön, um wahr zu sein? Ist auch nicht wahr. Aber genau für diese Versprechen wurde ich seit Jahren im Netz mit Deepfakes missbraucht. Das habe ich mir nicht länger gefallen lassen.

Geldanlage

:Warren Buffett und die Atombombe

Der legendäre Investor hält KI potenziell für ähnlich gefährlich wie Nuklearwaffen. Jetzt wehrt er sich gegen gefälschte Videos, in denen er angebliche Empfehlungen ausspricht.

Deepfake

:Hier spricht der Ferrari-Chef – nicht

Cyberkriminelle versuchten mit der gefälschten Stimme von Ferrari-Chef Benedetto Vigna Geld zu ergaunern. Aber der Mitarbeiter wurde misstrauisch und kam dem Betrüger durch eine einfache Maßnahme auf die Schliche.

Dänemark

:Feiertage gibt's nicht mehr

Ein gefälschtes Politikvideo entfacht in Dänemark eine Debatte über Satire in Zeiten unbegrenzter Deepfake-Möglichkeiten.

Rassismus

:Die Frau, die KI entlarvt

Joy Buolamwini gilt als das gute Gewissen der KI-Branche - und als eine ihrer mächtigsten Frauen. Selbst Menschen wie US-Präsident Joe Biden hören ihr zu. Auch, weil sie ihre Aussagen gern in Reime verpackt.

Deepnudes

:Nackt im Internet

Aus einem harmlosen Schnappschuss ein sexualisiertes Foto zu generieren, ist mittlerweile eine Sache von Sekunden – KI und Apps machen es möglich. Das wird zum Problem, vor allem für Frauen und Kinder.

Deepfake-Betrug

:Angestellter überweist 24 Millionen Euro an Betrüger

In Hongkong sollen Kriminelle eine Videokonferenz eines internationalen Konzerns gefälscht und eine riesige Summe erbeutet haben. Doch was ausschlaggebend war, ist unklar: Deepfakes oder Dummheit.

Manipulierte Bilder

:Wie Taylor Swift mit sexualisierten Deepfakes verleumdet wird

Trolle verbreiten gefälschte Bilder, die den Popstar in pornografischen Posen zeigen. Die Plattform X versagt, doch Swifts Fans wehren sich.

Künstliche Intelligenz

:Messi kann jetzt sogar Englisch

Bitte anschnallen: Stimmklonen, Übersetzersoftware und Gesichtsmanipulationen läuten die "Peak Deepfake"-Ära ein.

Berlin

:Falsch verbunden

Nach einem Fake-Gespräch mit Vitali Klitschko geht Berlins Regierende Bürgermeisterin von einem "Mittel moderner Kriegsführung" aus. Staatsschutz und IT-Experten ermitteln.

Netzkolumne

:Pixelwesen

Computergenerierte Abbilder sind nicht nur Deepfakes, sondern auch ein Geschäft.

MeinungDeepfakes

:Dein Gesicht im Porno

Mit künstlicher Intelligenz lassen sich Videos glaubwürdig manipulieren. Die Opfer solcher Deepfakes sind fast immer Frauen - eine Gefahr für die ganze Gesellschaft.

Manipulierte Videos

:Wer hinter dem fast perfekten Tom-Cruise-Fake steckt

Millionen Menschen sahen die Videos, auf denen der Schauspieler herumstolperte - oder war das gar nicht Tom Cruise? Der Belgier Chris Umé erzählt, wie er mit Deep Fakes eine Debatte anstoßen will.

Deepfake-Technologie

:"Jede Frau kann zum Ziel werden"

Mithilfe künstlicher Intelligenz ist es heute problemlos möglich, Fotos bekleideter Menschen in Nacktbilder zu verwandeln. Die KI-Expertin Nina Schick sagt, sie würde ihrer Tochter nicht mehr erlauben, Bilder im Netz zu posten.

ExklusivManipulierte Videos

:Bundesregierung sieht in Deep Fakes Gefahr für Demokratie

Der FDP-Abgeordnete Manuel Höferlin wollte wissen, was die Regierung gegen aufwendig gefälschte Videos unternimmt. Ihre Maßnahmen kritisiert er als oberflächlich - vor allem, weil sie digitale Gewalt gegen Frauen ignoriere.

Deepfakes

:Zuckerbergs böser Zwilling bleibt auf Instagram

Braucht Facebook ein Deepfake-Verbot? In einem manipulierten Video lassen Medienkünstler den Konzern-Chef höchstselbst als Bösewicht auftreten.

Nancy Pelosi

:Warum sich Facebook weigert, ein manipuliertes Video zu löschen

Millionen Menschen sehen eine vermeintlich betrunkene US-Politikerin Nancy Pelosi. Die virale Fälschung zeigt, wie leicht sich Facebook missbrauchen lässt.

05:05

"Deepfakes"

:Jeder kann mit jedem Marionette spielen

Videos lassen sich seit kurzem auch in Echtzeit raffiniert manipulieren. Und das macht vielen Angst: Vor Pornos mit allem und jedem, vor gezielter Propaganda, vor dem gefakten atomaren Erstschlag.

Manipulierte Porno-Videos

:Menschen müssen aufhören, ihren Augen zu trauen

Eine App ermöglicht es Laien, Gesichter von Prominenten in Hardcore-Pornos zu montieren. Das erschreckend perfekte Ergebnis erschüttert die Glaubwürdigkeit von Bildern und Videos.