Im Herbst 2023 geriet Almendralejo, eine entlegene Kleinstadt in Spaniens Region Extremadura, unerwartet in den Fokus der Weltpresse. Begonnen hatte es eines Nachmittags mit Teenagern, die nach Schulschluss auf ihre Handys starrten, an sich eine völlige Normalität. Doch was einige von ihnen an diesem Tag sahen, verstörte sie zutiefst. Sie sahen sich selbst, nackt, teils in pornografischen Posen.
Die Bilder waren sogenannte Deepfakes, erstellt mit einer Website, die per KI Menschen aus normalen Fotos in andere Situationen verpflanzt, zum Beispiel in Sexfilme. Die Mutter einer 14-Jährigen wollte diese Form der Entblößung und Erniedrigung nicht hinnehmen und erstattete Anzeige. Und sie tat, wovor andere Eltern zurückschreckten: Sie ging an die Öffentlichkeit. Bald fanden sich in Almendralejo mehr als zwei Dutzend Betroffene, zwischen 12 und 17 Jahre alt, die die Polizei vernahm.
Die KI-Anwendung „Clothoff“ (zu Deutsch etwa „Kleider runter“) bot 25 Fake-Bilder für den Preis von zehn Euro an und verlangte von den Nutzern die Bestätigung ihrer Volljährigkeit. Doch wie das im Internet öfter der Fall ist, ließ sich die Altersbeschränkung mit einem Klick überwinden. Das hatte einige Jugendliche von Almendralejo in Versuchung gebracht, Mitschülerinnen digital zu entkleiden und zu kompromittieren. Teils soll versucht worden sein, von den Betroffenen Geld zu erpressen. Vielleicht hielten es manche auch schlicht für einen Scherz. In jedem Fall war und ist es für Betroffene ein schockierendes Erlebnis – egal, wie künstlich die Bilder aussahen. Deepfakes sind eine Form von Gewalt, wie Psychologen versichern.
Doch Juristen mussten feststellen: Diese Art des Übergriffs ist in Spanien, wie fast überall in der Welt, gesetzlich nicht als eigener Straftatbestand geregelt.
Auch Grooming soll als Straftatbestand aufgenommen werden
Das soll sich in Spanien nun ändern. Die links-sozialistische Regierung von Pedro Sánchez hat ein Gesetzespaket vorgestellt, das Deepfakes von Minderjährigen, egal ob Video, Fotos oder auch Tondateien, strafbar macht. Ebenfalls als eigener Tatbestand wird das sogenannte Grooming im Strafgesetzbuch aufgenommen. So bezeichnet man das Erstellen einer falschen Identität im digitalen Raum mit dem Ziel, sich das Vertrauen Minderjähriger zu erschleichen, um einen sexuellen Kindesmissbrauch vorzubereiten. Außerdem wird das Alter, von dem an man ein Konto in sozialen Medien eröffnen darf, von 14 auf 16 Jahre erhöht.
Mit dem Gesetzespaket, das noch der Zustimmung des Parlaments bedarf, setzt Spanien ein Zeichen juristischer Fortschrittlichkeit. Ähnlich war es, als „männliche Gewalt“ als eigener Straftatbestand eingeführt wurde, der in Spanien von besonderen Gerichten und mit speziellen Strafmaßen geahndet sind.
Nun sollen Jugendliche im digitalen Umfeld unter besonderen Schutz gestellt werden. Laut Angaben des zuständigen Justizministers, Felix Bolaños, besitzen Jugendliche in Spanien mit durchschnittlich elf Jahren ihr erstes Smartphone, und die allermeisten sind von diesem Augenblick an in sozialen Netzen aktiv. Aus diesem Grund sollen auch Anbieter von Inhalten – darunter fallen auch Influencer – künftig verpflichtet werden, funktionierende Altersbeschränkungen einzurichten.
Ein anderer Deepfake, der nicht Jugendliche betraf, hatte erst vor wenigen Wochen in Spanien einen diplomatischen Skandal ausgelöst. Die konservative Oppositionspartei hatte ein KI-generiertes Video verbreitet, auf dem Regierungschef Pedro Sánchez sowie weitere Amtsträger mit bloßem Oberkörper vor einem Traumstrand zu sehen waren. „Willkommen auf der Insel der Korruption“ schwadronierte das Video. Blöderweise war die Flagge eines real existierenden Inselstaats zu sehen: die der Dominikanischen Republik. Sánchez entschuldigte sich offiziell bei der Regierung des Karibikstaats für die Entgleisung seiner Kollegen von der Opposition.
