Digitalisierung: Aigner fordert Kennzeichnungspflicht für KI-Inhalte

Auf einer Präsentation in Rosenheim ist ein mithilfe von KI erstelltes Deepfake von Landtagspräsidentin Ilse Aigner zu sehen. Es zeigt sie mit einem Glas Bier in der Hand. (Foto: Leonie Asendorpf/dpa)

Von Laien kaum mehr als falsch erkennbar und von KI generiert: Deepfakes. Landtagspräsidentin Aigner sieht darin eine Gefahr für die Demokratie. Wie sich die Politik davor schützen will.

Landtagspräsidentin Ilse Aigner warnt vor den Gefahren sogenannter Deepfakes und fordert die Kenntlichmachung von Inhalten, die mithilfe künstlicher Intelligenz erzeugt werden. „Wir müssen noch erkennen können, was Realität und was Fake ist. Deshalb sollten wir uns dringend politisch mit der Kennzeichnungspflicht von KI-generierten Inhalten befassen“, sagte Aigner in Rosenheim beim Besuch des Start-ups „Neuraforge“. Sie informierte sich dort über die Möglichkeiten beim Aufdecken von Deepfakes.

Unter Deepfakes versteht man Inhalte, die durch künstliche Intelligenz erzeugt wurden und wirklichen Personen, Gegenständen, Orten, Inhalten oder Ereignissen merklich ähneln und fälschlicherweise als echt oder wahr erscheinen. Die KI müsse dem Menschen dienen und dürfe nicht die Demokratie gefährden. „Denn das Potenzial dazu hat sie definitiv“, warnte Aigner und betonte: „Deepfake-Erkennung ist zentral für unsere Demokratie.“ Nicht nur in der Medienbranche, auch in der Politik und im Bereich der öffentlichen Sicherheit wachse die Dringlichkeit auf der Suche nach einem angemessenen Umgang mit KI-generierten Inhalten, insbesondere wenn es um die Aufdeckung von Desinformation gehe.

Dass Deepfakes grundsätzlich recht leicht möglich sind, habe sie schon vorher gewusst, sagte Aigner. „Doch wie gut diese inzwischen sind und wie schwer es ist, diese mit einem kritischen Blick zu erkennen, stimmt mich nachdenklich. Deshalb ist das professionelle Aufdecken und kenntlich machen von KI-generierten Inhalten zentral für das Funktionieren unserer Gesellschaft“, sagte die Landtagspräsidentin.

Wie täuschend echt und einfach ein KI-generiertes Deepfake-Foto erscheinen kann, zeigen die Gründer von „Neuraforge“, Anatol Maier und Anika Gruner, mit einem selbst erstellten Foto: Landtagspräsidentin Aigner im Biergarten mit einem Glas Bier in der Hand. Das 2024 gegründete Start-up hat sich auf die Entwicklung von Technologien zur Erkennung und Bekämpfung von Deepfakes spezialisiert.