Digitale Finanzsysteme unter Druck

Guten Morgen. Jeder kann in Zeiten von generativer KI mit wenigen Klicks Deepfakes erstellen und diese anschließend im Internet verbreiten. Wie Jerrit Schloßer in der SZ schreibt, trauen sich einer Umfrage der Universität Leipzig zufolge nur etwa ein Viertel der Befragten zu, einen Deepfake selbst zu erkennen.

Für Aufregung gesorgt hat am Wochenende eine Software, die zeitweise für die Erstellung solcher Fälschungen zweckentfremdet werden konnte: Google Earth. Der US-Konzern hatte seinen Bildgenerator Nano Banana 2 in Google Earth integriert. Nutzerinnen und Nutzer konnten per Texteingabe erfundene Elemente wie zerstörte Gebäude oder Militärfahrzeuge in reale Satelliten-, Luft- und 3D-Aufnahmen einfügen und diese Bilder anschließend weiterverbreiten.

Tests von BBC Verify zeigten, dass sich Schutzvorgaben teilweise umgehen ließen und Erkennungssysteme manipulierte Aufnahmen nicht immer zuverlässig identifizierten. Google hat die Funktion deshalb gestoppt und will sie erst nach der Einführung stärkerer Schutzmechanismen wieder anbieten.

Seit gestern gelten übrigens die neuen Transparenzpflichten des AI Act: Anbieter müssen die Ausgaben ihrer generativen KI-Systeme künftig mit einer maschinenlesbaren Markierung versehen – etwa in Form eines digitalen Wasserzeichens. Für Anwendungen, die schon vor dem 2. August in Verkehr gebracht wurden, muss das erst bis zum 2. Dezember erfolgen.