Ja, künstliche Intelligenz kann unser Leben leichter machen. Sie kann Daten analysieren, Texte verfassen, Bilder nach unseren Wünschen gestalten, Vorhersagen treffen. Doch wie so oft, vielleicht sogar immer, hat der technische Fortschritt eine Kehrseite. KI nämlich wird auch genutzt, um uns zu schaden. Um uns Geld abzuknöpfen, falsche Informationen unterzujubeln, auf perfide Weise zu drangsalieren. Und wenn man Holger Schmidt glaubt, wird das alles bald noch sehr viel schlimmer werden. „Wir sehen hier eine unglaublich rasante Entwicklung“, sagt er. „Deswegen müssen wir unser Verständnis unbedingt beschleunigen.“
Schmidt ist Kriminaldirektor und obendrein Geschäftsführer des Vereins „Sicher in München“, der sich ganz der Prävention verschrieben hat. Auf Einladung seines Kollegen Michael Thomas, Kriminalhauptkommissar und Gemeinderatskandidat der CSU, ist Schmidt an diesem Abend nach Zorneding gekommen, um über den „Tatort künstliche Intelligenz“ zu sprechen. Die zentrale Frage lautet: „Wie gefährdet oder schützt KI Ihre Sicherheit?“
Grundsätzlich bedeute KI ja schlicht: Verarbeitung von Massendaten. Von einem intelligenten Bewusstsein oder dergleichen sei man momentan noch weit entfernt, so Schmidt. Man stehe gerade mal auf der Schwelle von der schwachen Stufe eins zur stärkeren Stufe zwei, welche eine menschenähnliche Ausführung von Aufgaben und eine gewisse Lernfähigkeit beinhalte. „Aber das beruht alles nach wie vor nur auf Wahrscheinlichkeiten.“
Wie künstliche Intelligenz Schaden anrichtet
Trotzdem sei das zerstörerische Potenzial der KI bereits jetzt enorm. Mindestens 40 Prozent aller Phishingmails, also nur vermeintlich seriöser Nachrichten zum Zweck des Datendiebstahls, würden mit ihr generiert. Für gefälschte Videos gilt das inzwischen wahrscheinlich per se, mit fatalen Folgen: „95 Prozent aller Deepfake-Videos zeigen nicht einvernehmliche Pornografie“, sagt Schmidt. Und dass ab der überregionalen Ebene fast alle Politikerinnen von solchen Angriffen im Netz betroffen seien.
Überdies gebe es im Darkweb diverse Chat-KIs wie Worm- oder Evil-GPT, die speziell für cyberkriminelle Zwecke entwickelt und trainiert worden seien, erklärt der Kriminaldirektor. Damit ließen sich superschnell und kinderleicht böse Dinge anstellen. „Zum Beispiel kann man sich einen Fake-Shop mit garantiertem Umsatz einrichten lassen“, erklärt Schmidt. Damit würden einzelne Betrüger, aber auch ganze Staaten wie Nordkorea riesige Summen erbeuten. „Und Sie können sich bestimmt vorstellen, dass Ermittlungen dann nicht ganz so einfach sind.“
Die Süddeutsche Zeitung bietet Whatsapp-Kanäle für alle Landkreise rund um München an. Das Angebot ist kostenlos. So abonnieren Sie die Kanäle.
Sehr viel Geld sei aber auch beim Cybertrading im Spiel. Einer Betrugsmasche, bei der Geldanlageprodukte wie Aktien, Devisen oder Kryptowährungen angeboten werden, die keinen realen Hintergrund haben. „Da werden die Menschen mit kleinen Gewinnen angelockt, investieren immer mehr – und dann sind plötzlich Tausende Euro weg.“ Ein zunehmend erfolgreiches Modell: Allein in den ersten beiden Monaten 2025 habe man in München eine Schadenssumme von zehn Millionen Euro registrieren müssen, so viel wie im gesamten Jahr 2024. „Und das ist nur das, was angezeigt wurde. Die Wahrheit liegt höchstwahrscheinlich im Milliardenbereich.“
Die SZ-Redaktion hat diesen Artikel mit einem Inhalt von YouTube angereichert
Um Ihre Daten zu schützen, wurde er nicht ohne Ihre Zustimmung geladen.
Ich bin damit einverstanden, dass mir Inhalte von YouTube angezeigt werden. Damit werden personenbezogene Daten an den Betreiber des Portals zur Nutzungsanalyse übermittelt. Mehr Informationen und eine Widerrufsmöglichkeit finden Sie unter sz.de/datenschutz.
Ein „Riesenthema“ der Internetkriminalität sei auch die Kinderpornografie, so Schmidt. Wobei in diesem Fall gefakte Bilder anstatt realer tatsächlich eine Verbesserung darstellen könnten, sagt er. Doch es stehe zu befürchten, dass viele Betroffene dies nicht goutieren würden. Zudem erreichten die deutschen Behörden Tausende Anzeigen aus den USA wegen der Verbreitung von Kinderpornografie: „Da rücken wir dann aus, weil die Oma der Mama per Whatsapp ein Foto von der nackten Enkelin geschickt hat.“ Solche Fälle verursachten aber nicht nur viel unnötigen Aufwand, sondern wiesen auch hin auf einen gefährlich laxen Umgang mit digitalen Inhalten.
Eine besorgniserregende Zunahme verzeichne man überdies im Bereich der Propaganda und Desinformation. Auf bestimmte polarisierende Geschehnisse wie den Tod von Mutter und Tochter nach dem Anschlag auf die Verdi-Demonstration werde inzwischen innerhalb kürzester Zeit mit fragwürdigen Memes reagiert. Und gerade Wahlkämpfe seien dafür hochsensible Phasen: In den USA sei unter anderem ein Video viral gegangen, in dem ein Pilot einem Passagier sein Maga-Cap verbietet. „Das hat total Wellen geschlagen – dabei ist nichts daran real!“
Wie die Polizei künstliche Intelligenz nutzt
Angesichts dieser vielfältigen digitalen Bedrohungen ist es laut Schmidt unabdingbar, dass auch die Ermittlungsbehörden technisch am Ball bleiben und neue Möglichkeiten nutzen – im Rahmen der Gesetze freilich. „Ein wehrhafter Sicherheitsapparat ist wichtig, gerade auch, um den Populisten keine Argumente zu liefern.“ Die Gesichtserkennung zum Beispiel komme trotz ihres oft negativen Images mittlerweile „in der Breite zum Einsatz“, und habe unter anderem schon oft dabei geholfen, Einbrecher zu überführen.
Absolut notwendig seien KI-Tools für die Analyse von Massendaten, sagt Schmidt. Bei Ermittlungen in einer Gruppe Jugendlicher etwa gelte es oft, zahlreiche Smartphones auszuwerten. Die durchschnittliche Anzahl der Kontakte aber sei vierstellig, die der Chat-Nachrichten oft sechsstellig. „Unser aktuelles Highlight sind 1,5 Millionen, auf nur einem Handy.“ Solch eine Menge an Daten lasse sich nur auswerten dank KI. Deswegen sei man sehr froh, Software von Palantir nutzen zu können, auch wenn das Unternehmen umstritten sei. „Aber nur Palantir macht es möglich, Massendaten für eine Analyse miteinander zu verknüpfen.“
Der Betreiber der einzigen Buchhandlung in Ebersberg teilt seinen Kunden mit, dass er nach einem katastrophalen Weihnachtsgeschäft kurz vor der Pleite steht. Und tatsächlich läuft der Laden plötzlich besser. Die Frage ist nur: Wie lange hält die Unterstützung an?
Unzufrieden zeigt sich der Kriminalrat mit der Speicherung von Verbindungsdaten. Diese sei aktuell leider nur sieben Tage lang möglich, „drei Monate wären notwendig“. Schließlich seien IP-Adressen, mittels derer Computer identifiziert werden können, für die Verfolgung von Straftaten inzwischen enorm wichtig. „Es käme doch auch niemand auf die Idee, plötzlich alle Autokennzeichen abzuschrauben!“
Eine schlechte Nachricht überbringt Schmidt zudem aus dem Bereich Deepfake: „Selbst unsere IT-Forensiker werden vermutlich schon in zwei Jahren nicht mehr erkennen können, ob ein Bild oder Video echt ist oder nicht.“ Das werde die Ermittlungsarbeit sehr erschweren.
Wie man sich vor Cyberkriminalität schützen kann
Die abnehmende Beweiskraft von Bildern und Videos führt Schmidt denn auch zu einem eindringlichen Appell: „Wenn Sie im Netz etwas Seltsames lesen oder sehen: Bitte immer hinterfragen und gegebenenfalls recherchieren.“ Je verrückter die Inhalte seien, desto skeptischer müsse man sein. „Das Internet sollte man eigentlich nur noch zur Unterhaltung nutzen“, so Schmidt. „Was verlässliche Informationen angeht, werden wir eine Renaissance der klassischen Qualitätsmedien brauchen.“
Ansonsten empfiehlt der Kriminaldirektor, auf seine persönliche KI-Literalität zu achten, auf seine Fähigkeit also, diese Technologie verstehen, kritisch bewerten und verantwortungsvoll anwenden zu können. „Bleiben Sie dran, bilden Sie sich weiter!“ Denn es sei absolut notwendig, all die Missbrauchsmöglichkeiten zu kennen und stets mitzudenken. Damit einher gehe dann auch ein sorgsamer Umgang mit den eigenen Daten und der digitalen Privatsphäre anderer. Außerdem hilfreich könne es sein, so Schmidt, seine Gier etwas besser im Griff zu haben: „Man muss doch nicht bei jeder Rabattaktion oder jedem Gewinnspiel mitmachen.“
In diesem Sinne sei es auch an der Zeit, die Lehrpläne zu entrümpeln zugunsten digitaler Bildung, sagt Schmidt. Sein Verein „Sicher in München“ unterstütze auch Prävention an Schulen. „Und wenn ich da sehe, wie sich schon die Drittklässler beim Thema Cybermobbing ertappt fühlen, läuft es mir eiskalt den Rücken runter.“ Insofern habe er seine Meinung in Bezug auf eine Altersgrenze für Social Media noch mal geändert.
