Während die Debatte um die Sicherheit von KI-Systemen im Silicon Valley und darüber hinaus recht erhitzt geführt wird und manch einer die Auslöschung der Menschheit befürchtet, sieht sich die deutsche Wirtschaft bereits heute mit konkreten Gefahren jenseits wildgewordener KI-Agenten konfrontiert.
Rund jedes sechste Unternehmen berichtet von bestätigten oder vermuteten Cyberangriffen beziehungsweise Betrugsversuchen mit KI-Bezug in den vergangenen zwölf Monaten. Das geht aus einer Studie zu KI und Cybersicherheit in Unternehmen hervor, die das Meinungsforschungsinstitut Forsa im Auftrag des TÜV-Verbands und des Bundesamts für Sicherheit in der Informationstechnik (BSI) erhoben hat.
„Wir gehen davon aus: Dahinter ist auch eine sehr große Dunkelziffer“, sagte Thomas Caspers, Vizepräsident der Cyberbehörde BSI, am Donnerstagmorgen in Berlin. Man stehe sicherlich nicht am Rande des Weltuntergangs. „Dennoch verändert KI die ohnehin extrem angespannte Cybersicherheitslage“, sagte Caspers. Der Präsident des TÜV-Verbands, Dirk Stenkamp, warnte, KI könne auch sensible Daten preisgeben oder Entscheidungen auf Grundlage falscher Informationen treffen.
Vier Prozent berichteten ausschließlich von bestätigten Vorfällen, elf Prozent ausschließlich von Verdachtsfällen. Bei zwei Prozent gab es beides. Neun von zehn betroffenen Betrieben nannten täuschend echte Phishing-Mails, die dank künstlicher Intelligenz schnell und automatisiert auf die Opfer zugeschnitten werden können.
Mit diesen E-Mails können Angreifer persönliche Daten abgreifen und diese dann für weitere Attacken nutzen. Vier von zehn betroffenen Unternehmen beobachteten automatisierte Angriffsprogramme, die selbständig nach Schlupflöchern in ihren Systemen suchten und sich dabei dynamisch anpassten.
Vorbereitung: mangelhaft
Das Angriffswerkzeug KI sei in der Regel schwer zu erkennen, sagte Caspers. Man müsse dabei versteckte Muster suchen. „Wir wissen aber: Cyberangriffe werden jetzt schon vollautomatisiert durchgeführt und im Rahmen dieser Automatisierung kommt auch künstliche Intelligenz zum Einsatz“, sagte er. Wenn der Mensch sie beauftrage, tue KI dann auch alles Mögliche, um ihr Ziel zu erreichen.
Die Befragung zeigt zugleich: Deutschlands Wirtschaft ist darauf nur unzureichend vorbereitet. Nur etwa jedes zehnte Unternehmen mit bestehender oder geplanter KI-Nutzung verfügt über eigene Prozesse für Sicherheitsvorfälle mit KI-Bezug. Ein Viertel dieser Unternehmen hat dafür bislang gar keine Regelung.
Dabei nimmt die Nutzung von KI zu, wie auch die Zahlen aus der Studie zeigen. Knapp die Hälfte aller Unternehmen setzt KI heute schon ein – neun Prozent planen es innerhalb der nächsten zwölf Monate. Der Großteil setzt dabei auf fertige Lösungen wie Chat-GPT von Open AI oder Microsoft Copilot.
Zuletzt hatte auch Bundesdigitalminister Karsten Wildberger (CDU) im Interview mit SZ Dossier gefordert, Europa dürfe sich in der Debatte über KI-Sicherheit nicht „nur philosophisch beteiligen“, sondern müsse diese aktiv mitgestalten. Eines der größten Risiken sei, dass die Technologie „gegen uns verwendet“ werde.
Um die KI-Sicherheit zu verbessern, hat die Bundesregierung das AI Safety and Security Institute Deutschland (AISI) ins Leben gerufen. Es soll künftig Modelle analysieren und die Regierung beraten und befindet sich derzeit in einer ersten Phase, an der auch das BSI beteiligt ist. Auch der TÜV-Verband will beim AISI einbezogen werden: Die Sicherheitsbewertung dürfe nicht mehr allein bei den Tech-Konzernen liegen.
Es braucht Leitplanken
Neu ist die Debatte nicht. KI-Systeme werden seit Jahren in der Cybersicherheit eingesetzt. Da die Angreifer ohnehin verstärkt auf Automatisierung setzen, bietet sie sich auch in der Verteidigung an. Mit dem „Cyberdome“ plant auch die Bundesregierung eine breitere Initiative. Doch laut der Studie setzt nicht einmal jedes dritte KI nutzende Unternehmen selbst KI ein, um die eigene Cybersicherheit zu verbessern.
KI-Agenten, die weitgehend autonom handeln, sind laut der Studie kaum verbreitet. Nur fünf Prozent der Betriebe, die KI bereits nutzen, setzen sie ein. Viele fürchten Fehlentscheidungen, Datenabfluss oder ungewollte Aktionen solcher Systeme. Interessant ist auch: 42 Prozent der Unternehmen setzen gegenwärtig keine KI ein und wollen dies auch künftig nicht tun.
Die Gründe sind einschlägig: fehlender Nutzen oder mangelndes Wissen im Unternehmen, hohe Kosten oder rechtliche Unsicherheiten. Und: Datenschutz- und Sicherheitsbedenken. „Wir sind noch nicht in dem Zeitalter angekommen, in dem wir KI für das einsetzen, wo sie sinnvoll ihre Anwendung finden wird“, sagte Caspers. Es sei allerdings der richtige Zeitpunkt gekommen, um die Leitplanken so zu setzen, dass die KI-Nutzung wirklich sicher bleibe.
