Rangeflanscht
Danke für Ihren Warnruf. Leider wird viel unter KI subsumiert. Und zweifelsfrei kommt die von Ihnen genannte große Gefahr aus den Claude-Produkten von Anthropic. Und zwar wegen der Funktionalität namens „Computer Use“ – ein Flansch an das eigentliche Produkt. Damit wird ein Wirken nach außen ermöglicht – fatal: Damit kann alles angestoßen werden, was über einen PC geschehen kann. Und das ist neu. Aber das hat mit der KI-Technologie überhaupt nichts zu tun. Die Gefahr steckt in denen, die den Claude-GPT (Generative Pretrained Transformer) mit seiner KI so nutzen, dass dergleichen geschieht. Nicht der Pkw oder der Motor töten das Unfallopfer, sondern der Fahrer.
Jörg Rechner, Diplom-Informatiker, München
Projekt „Glasswing“
Wenn es schon die Metapher der KI als neuer Nukleartechnik gibt, dann sollte man gleich bedenken, dass sie beim Militär als Waffe entwickelt wurde. KI könnte dabei ebenso verbreitet werden wie Nukleartechnik: wenn nicht auf legalem Weg, dann illegal.
Und wie kann man dann die Technik kontrollieren? Ob Regulierung oder ein Deal der richtige Weg zu KI-Sicherheit ist, sei dahingestellt. Wenn die Dinge einmal existieren, kann man sie nie wieder loswerden.
Und es kommt die Frage auf: Soll der Staat dafür sorgen, dass Technologien verantwortungsvoll eingesetzt werden? Oder soll er manche Technologien komplett verbieten? Yoshua Bengio hat LawZero, eine Non-profit-Organisation zur Förderung von Safe-by-Design-KI, gegen gefährliche KI-Eigenschaften gegründet.
Fortgeschrittene KI-Modelle verbessern sich laufend selbst, werden immer komplexer, sodass die Hoffnung auf einer zu entwickelnden KI liegt, die Sicherheitsrisiken bei anderer KI erkennen und reduzieren kann. Dies ist das Ziel des Programms Safeguarded AI der britischen Organisation „Advanced Research and Invention Agency“ (ARIA), der Yoshua Bengio im August 2024 als wissenschaftlicher Direktor beitrat.
Diese Problematik ist offensichtlich so schwerwiegend, dass die großen Tech-Firmen es nicht dem Staat, das heißt dem US Center for AI Standards and Innovation (CAISI), überlassen, sondern sie haben ein Konsortium gebildet, um die Problematik zu bewältigen. Im April 2026 wurde das Projekt „Glasswing“ angekündigt, eine neue Initiative, die Amazon Web Services, Anthropic, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, the Linux Foundation, Microsoft, Nvidia und Palo Alto Networks zusammenbringt in dem Bemühen, die weltweit kritischste Software zu sichern.
Igor Fodor, München
Hinweis
Leserbriefe sind in keinem Fall Meinungsäußerungen der Redaktion, sie dürfen gekürzt und in allen Ausgaben und Kanälen der Süddeutschen Zeitung, gedruckt wie digital, veröffentlicht werden, stets unter Angabe von Vor- und Nachname und des Wohnorts. Schreiben Sie Ihre Beiträge unter Bezugnahme auf die jeweiligen SZ-Artikel an forum@sz.de. Bitte geben Sie für Rückfragen Ihre Adresse und Telefonnummer an. Postalisch erreichen Sie uns unter Süddeutsche Zeitung, Forum & Leserdialog, Hultschiner Str. 8, 81677 München, per Fax unter 089/2183-8530.