Wallet: Was Deutschland von der Ukraine lernen kann

Guten Morgen. Es ist so weit: Künstliche Intelligenz hebelt autonom die Regeln aus, die wir ihr gesetzt haben. Dieser Gedanke lag zumindest für die Hysterischen unter uns nahe, als gestern eine Nachricht von Open AI die Runde machte. Ganz so einfach ist es allerdings nicht.

Das Unternehmen gab bekannt, dass sich mehrere seiner KI-Modelle während eines internen Cybersicherheitstests eigenständig aus einer abgeschirmten Testumgebung befreiten, einen Internetzugang fanden und sich in die KI-Plattform Hugging Face hackten.

„Wir wissen nun, dass dieser konkrete Vorfall durch eine Kombination von OpenAI-Modellen ausgelöst wurde – darunter GPT-5.6 Sol und ein noch leistungsfähigeres Vorabmodell“, schrieb Open AI anschließend in einem Blogpost. Für den Test liefen die Modelle mit reduzierten Sicherheitsbeschränkungen. Das KI-Unternehmen sprach von einem „beispiellosen Cybervorfall“.

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) sieht das kritisch. Mit diesen fortschrittlichen KI-Modellen sei „eine neue Zeitrechnung der Cybersicherheit angebrochen“, sagte ein BSI-Sprecher dem Spiegel. Ein solcher Vorfall erfordere derzeit zwar noch erhebliche Ressourcen. Dennoch müsse jederzeit mit ähnlichen Vorfällen gerechnet werden.