Das KI-Unternehmen Anthropic hat nach eigenen Angaben in den vergangenen acht Monaten mehrere Fälle von missbräuchlicher Nutzung seines KI-Modells Claude unterbunden. Dazu zählten eine mutmaßlich von Russland gesteuerte Cyberspionage-Kampagne sowie Versuche chinesischer KI-Firmen, die Fähigkeiten von Claude zu kopieren. Cyberkriminelle und staatliche Hacker nutzten KI zunehmend nicht nur zur Unterstützung, sondern zur Steuerung und Ausführung ganzer Cyberangriffe, hieß es in dem Bericht des Unternehmens vom Donnerstag.
Demzufolge hat Anthropic Angriffe von sieben chinesischen Laboren gestoppt, auch von den Technologieriesen Alibaba, Moonshot, Deep Seek und Xiaomi. Mitarbeiter, die Alibaba zugeordnet werden, sollen den größten Angriff dieser Art ausgeführt haben, um die Fähigkeiten von Claude für die Verbesserung der hauseigenen Qwen-Modelle zu nutzen.
Kleinere KI-Modelle werden dabei mit den Ergebnissen größerer, teurerer Modelle trainiert, um die Entwicklungskosten zu senken. Zwischen Mai und Juli 2026 hat Anthropic, wie es berichtet, mehr als 151 Millionen solcher Interaktionen von über 3500 als betrügerisch eingestuften Konten festgestellt. Die Entwickler der Chatbots Kimi (Moonshot) und Deep Seek sollen Live-Gespräche von Kunden, die teils sensible Informationen enthielten, in Claude eingespeist und dessen Antworten als Trainingsdaten verwendet haben.
Eine Hackergruppe, deren Vorgehen mit der russischen Gruppe „Midnight Blizzard“ übereinstimmt, soll mithilfe der KI Angriffe auf Ziele in der ukrainischen Regierung, im Militär und im diplomatischen Sektor verübt haben. Die US-Regierung hat „Midnight Blizzard“ bereits früher mit dem russischen Auslandsgeheimdienst SWR in Verbindung gebracht.
Die Gruppe soll ein System entwickelt haben, das automatisch erkennt, wenn seine Schadsoftware von Sicherheitssystemen entdeckt wird, und den Code so lange umschreibt, bis er wieder unentdeckt bleibt. Zudem identifizierte Anthropic weitere Akteure, die Claude zur Entwicklung von Software für konventionelle Waffen wie Schusswaffen, Raketen und bewaffnete Drohnen missbrauchen.
Jacob Klein, Leiter der Bedrohungsanalyse bei Anthropic, sagte in einem Interview, dass die Modelle im vergangenen Jahr leistungsfähiger geworden seien, was neue Risiken mit sich bringe. „Vor einem Jahr wären die Modelle für eine Aufgabe wie die Optimierung einer Drohne oder der Software einer Rakete einfach nicht so gut gewesen wie heute“, sagte er. Anthropic habe auch Aktivitäten aufgedeckt, die dem Cybercrime-Kollektiv „Shiny Hunters“ zugerechnet werden.
