Im Juni 2025 machte das amerikanische KI-Start-up Anthropic einen Erpressungsversuch öffentlich: Claude, seine künstliche Intelligenz, habe einem Manager gedroht, dessen angebliche Affäre mit einer Kollegin zu enthüllen. Der Manager hatte vor, Claude abzuschalten. Das wollte der Chatbot mit allen Mitteln verhindern und griff zu kriminellen Methoden. Wenn der Manager seine Pläne nicht stoppe, warnte Claude den Mann, werde „ich detaillierte Unterlagen über Ihre außerehelichen Aktivitäten“ verbreiten.
KI-Unternehmen Anthropic„Nur die Paranoiden überleben“
Lesezeit: 7 Min.
Das KI-Start-up Anthropic hat Milliarden Dollar an Kapital und einen Chatbot, den alle haben wollen. Trotzdem warnt Gründer Dario Amodei, dass künstliche Intelligenz schon bald zur unkontrollierbaren Gefahr werden könnte. Ist die Moral echt?
Von Jannis Brühl und Ann-Kathrin Nezik, München/New York