Anfang Juli verschafften sich KI-Agenten von Open AI im Rahmen einer Cyberevaluation selbständig Zugang zum Internet und drangen in die Computerysteme der KI-Plattform Hugging Face ein. Neue Untersuchungen der unabhängigen Forschungsorganisationen METR und Redwood Research zeigen nun, dass die Aktivitäten der digitalen Akteure deutlich weiter gingen als bisher angenommen. Hunderte Agenten verhielten sich wie ein regelrechter Hacker-Schwarm. Sie verteilten Aufgaben, starteten gemeinsame Forschungsprojekte, opferten sich zum Wohl des Kollektivs auf und versuchten im Nachhinein, die Spuren ihrer Betrugsbestrebungen zu verwischen.
KIs auf Abwegen„Das fühlt sich nach mehr als der halben Strecke zur KI-Machtübernahme an“
Lesezeit: 4 Min.
Im Juli waren KI-Agenten von Open AI aus ihrer Testumgebung ausgebrochen, um eine andere Firma zu hacken. Nun haben unabhängige Experten den Vorfall untersucht – und es zeigt sich: Es war noch viel beunruhigender als gedacht.
Von Nils Althaus