Wenn man Lorenz Meier zu den Grenzen von KI im Krieg fragt, fängt er mit Pfeil und Bogen an. Der Fortschritt sei erst einmal immer erschreckend gewesen, sagt der Chef der Drohnensoftware-Firma Auterion. Bogenschützen im Mittelalter seien Aufzeichnungen zufolge als unethisch empfunden worden. Sie griffen den Feind ja nicht aus der Nähe an, sondern schossen aus der Ferne. Heute sei wieder so ein Punkt in der Geschichte der Menschheit erreicht. Doch er sei da Technologieoptimist.
Ein Rüstungschef, der von der Logik des Fortschritts spricht. Der philosophiert über den Hang der Menschheit zum Kriegerischen, der Abschreckung nun mal unabdingbar mache. „Wir müssen die Kosten eines Angriffskrieges durch unsere Technik so hochtreiben, dass er volkswirtschaftlich nicht mehr machbar ist“, sagt Meier. Technologisches Wettrüsten als Abschreckung also. Dafür entwickelt seine Firma Software für autonome Fluggeräte und sogenannte Drohnenschwärme. Auterion hat Aufträge von den USA, Deutschland, der Ukraine und den Niederlanden. Das Geschäftsmodell: Lokale Drohnenhersteller liefern die Hardware, Auterion die Software.
Doch wer setzt die ethischen Standards für diese neuen, teils autonomen Waffen? Staaten oder die Unternehmen? Und was, wenn ein Unternehmen mit der kriegerischen Nutzung seiner eigenen Technologie nicht einverstanden ist?
Diese Fragen führten jüngst zum Streit zwischen dem KI-Unternehmen Anthropic und dem US-Verteidigungsministerium. 2025 schlossen beide einen Vertrag über mehr als 200 Millionen Dollar. Als die USA die Technologie für Kampfeinsätze in Venezuela und dem Wall Street Journal zufolge auch an diesem Wochenende in Iran eingesetzt haben soll, kam es zur Eskalation. Anthropic-Chef Dario Amodei sagte, in manchen Fällen könne KI „die demokratischen Werte eher untergraben“, statt sie zu verteidigen. Weil Amodei dem „Kriegsministerium“ nicht den schrankenlosen Einsatz seiner Technologie erlauben wollte, beschimpfte Trump dessen Firma schon als Ansammlung „linker Spinner“. Verteidigungsminister Pete Hegseth stufte das Unternehmen als „Lieferketten-Risiko“ ein – das dürfte die Firma Aufträge kosten.
Auterion-Chef Meier ist eher auf Seite der US-Regierung. „Anthropic schränkt die Nutzung bereits entwickelter Technologie ein, die in ihrer Natur zivil ist, sich aber militärisch nutzen lässt, – und stellt sich damit über den Souverän. Das ist zutiefst undemokratisch.“
Hinter Meier hängt im Videocall ein Plakat, auf dem die Umrisse der Isar und die Koordinaten von München zu sehen sind. Dort hat Auterion einen Standort, der Hauptsitz liegt aber in Arlington im US-Bundesstaat Virginia. Meier hat die Firma 2017 gegründet, damals noch in der Schweiz. „Wir wollen das Android für Drohnen werden“, sagt sein Technologiechef Markus Achtelik, er meint Googles erfolgreiches Handy-Betriebssystem. Bisher kontrolliert Auterion 60 bis 70 Prozent des Marktes. Es hat nur einen ernsthaften Wettbewerber, das US-Unternehmen Anduril. Besteht die Gefahr zu großer Marktmacht?
„Der natürliche Zustand des Universums ist, dass es in einem Markt zwei große Anbieter für Software gibt. Schauen Sie sich Apple und Android an“, sagt Meier. Man missbrauche die eigene Marktmacht aber nicht, um selbst über Richtig und Falsch zu entscheiden, sagt der Auterion-Chef. „Software-Unternehmen haben in den vergangenen 20 Jahren selbst angefangen, Ethik zu definieren. Das ist nicht in Ordnung. Das grunddemokratische Prinzip ist, dass die Bürger die Ethik definieren.“
Maschinen kämpfen gegen Maschinen, sterben so weniger Menschen im Krieg?
Doch sieht die Sache nicht ein wenig anders aus, wenn es um militärische Nutzung geht? So argumentieren Anthropic, sowie 220 Beschäftigte seiner Konkurrenten Open AI und Google. Sie alle warnen ihre Unternehmen per Petition, KI nicht ohne jegliche Einschränkungen an das Verteidigungsministerium zu übergeben. Sarah Shoker, ehemalige Leiterin des Geopolitik-Teams bei Open AI, kritisiert, dass führende KI-Unternehmen noch immer keine klaren Richtlinien zur militärischen Nutzung ihrer KI haben. Selbst Open-AI-Chef Sam Altman, der so etwas wie Amodeis Nemesis ist, sprang dem Konkurrenten zur Seite und hinterfragte den „äußerst beängstigenden Präzedenzfall“.
Wie Anthropic hat auch Auterion Verträge mit dem US-Verteidigungsministerium. Wie beantwortet Meier ethische Fragen? „Wir haben bei Auterion eine sehr klare Linie: Wir werden unsere Technologie nicht demokratischen Institutionen vorenthalten, die die Freiheiten schützen, die wir genießen.“ Ein klares Bekenntnis, westlichen Regierungen keinen Ärger á la Anthropic zu machen.
Viele weitere ethische Fragen kreisen um Drohnen und KI im Krieg. Darüber diskutiert Auterions Technikchef Achtelik an diesem Dienstag auf dem Digitalgipfel der SZ in München mit der Rüstungstechnik-Expertin Anna Wojtas und Sven Weizenegger vom Cyber Innovation Hub der Bundeswehr. Etwa über die Frage, was passiert, wenn durch KI-Drohnen Kriege immer schneller werden. Schafft die Menschheit dadurch eine Eskalationsgefahr, die sie irgendwann nicht mehr selbst bändigen kann? Oder kann die Technologie im Gegenteil dazu führen, dass weniger Menschen auf dem Schlachtfeld sterben müssen – weil meist Maschine gegen Maschine kämpft?
Fragt man Lorenz Meier dazu, kommt er wieder auf die Philosophie des Fortschritts zu sprechen. „Die Geschwindigkeit der Informationsverarbeitung hat schon immer zugenommen, sowohl im zivilen als auch im militärischen Bereich. Wir konnten bisher damit umgehen und werden es auch weiterhin können.“ Weniger Optimismus vom Chef einer Drohnensoftware-Firma wäre in diesen Zeiten auch eher verwunderlich.