bedeckt München 10°

Zusammenarbeit mit US-Militär:Krieg steckt in der DNA des Silicon Valley

A U.S. airman guides a U.S. Air Force MQ-9 Reaper drone as it taxis to the runway at Kandahar Airfield, Afghanistan

Im Kampfeinsatz: eine Drohne namens "Reaper" der US-Air-Force in Kandahar, Afghanistan.

(Foto: Josh Smith/Reuters)
  • Zahlreiche Konzerne aus dem Silicon Valley arbeiten eng mit dem US-Militär zusammen. Es geht um Verträge in Milliardenhöhe.
  • Auch Google arbeitete an einem Algorithmus, der Drohnen helfen sollte, Kampfziele automatisch zu erkennen.
  • Der Protest Tausender Google-Mitarbeiter führte nun jedoch dazu, dass der Konzern den Vertrag mit dem Pentagon nicht mehr verlängert.

Von Jannis Brühl

Die Maschinen können sehen, aber sie kapieren noch nicht, was sie da sehen. Irgendwo im Nahen Osten fliegen Drohnen der US-Armee über die Wüste und filmen unermüdlich. Spezielle Software soll auf den Aufnahmen Menschen, Autos, Gebäude und Waffen erkennen - ohne menschliche Hilfe. Aber in den Testflügen lagen die Computer Ende 2017 nur in etwa 60 Prozent der Fälle richtig. Um diese Quote zu verbessern, hat das Verteidigungsministerium Google an Bord geholt - und damit einen Aufstand im Silicon Valley ausgelöst. Wenn es darum geht, Menschen von fliegenden Robotern zerfetzen zu lassen, entdecken auch die zuletzt oft als moralfrei gescholtenen Programmierer aus Kalifornien ihr Gewissen.

Zwölf Angestellte von Google haben aus Protest gegen den Deal gekündigt, 4000 eine Petition unterschrieben, in der gefordert wird, die Zusammenarbeit mit dem Pentagon zu beenden. Darin heißt es, Google habe im "Business des Krieges" nichts verloren. Der Mitarbeiter-Aufstand gegen das sogenannte Projekt Maven ist erfolgreich: Google verzichtet darauf, den Vertrag mit dem Pentagon zu verlängern.

Maven ist auch bekannt als "Team für algorithmische Kriegsführung" im Pentagon. Die Abteilung soll die amerikanischen Kriegssysteme mit künstlicher Intelligenz (KI) stärken. Automatische Bilderkennung soll die mühsame Identifizierung von Objekten am Boden beschleunigen. Auffälligkeiten wie Waffenlager oder Menschen in Panik in diesen Bildern zu finden, kostet viel Zeit. Colonel Drew Cukor, im Verteidigungsministerium zuständig für das Projekt, erklärte 2017: "Wir hoffen, dass am Ende ein Analyst doppelt oder gar dreimal so viel Arbeit wie jetzt erledigen kann."

Im ersten Schritt gehe es darum, 38 Klassen von Objekten maschinell identifizieren zu lassen, "vor allem im Kampf gegen den Islamischen Staat in Irak und Syrien". Dafür nutzt das Pentagon nun Googles Software-Werkzeugkasten namens Tensorflow. Wenige Programme für "tiefes Lernen" sind so weit fortgeschritten. Künstliche neuronale Netze, die aufeinandergeschichtet sind, verinnerlichen, wie eine Katze oder andere Inhalte von Bildern aussehen. Dazu müssen sie mit großen Mengen von Informationen gefüttert und trainiert werden.

Tensorflow ist zwar quelloffen, kann also von jedem genutzt werden. Doch Google stellt dem Pentagon Spezialisten zur Verfügung, um es für die Zwecke des Militärs anzupassen. Das Ministerium zahlt im ersten Jahr fast 70 Millionen Dollar. Der Suchmaschinen-Konzern verfügt nicht nur über hochkarätige Forscher, sondern auch über einen gigantischen Datenschatz. Der ist besonders viel wert, wenn es um Maschinenlernen geht. Je mehr und je genauere Daten, umso besser lernen die Algorithmen. Am Ende sollen die Maschinen selbst eine "Wahrnehmung" entwickeln, die der von Soldaten überlegen ist.

Die UN erwägen, "Killerroboter" zu verbieten

Dass Software auf einem Bild ein Ölfass oder einen Mann zwischen 20 und 30 erkennen kann, mag für sich gesehen harmlos wirken. Die Objekterkennung, die Google nun mit dem Pentagon weiterentwickelt, ist aber für die autonomen Kampfdrohnen der Zukunft essenziell, damit die nicht wahllos durch die Landschaft ballern. Der Streit über Project Maven findet vor dem Hintergrund der Furcht vor vollautomatischen "Killerroboter" statt, die in wenigen Jahren entwickelt sein dürften. Die Vereinten Nationen erwägen, die Waffen prophylaktisch zu verbieten, so wie es die Staatengemeinschaft in den Neunzigern mit tückischen Laserwaffen getan hat, die Soldaten das Augenlicht rauben.

Wie schlechtmöglichstes Timing wirkt da, dass Googles Weltverbesserer-Motto "Don't be evil" im Verhaltenskodex des Konzerns vom ersten zum letzten Satz wurde, als der Konzern das Manifest kürzlich überarbeitete. Dass Maven Ärger auslösen könnte, war hochrangigen Mitarbeitern bewusst. Google machte seine Mitarbeit nicht selbst öffentlich. In der internen Mail einer KI-Expertin vom Herbst, über die die New York Times zuerst berichtete, hieß es: "Vermeidet jegliche Erwähnung von KI, UM JEDEN PREIS."

Das Pentagon betreibt ein Investment-Vehikel mitten im Silicon Valley

US-Drohnen werden auch eingesetzt, um Menschen zu töten, die gerade gar nicht an Kampfhandlungen teilnehmen. Ob das mit dem Völkerrecht vereinbar ist, ist umstritten. Rechtsberater und Entscheider, teils bis hinauf zum US-Präsidenten, sind in den Prozess bis zum Feuer-Befehl eingebunden. Stefan Oeter, Professor für Völkerrecht an der Universität Hamburg, sagt: "Die Auswahl der Ziele hängt stark mit persönlichen ethischen Bewertungen zusammen, und es gibt zu Recht starke Bedenken, das an künstliche Intelligenz auszulagern." Das hatten auch die Google-Mitarbeiter in ihrem Brief betont: "Diese Technologie zu bauen, um der US-Regierung bei militärischer Überwachung zu helfen und möglicherweise tödlichem Ausgang, ist nicht akzeptabel."

Auch andere IT-Konzerne wollen mit dem Militär ins Geschäft kommen. Amazon dient dem Pentagon seine Gesichtserkennungs-Software an. Microsoft hat sich einen Auftrag der CIA gesichert, dem Geheimdienst eine ultrasichere Cloud für seine Daten zu bauen. Der große Preis heißt aber Jedi (Joint Enterprise Defense Infrastructure). Unter diesem Namen will das Pentagon eine gigantische Cloud-Struktur aufbauen. Über die soll irgendwann das gesamte US-Militär vernetzt sein. Der Auftrag ist bis zu zehn Milliarden Dollar wert. Unter anderem sind Google, Amazon, Microsoft, IBM und Oracle im Rennen. Ziel ist ein gigantisches "Nervennetz" für die Armee, das Kampfjets mit Kreuzern, Kampfrobotern und "Cyberkriegern" in den Basen verbindet. Ein Netz, in dem die Daten vor Hackern fremder Mächte sicher sind. Die Militärs träumen davon, über Sensoren und künstliche Intelligenz in der Cloud Munition, Reparaturteile und Benzin-Füllstände von Fahrzeugen live zu erfassen und die Ressourcen so perfekt auf dem Schlachtfeld zu verteilen.

Macht der stärksten Armee mit jener der reichsten Konzerne verschmelzen

Der Krieg steckt in der DNA des Silicon Valley. Die militärische Forschungsbehörde Darpa ermöglichte die Entwicklung der Urform des Internets wie auch der Technologie hinter Apples virtuellem Assistenten Siri. Googles erfolgreiches Kartenprogramm Maps basiert auf der Software Keyhole, die vom Investment-Arm der CIA gefördert wurde.

Durch besondere Staatsferne fiel Google nie auf. 2013 schrieb Eric Schmidt, damals Chairman des Konzerns, in seinem Buch "Die Vernetzung der Welt" unter Verweis auf den berühmten Kampfjet- und Raketenbauer: "Was Lockheed Martin im 20. Jahrhundert war, werden Technologie- und Cybersicherheits-Unternehmen im 21. sein." Scharfe Kritik an der Kooperation von Google und dem Staat gab es schon damals. Wikileaks-Gründer Julian Assange beschrieb 2014 nach einer Recherche, wie verzahnt der Konzern mit dem Außenministerium unter (Assanges Erzfeindin) Hillary Clinton war. Schmidt und andere Google-Größen bastelten an einem Netzwerk aus Think Tanks, NGOs und Außenpolitikern.

Das Pentagon investiert über sein Investment-Vehikel DIUx selbst in Technologie-Start-ups. Es sitzt in Mountain View mitten im Silicon Valley und soll die Erfolge von Darpa mit dem modernen Einsatz von Wagniskapital wiederholen. Eine der ersten geförderten Entwicklungen ist ein Funkgerät, das Soldaten in Afghanistan auf ihren Zähnen tragen und das Klang über ihre Knochen überträgt. So versucht das Pentagon, sich Ideen in frühen Entwicklungsstadien zu sichern. Die Kooperation mit Konzernen wie Google ist problematischer: Es geht darum, die Macht der stärksten Armee der Erde mit jener der reichsten Konzerne zu verschmelzen.

"Vielen fehlt das Reflektieren, was die ethische Dimension ihrer Arbeit angeht"

Lange hinkte das Militär in Sachen Computertechnik hinterher. Bedenken gegen die Digitalisierung waren groß. Google lobbyierte, auch auf ganz persönlicher Ebene. General Raymond A. Thomas erzählte im April auf einer Konferenz in Florida, dass Eric Schmidt vor zwei Jahren während einer gemeinsamen Autofahrt auf ihn eingeredet habe: "Ich könnte jedes eurer schlimmen Probleme lösen, mit hoch entwickelten Algorithmen und Mathematik." Er sei kurz davor gewesen, Schmidt aus dem Auto zu werfen, sagte Thomas der Tampa Bay Times zufolge. Aber dann musste er sich eingestehen, dass Schmidt nicht Unrecht hatte. Mittlerweile steht Schmidt dem "Defense Innovation Board" vor, das das Pentagon zu Technologiefragen berät.

Die Furcht des Verteidigungsministeriums, den Anschluss zu verpassen, wird auch durch die Fortschritte Chinas bei Drohnenschwärmen und künstlicher Intelligenz geschürt. Die Nähe von chinesischem Staat und dortigen IT-Konzernen wie Alibaba und Tencent beunruhigt auch Volker Wulf, Professor für Wirtschaftsinformatik an der Universität Siegen. Er hat einen offenen Brief von Forschern an Googles Chef mit unterschrieben und sagt: "Im Westen sind wir von China nicht weit entfernt. Wir bauen genau dieselben Strukturen auf, nur in anderer politischer Lage." Wulf hat selbst in Stanford geforscht, wo die Tech-Elite ausgebildet wird, und sagt: "Das sind Leute, die sind sehr nett und politisch eher linksliberal, aber vielen fehlt das Reflektieren, was die ethische Dimension ihrer Arbeit angeht."

© SZ vom 02.06.2018/bbr
Zur SZ-Startseite

Lesen Sie mehr zum Thema