Roboter: Die Ablösung des Menschen

Ob im Verkehr, bei Computerspielen oder im Krieg: Weil Maschinen schneller und zuverlässiger als Menschen reagieren, übernehmen sie immer mehr Aufgaben. Welche Folgen hat dieser Verlust an Autonomie?

Mathilda Perez befindet sich auf der Flucht. Sie steigt mit ihrem Sohn Nolan in ein altmodisches Auto - eines, das sie selbst steuern muss. Niemand, der bei klarem Verstand ist, fährt noch solche Wagen, vor allem nicht mit Kindern. Autos, die nicht autonom fahren, sind gefährlich, da Menschen bei Gefahr zu langsam reagieren.

Perez muss es aber tun - denn in Daniel Wilsons Science-Fiction-Roman "Robocalypse" haben sich die Roboter gegen die Menschheit erhoben. Perez hat nur eine Chance zu überleben: Sie muss auf altertümliche Technik vertrauen, die auch ohne Software funktioniert. Dummerweise hat Perez keine Routine mehr darin. Sie sagt: "Ich hasse es. Ich möchte nicht die Kontrolle über das Auto haben. Ich möchte einfach ankommen."

Eine Roboterapokalypse steht uns noch nicht bevor, doch der Roman zeigt schon, wohin der Trend geht: Bereits seit Jahren delegieren die Menschen mehr und mehr Aufgaben an Maschinen und Software. Und das ist eine ebenso zwangsläufige wie zwiespältige Entwicklung.

Die Reaktionszeit von Maschinen ist berechenbar und immer gleich

Das beste Argument für die Maschinen ist ihre Schnelligkeit: Im Straßenverkehr etwa reagiert ein autonomes Bremssystem auf ein Hindernis noch ehe der Mensch auch nur einen Fluch ausstoßen könnte. Beim Militär fliegen Munition und Lenkwaffen schon seit Langem mit Überschallgeschwindigkeit. Die russisch-indische Rakete BrahMos-II, die 2017 in Betrieb genommen werden soll, rast mit 8575 Stundenkilometer etwa siebenmal schneller als jedes Geräusch durch die Luft. Solchen Angriffen lässt sich nur begegnen, wenn Computer die Verteidigung übernehmen. Das israelische System Iron Dome etwa identifiziert feindliche Raketen und schießt sie automatisch mit hoher Treffgenauigkeit ab.

Wie schnell und intelligent Computer reagieren, demonstrierten Programmierer im Februar 2015 anhand des Computerspiels Breakout. Ziel des Spiels ist es, mit dem Schläger einen Ball auf eine Mauer zu lenken, um sie nach und nach zu zerstören. Der Spieler gewinnt das Level, sobald er die Mauer abgeräumt hat. Im Laufe des Spiels wird der Ball schneller.

Die Entwickler des von Google im vergangenen Jahr gekauften Londoner Start-ups DeepMind ließen ihre künstlich intelligente Software auf Breakout los. Zu Beginn spielte sie schlecht. Doch dann begann sie von selber zu lernen. Nach 600 Trainingseinheiten traf die Software den Ball auch noch, als er so schnell über den Bildschirm raste, dass er für einen Menschen kaum noch sichtbar war.

Die Reaktionszeit von Maschinen ist berechenbar und immer gleich, die des Menschen nicht. Schon in der zweiten Hälfte des 19. Jahrhunderts fand der niederländische Physiologe Franciscus Cornelis Donders (1818-1889) heraus, dass sich die menschliche Reaktionszeit verlängert, sobald das Gehirn auch nur einfachste Entscheidungen treffen muss.

In einem von Donders Experimenten sollten Probanden möglichst schnell einen Knopf drücken, sobald ein Licht aufleuchtete. Eine zweite Gruppe von Probanden sollte einen linken oder rechten Knopf drücken, je nachdem ob links oder rechts ein Licht leuchtete. Die Reaktionszeit verzögerte sich bei dieser simplen Aufgabe um durchschnittlich 100 Millisekunden.

Noch länger dauert es, wenn wir nicht auf eine Reaktion eingestellt sind. "Unser Gehirn überwacht zwar permanent unsere Umwelt und erstellt eine mentale Repräsentation dessen, was es wahrnimmt", sagt Thomas Jacobsen, Psychologe an der Helmut-Schmidt-Universität der Bundeswehr in Hamburg. "Auf dieser Basis trifft das Gehirn Vorhersagen über künftige Ereignisse." Wir hören zum Beispiel ein gleichmäßiges Geräusch. Unser Gehirn sagt voraus, wie sich das Geräusch fortsetzen wird. Geschieht dies, ist alles gut.

Ändert sich das Geräusch aber, beginnt ein neuer mentaler Prozess: Das Gehirn muss dann entscheiden, ob die Änderung eine Gefahr bedeutet. "Dafür braucht das Gehirn zwischen 100 und 200 Millisekunden", sagt Jacobsen. Die Reaktionszeit hängt zudem davon ab, ob wir etwas sehen oder hören. Geräusche nehmen wir aus allen Richtungen gleich wahr, aber bei visuellen Reizen erkennen wir Gefahren nur in unserem Sichtfeld von 180 Grad. Wir müssten unseren Blick zunächst scharf ausrichten, um den Reiz zu identifizieren.

"Telefonieren lenkt immer kognitiv ab"

Bei einer sich nähernden Gefahr setzt das Gehirn indes den Körper in Flucht- oder Angriffsbereitschaft: Die Muskulatur wird besser durchblutet, die Blutgefäße ziehen sich zusammen. Die Pupillen weiten sich, die Schweißdrüsen werden aktiver. Das Gehirn schaltet in den schnellen Verarbeitungsmodus: Es blendet störende Details in der Wahrnehmung und bei der mentalen Verarbeitung aus. In einer Stresssituation reagieren Menschen deshalb schneller, aber dümmer. Im Straßenverkehr etwa kann der Fahrer dann schnell bremsen, aber nicht gut entscheiden, wohin er am ehesten ausweichen sollte.

Noch schlechter reagiert man, wen man abgelenkt ist. In den USA statteten Wissenschaftler des Virginia Tech Transportation Institute vor einigen Jahren hundert Autos mit Überwachungskameras aus und beobachteten die Fahrer im Alltag. Dabei zeigte sich: Nebentätigkeiten wie Telefonieren erhöhten das Unfallrisiko deutlich. Am schlimmsten war das Schreiben von SMS, das Risiko erhöhte sich um das 23-Fache. Inzwischen ergaben weitere Studien: Es spielt keine Rolle, ob Fahrer eine Freisprechanlage nutzen oder das Gerät ans Ohr halten. "Telefonieren lenkt immer kognitiv ab", sagt Frederik Diederichs vom Fraunhofer-Institut für Arbeitswirtschaft und Organisation IAO in Stuttgart.

Jedoch besteht ein Unterschied zwischen den noch vor einigen Jahren üblichen Mobiltelefonen und modernen Smartphones: Auf einer richtigen Tastatur konnte man SMS mit etwas Übung auch blind tippen; auf Smartphones mit Touchscreen hingegen schauen Fahrer länger von der Straße weg. Gesetze helfen dabei wenig: In Schweden hat die Regierung eingesehen, dass ein Verbot von Smartphones nicht viel bringt. Die Leute nutzen es trotzdem. Sie halten ihre Geräte im Schoßbereich, um nicht von der Polizei angehalten zu werden. Dadurch sind sie noch viel stärker abgelenkt.

"Die schwedische Devise lautet: Wenn ihr das Gerät nutzt, macht es kurz und im passenden Moment", sagt Diederichs. "Die Ablenkung ist nämlich noch problematischer, wenn sie unerwartet kommt, etwa durch einen eingehenden Anruf oder eine neue Nachricht." Relevant sei zudem der Inhalt der Kommunikation: Ein Streitgespräch lenkt stärker ab als eine sachliche Nachricht.

Die Autohersteller reagieren auf Smartphones, indem sie deren Funktionen in die Informationssysteme der Autos integrieren. Sie verschieben sozusagen die Ablenkung von einem Gerät auf das andere. Diederichs sagt: "Wir müssen realistisch sein: Wenn die Hersteller keine Infosysteme anbieten, weichen die Leute auf das Smartphone aus. Die eingebauten Systeme sind in Bezug auf Ablenkungen im Vergleich immerhin viel besser, weil sie für die Nutzung während der Fahrt optimiert sind." Die Menschen sind sozusagen Smartphone-Junkies - Infosysteme eine Art Ersatzdroge.

So bleibt wieder nur eine sichere Lösung: Das Auto muss im Notfall eben selbst reagieren. Eine automatische Notbremsung gibt es bereits in vielen Modellen. Diese Systeme erkennen Hindernisse und warnen den Fahrer, damit er bremsen kann. Die Warnung erfolgt etwa 2,6 Sekunden vor einer drohenden Kollision. Das würde reichen, um den Kopf vom Smartphone zu heben und die Bremse durchzudrücken. Erst im letzten Moment - etwa eine 1,1 Sekunden vor Aufprall - bremst das Auto autonom, falls der Fahrer nicht reagiert. Die Systeme bremsen so spät, weil die Sensoren ohnehin erst gut funktionieren, wenn sie nahe am Hindernis dran sind.

Müsste der abgelenkte Fahrer auch noch ausweichen, müsste er zunächst vom Smartphone oder Infosystem hoch schauen und sofort eine komplexe Entscheidung treffen - seine Reaktion käme wahrscheinlich zu spät. Daher sollen künftig Autos dem Fahrer mittels Augmented Reality einen fahrbaren Weg auf die Straße projizieren.

Diese Teilautomatisierung ist freilich kein Königsweg. Der Fahrer reagiert nach Warnungen und Hinweisen mitunter schlechter als ein vollautomatisches Brems- und Ausweichsystem - insbesondere wenn er nur Millisekunden vor der automatischen Notbremsung reagiert und ohnehin nichts anderes tun kann, als eine Vollbremsung hinzulegen. Andererseits darf er sich auf sein Auto nicht verlassen. "Die Hersteller informieren zu wenig über die Grenzen dieser Systeme", sagt Diederichs. "Die Fahrer glauben, das tut's schon. Doch bei Dunkelheit und Nässe ist die Fehlerquote zum Beispiel höher als bei optimalen Verhältnissen."

Würde ein Soldat sein Leben riskieren, um eine Maschine zu töten?

Es ist ein Kreislauf: Je schlechter wir reagieren, desto zuverlässiger müssen die Maschinen sein. Je zuverlässiger sie sind, desto mehr verlassen wir uns auf sie - und verlernen, angemessen zu reagieren, falls die Maschinen versagen. Trotzdem führt kein Weg an ihnen vorbei - die Vorteile sind so groß, dass sie die Risiken überwiegen.

Nirgendwo ist das so sichtbar wie in der modernen Kriegsführung. Roboter, die auf Gefahren blitzschnell reagieren, sind für Streitkräfte besonders reizvoll. Idealerweise arbeiten die Maschinen autonom - und zögern nicht. Ein System, dass automatisch die Schüsse eines Scharfschützen identifiziert, kann sofort in seine Richtung feuern. Ein Mensch müsste erst die Richtung ausmachen und überlegen, ob er zurückschießen soll oder nicht. Selbst bei erfahrenen Soldaten dauert die Reaktionszeit so lange, dass der Feind in Deckung gehen kann.

Der amerikanische Politikwissenschaftler Peter Singer zitiert in seinem Buch "Wired for War" einen Rüstungsexperten der US-Streitkräfte, der von autonomen Waffen schwärmt: "Jeder, der auf uns schießt, würde sterben. Damit steigt der Einsatz im Krieg: Würde ein Feind sein Leben noch riskieren, um eine Maschine zu töten. Ich schätze, nein!"

Die kurze Zeitspanne, in der ein Soldat überlegt, wie er reagieren soll, möchten Menschenrechtler hingegen erhalten. Im Zweifelsfalle rettet die Verzögerungszeit Leben. "Selbst bei ferngesteuerten Drohnen entscheiden Menschen mit Urteilsvermögen und Mitgefühl über Leben und Tod", sagt Bonnie Docherty von der Organisation Human Rights Watch, die sich für ein Verbot von autonomen Killerrobotern einsetzt. "Auch wenn autonome Waffen präziser sind: Entwickler werden kaum die Urteilskraft eines Menschen nachbilden können." Hinzu komme, dass viele Menschen es abscheulich fänden, wenn Maschinen über Leben und Tod entscheiden und niemand zur Verantwortung gezogen werden könne, wenn ein Roboter fälschlicherweise einen Zivilisten töte.

Doch ähnlich wie im Straßenverkehr ist die weitere Automatisierung bei den Streitkräften nahezu unvermeidlich: Roboter werden auf Roboterangriffe reagieren, da die Geschwindigkeit auf beiden Seiten zunimmt. Ein Oberst der US-Streitkräfte sagt: "Wenn die Reaktionsschleifen kürzer und kürzer werden, bleibt keine Zeit mehr für einen Menschen dazwischen."