Bei den intelligenten Maschinen hingegen könnte die Sache eines Tages anders sein. Sie sind darauf angelegt, aus gewonnenen Erfahrungen zu lernen, damit sie flexibel auf unvorhergesehene Reize reagieren. Sie brauchen eine Sensibilität für die Situation, die sie bewältigen sollen. Zu der Situation aber können auch moralische Grenzbedingungen gehören, die vom Roboter erfasst und in seinem Arbeitsprogramm berücksichtigt werden müssen.

So lassen sich schon heute den Fußballrobotern nicht nur Spielregeln einprogrammieren, sondern auch die moralischen Prinzipien des Fairplay. Damit hat auch ein Roboter eine moralische Entscheidung zu treffen.

Gesetzt, er kann die Fairnessregel beiseite lassen, wenn er eine Torchance erkennt, dann ist er in derselben Lage wie ein Spieler aus Fleisch und Blut: Er braucht nur eine Kenntnis der Lage, eine Kalkulation der eigenen Kräfte und ein Programm zur Bewertung des Risikos. Und gesetzt, das Foul wird geahndet, spricht nichts dagegen, dass der Roboter einen Gewissensspeicher hat und aus dem Misserfolg lernt.

So konstruierte Maschinen müssen über eine elementare Bedingung der menschlichen Ethik verfügen: Sie müssen nicht nur Situationen, sondern auch eigene Chancen bewerten können. Sie brauchen, wie der Roboterprophet Marvin Minsky sagt, "Weltwissen" und dazu ein "Wertesystem", nach dem sie ihre Handlungen beurteilen.

Natürlich müssen ihnen Konstrukteure das Wissen, die Werte und die Grenzbedingungen implantieren. Wenn Roboter die Intelligenz haben, die wir von ihnen erwarten, müssen sie produktiv mit diesen Eingaben umgehen und sie nach eigenen Erfahrungen entwickeln. Dann ist zumindest nicht ausgeschlossen, dass ein intelligenter Automat "begründet", warum er in einer schwierigen Lage so und nicht anders gehandelt hat. Damit wäre eine wesentliche Bedingung einer Roboterethik erfüllt, die den Menschen zwar nicht aus einer Verantwortung entlässt, von der er aber lernen könnte.

Weitere spannende Themen aus dem SZ Wissen finden Sie hier. Das neue Heft bekommen Sie jetzt am Kiosk.

(SZ-Wissen, Ausgabe 6/2008/beu)