bedeckt München 21°

Wissenschaftlicher Aufruf:Rahwan will Daten anbieten, keine moralischen Antworten

"Die Ergebnisse decken sich weitgehend mit den vorgefassten Meinungen, die wir über verschiedene Kulturen haben", sagt Rahwan. "In Ländern mit ausgeprägtem Rechtsbewusstsein wie Deutschland überfahren die Leute eher mal jemanden, der bei Rot über die Straße geht. Kinder wollen alle schützen, nur in asiatischen Ländern mit hohem Traditionsbewusstsein und kollektivistischen Gesellschaften, wo der Respekt vor Älteren stärker ausgeprägt ist, nicht ganz so stark." In den Leistungsgesellschaften des Westens verschonen die Probanden Ärzte und Geschäftsleute eher als Obdachlose. In Südamerika werden Frauen stärker geschützt.

Es geht hier nicht um Science Fiction, sondern um die Gegenwart

Maschinenethik ist längst keine Science-Fiction mehr. Fahrzeuge im oberen Preissegment verfügen jetzt schon über halbautonome Fähigkeiten, sei es die Einparkautomatik oder den Autopiloten für Staus. Die Ergebnisse der "Moral Machine"-Studie widersprechen jetzt schon ersten Leitlinien: "Deutschland war eines der ersten Länder, das Richtlinien für selbstfahrende Fahrzeuge eingeführt hat. Diese verbieten eine Unterscheidung von Personen auf Grund ihres Geschlechts, ihres ethnischen Hintergrundes und dergleichen. Die starke Präferenz von Kindern zum Beispiel, weil man sie nicht im selben Maß für Fehler beim Überqueren einer Straße verantwortlich machen kann wie Erwachsene, widerspricht den deutschen Richtlinien."

Iyad Rahwan

Iyad Rahwan, 41, ist KI-Forscher am Massachusetts Institute of Technolgy. Ab dem Sommer wird er den Forschungsbereich "Mensch und Maschine" am Max-Planck- Institut in Berlin leiten.

(Foto: Privat)

Iyad Rahwan will nur Daten anbieten, keine moralischen Antworten. "Meine Rolle ist nicht, Gesellschaften zu raten, wie sie die Dilemmata auflösen. Als Wissenschaftler bringe ich Fakten in die Debatte ein. Mehr nicht." Aber gerade weil diese Fakten so viele moralische Fragen aufwerfen, und gerade weil das Gedankenexperiment des Weichenstellers so viele Faktoren des wirklichen Lebens außer Acht lässt, wird es nicht reichen, solche Fragen in der Theorie ohne die Praxis der technischen Entwicklungen zu wälzen. Und umgekehrt. Womit Iyad Rahwan bei der Verhaltensforschung für Maschinen angelangt ist.

Die nächste große Herausforderung der KI-Forschung ist die Politik

Prinzipiell muss man davon ausgehen, dass Maschinen eigene Verhaltensmuster entwickeln, die sich weder eindeutig programmieren noch schlüssig aus der traditionellen Verhaltensforschung ableiten lassen. "Maschinen zeigen Verhaltensweisen, die sich fundamental von denen der Menschen und Tiere unterscheiden", heißt es da. Unzählige Faktoren spielen eine Rolle: der Quellcode, die Lerneffekte künstlicher Intelligenzen, der Auftrag, die Reaktion der Menschen.

Die Dringlichkeit solcher Forschungen steht gleich in der Präambel: "Maschinen, die von künstlicher Intelligenz getrieben werden, vermitteln zunehmend unsere sozialen, kulturellen, wirtschaftlichen und politischen Interaktionen." Algorithmen steuern ja nicht nur das Verhalten von Autos. Sie verändern jetzt schon das Liebesleben von Millionen durch Dating-Apps, sie verwalten das Zuhause der Menschen genauso wie ihre Finanzen, ihren Nachrichtenfluss und die öffentliche Debatte. Maschinen werden vermehrt Kinder aufziehen und Alte pflegen. Und in den Steuerelementen autonomer Waffen werden sie in bewaffneten Konflikten darüber entscheiden, wen sie leben und sterben lassen.

Die momentane Forschung kümmere sich aber nur ad hoc um die Auswirkungen der Algorithmen auf Menschen und Gesellschaft, moniert der Nature-Aufsatz. Vor allem aber seien Menschen, die sich mit künstlicher Intelligenz beschäftigen, vor allem Mathematiker und Ingenieure, keine Verhaltensforscher, Psychologen und Soziologen. "Derzeit sind die Wissenschaftler, die das Verhalten von Maschinen untersuchen, dieselben Wissenschaftler, welche die KIs geschaffen haben. Diese konzentrieren sich aber vor allem auf die Funktionstüchtigkeit ihrer künstlichen Intelligenzen."

Leicht wird es nicht, dies zu ändern. Die meisten KIs sind Black Boxes, deren Algorithmen das Betriebsgeheimnis der Firmen sind, die sie entwickeln und verkaufen. Das kann ihre Erforschung schon mal juristisch erschweren. Dabei ist die Komplexität von Algorithmen schon diffizil genug. Da tun sich nicht nur in ethischen Einzelfragen Widersprüche auf. "Die nächste Herausforderung wird die Politik sein", sagt Iyad Rahwan. "Denn künstliche Intelligenz ist Politik."

Lesen Sie außerdem mit SZ Plus:
Zeitgeist Was ist überhaupt Intelligenz?

Künstliche Intelligenz

Was ist überhaupt Intelligenz?

Keine Angst vor allmächtigen Maschinen oder: Warum die meisten Zukunftsszenarios zu KI völlig an der Realität vorbeigehen. Ein Gastbeitrag des Kognitionsforschers Steven Pinker.   Von Steven Pinker