Autonomes Fahren:"Menschen haben kein Problem damit, Maschinen auszunutzen"

Jurgis Karpus und Bahador Bahrami, 2021

"Vielleicht gibt es in 100 Jahren Safaris für Menschen, die immer noch selbst Auto fahren wollen", sagt Jurgis Karpus (rechts). Links: Bahador Bahrami.

(Foto: Robert Haas)

Jurgis Karpus und Bahador Bahrami haben herausgefunden, dass sich Menschen gegenüber intelligenten Maschinen wie autonomen Autos rücksichtslos verhalten - eine Erkenntnis, die den Verkehr der Zukunft maßgeblich beeinflussen könnte.

Interview von Gerhard Fischer

Ein selbst fahrendes Auto im Straßenverkehr einfädeln lassen? Eher nicht. Menschen benehmen sich Maschinen gegenüber häufig rücksichtslos, sie nutzen sie aus und spüren keine Reue. Das haben Forscher der Ludwig-Maximilians-Universität München (LMU) und der Universität London in einer Studie zum Umgang mit Künstlicher Intelligenz herausgefunden. "Wir legten unseren Fokus auf Experimente mit selbst fahrenden Autos", sagt Jurgis Karpus, "denn im Straßenverkehr treten Menschen und Maschinen in einen Wettbewerb und die Interessen sind nicht deckungsgleich - anders als bei einem Übersetzungs-Programm, beim Online-Banking oder bei Siri und Alexa." Karpus, 38, arbeitet an der philosophischen Fakultät der Ludwig-Maximilians-Universität; sein Kollege Bahador Bahrami, 44, an der psychologischen. An der Studie nahmen 2000 Menschen aus den USA teil.

SZ: Herr Bahrami, Herr Karpus, Sie schreiben in Ihrer Studie, Sie hätten durch neun Experimente herausgefunden, dass sich Menschen gegenüber Künstlicher Intelligenz, also Maschinen, rücksichtsloser verhalten als gegenüber Menschen. Was sind das für Experimente?

Jurgis Karpus: Es sind einfache Online-Spiele. Ein Spiel simuliert ein Szenario, bei dem auf einer engen Straße im Gebirge zwei Autos aufeinander zufahren. Sie befinden sich in einem Dilemma. Wer weicht aus? Wer fährt einfach weiter? Wenn beide weiter fahren, kommt es zum Zusammenstoß. Die Spieler bekommen zwei Dollar, wenn sie weiter fahren und der andere ausweicht; einen Dollar und 40 Cents, wenn beide ausweichen, also kooperieren; und null Dollar, wenn es zum Zusammenstoß kommt. Einige Menschen spielen mit anderen Menschen, einige mit einer Maschine, also einem Computerprogramm.

Und?

Jurgis Karpus: Menschen kooperieren eher mit Menschen und weichen aus. Wenn sie auf ein selbst fahrendes Auto treffen, sind sie egoistischer und fahren drauf los.

Und die Maschine weicht aus?

Bahador Bahrami: Nicht immer.

Warum nicht?

Bahador Bahrami: Unser Fokus lag nicht auf dem Verhalten der Maschine, sondern auf dem der Menschen.

Können Sie auch Zahlen nennen? Wie oft kooperierten Menschen mit Menschen, wie oft mit Maschinen?

Jurgis Karpus: Bei diesem Spiel mit den Autos im Gebirge wurde zwischen Menschen in 69 Prozent der Fälle kooperiert, zwischen Menschen und Maschinen waren es 56 Prozent. Es gibt aber auch Spiele, da ist der Unterschied noch größer.

Wir haben in Ihrer Studie einige Gründe gefunden, weshalb sich Menschen rücksichtslos gegenüber Maschinen verhalten. Könnten Sie diese bitte erklären?

Bahador Bahrami (lacht): Sagen Sie doch, welche Sie gefunden haben.

Ein Autofahrer lässt einen anderen Autofahrer im Straßenverkehr einfädeln, weil er - wenn er es nicht tut - Angst vor dessen Reaktion hat. Bei einem Auto, das autonom fährt, muss er diese Angst nicht haben.

Bahador Bahrami: Genau.

Aber in dem autonomen Auto sitzt doch auch ein Mensch drin.

Bahador Bahrami: Es muss halt leer sein. Eines, das Medizin transportiert, zum Beispiel.

Jurgis Karpus: Oder es sitzt ein Mensch drin, der Zeitung liest. Dieser würde sich dann nicht auf den Verkehr konzentrieren und gar nicht merken, dass der Autofahrer sich rücksichtslos verhält.

Bahador Bahrami: Welche Gründe haben Sie in unserer Studie noch gefunden?

Menschen haben kein Schuldgefühl, wenn sie Maschinen ausnutzen.

Bahador Bahrami: Das ist die wichtigste Erkenntnis! Menschen haben kein Problem damit, Maschinen auszunutzen, und sie zeigen dabei auch kaum Reue.

Außerdem steht in Ihrer in Englisch verfassten Studie, dass Menschen Maschinen für "opaque" halten, also für "undurchsichtig".

Bahador Bahrami: Man könnte auch sagen, Maschinen sind nicht transparent, sie sind fremd, und deshalb werden sie anders behandelt. Menschen wissen natürlich mehr über sich selbst, über Künstliche Intelligenz weiß man nicht so viel. Man fühlt sich den Maschinen weniger verbunden.

Es geht also auch um Vertrauen?

Bahador Bahrami: Ja. Es ist ja auch riskant zu kooperieren.

Die Menschen verhalten sich also rücksichtslos gegenüber Künstlicher Intelligenz. Könnte man nicht sagen: So what? Wo ist das Problem?

Jurgis Karpus: Wenn keiner im Verkehr dem autonomen Auto nachgibt, dann geht es nicht voran. Außerdem wollen Roboter lernen, sich gut zu verhalten, und wenn Menschen im Verkehr nicht kooperativ sind, werden auch die Maschinen aggressiver. Wenn sie merken, dass sie mit ihrem passiven Verhalten nicht weiter kommen, werden sie sich den Menschen anpassen.

Bahador Bahrami: Künstliche Intelligenz lernt über Beobachtung.

Wohin kann das generell führen, nicht nur im Straßenverkehr?

Bahador Bahrami: Es wird keine Apokalypse geben. Aber wir tauschen ja tausende kleine Interaktionen aus, und so werden sich die sozialen Normen verändern.

Was ist die Lösung?

Jurgis Karpus: Es gibt drei Möglichkeiten. Erstens: Die Interaktion wird weniger transparent. Das heißt, man sagt dem Menschen nicht, mit wem er interagiert - und so fahren die autonomen Autos mit dunklen Scheiben durch die Gegend.

Bahador Bahrami: Wie ein Mafia-Auto ...

Sie wirken nicht überzeugt von dieser Möglichkeit.

Jurgis Karpus: Beim Umgang mit Künstlicher Intelligenz gibt es zwei Grundsätze: Sie muss nett zu uns sein, und das Ganze muss transparent sein. Der Autofahrer sollte also wissen, mit wem er es zu tun hat.

Was ist die zweite Möglichkeit?

Jurgis Karpus: Die Maschinen gehen den Menschen aus dem Weg - auf der Straße gibt es dann zum Beispiel separate Spuren für selbst fahrende Autos. Aber das wäre sehr teuer, weil man die gesamte Infrastruktur verändern müsste.

Bahador Bahrami: Und für die Umwelt wäre dieser Umbau auch nicht gut.

Die dritte Möglichkeit?

Jurgis Karpus: Man könnte die Maschinen darüber informieren, dass es Situationen gibt, wo sie von den Menschen ausgenutzt werden. Dementsprechend müsste man ihnen einen Streckenverlauf vorgeben, wo diese Situationen nicht entstehen, in denen Menschen rücksichtslos sein können - etwa an Kreuzungen oder beim Einfädeln lassen.

Ist diese Möglichkeit Ihr Favorit?

Jurgis Karpus: Ja.

Bahador Bahrami: Vielleicht gibt es in ganz ferner Zukunft nur noch selbst fahrende Autos, dann gibt es dieses Problem nicht mehr.

Wann wird das Ihrer Meinung nach sein?

Bahador Bahrami: Vielleicht in 100 Jahren. Es gibt aktuell viele Menschen, die sehr gerne selbst Auto fahren; die Autoindustrie richtet sich danach.

Jurgis Karpus: Vielleicht gibt es dann in 100 Jahren Safaris für Menschen, die immer noch selbst Auto fahren wollen.

© SZ vom 03.07.2021/lfr
Zur SZ-Startseite
Pressefoto Virgin Hyperloop

SZ PlusHyperloop
:Mit 1000 Sachen durch die Röhre

Verrückte Idee oder Mobilität der Zukunft? Firmen und Forscher wollen künftig Personen und Güter in einer Art Rohrpost transportieren. Virgin Hyperloop plant von 2024 an erste Pilotprojekte.

Lesen Sie mehr zum Thema

Süddeutsche Zeitung
  • Twitter-Seite der SZ
  • Facebook-Seite der SZ
  • Instagram-Seite der SZ
  • Mediadaten
  • Newsletter
  • Eilmeldungen
  • RSS
  • Apps
  • Jobs
  • Datenschutz
  • Kontakt und Impressum
  • AGB