Gefahren der Digitalisierung "Die Leute merken nicht mehr, wie fragil das System ist"

Gut oder böse? Fest steht: Roboter werden immer klüger - und die Menschen fragen sich, wie sie damit umgehen sollen.

(Foto: Derek Bacon/Imago)

Digitalisierung erleichtert das Leben - was aber ist, wenn alles mal zusammenbricht? Physiker Armin Grunwald warnt die nächste Bundesregierung davor, fundamentale Gefahren zu ignorieren.

Interview von Michael Bauchmüller und Stefan Braun

Kriege, Klima, Flüchtlinge, kaputte Schulen - die nächste Bundesregierung wird vor großen Herausforderungen und Problemen stehen. Die SZ befragt Experten, was diese von einer Regierung in dieser Welt voller Großaufgaben erwarten. Den Anfang machten der Politikwissenschaftler Herfried Münkler; ihm folgten unter anderem der Klima-Forscher Ottmar Edenhofer, die Sozialexpertin Jutta Allmendinger und die Integrationsforscherin Naika Foroutan.

SZ: Schön, dass Sie persönlich gekommen sind.

Grunwald: Woher wollen Sie das eigentlich wissen? Aber keine Sorge, ich habe keinen Roboter geschickt, falls Sie das meinen.

Ja, meinen wir. Glauben Sie, das wird irgendwann möglich sein - ein Interview mit einem Roboter, mit künstlicher Intelligenz?

Das wird noch ziemlich lange dauern, vielleicht geht es auch nie. Sicher wird man einem Roboter Fragen stellen können, aber im Hintergrund spult dann eine Software, und am Ende wird etwas ausgespuckt wie bei einer automatisierten Ansage. Aber ein reflektiertes Interview, das wird schwierig. Wir neigen dazu, Visionen für fassbare Münze zu nehmen. Nach dem Motto, übermorgen laufen da auf der Straße die menschenähnlichen Roboter rum, und wir wissen nicht mehr, wer wer ist.

Immerhin denkt man inzwischen darüber nach, Roboter selbst in der Pflege einzusetzen.

Das stimmt, aber eben nur als Roboter. Sie sind inzwischen stabil genug, solche Aufgaben zu übernehmen. In Japan gibt es eine Hotelkette, wo in der Rezeption kein Mensch mehr arbeitet. Da haben Gäste die Wahl zwischen zwei Robotern. Einer davon ist eine Frau, mit der man sprechen kann und die sich bewegt wie ein Mensch. Interessanterweise gehen alle zu dem anderen.

Einem Roboter-Mann?

Nein, das ist ein Dinosaurier-Kopf als Rezeptionist. Vielleicht besteht eine gewisse Scheu davor, sich mit einem menschlich aussehenden aber doch technischen Wesen zu unterhalten. Die Geschichte lehrt aber, mit allzu großen Visionen vorsichtig zu sein.

Inwiefern?

Die künstliche Intelligenz war eigentlich das große Wissenschaftsthema der siebziger Jahre. Da gab es die Sorge, dass Japan mit seinen Robotern die Weltwirtschaft dominiert - übrigens typisch, dass die Gefahr immer aus dem Osten kommt, aus Russland, aus Japan, aus den "Tigerstaaten" oder jetzt gerade China. Die Befürchtung war, dass mit der ganzen Computertechnik, die damals in Japan entwickelt wurde, am Ende auch die künstliche Intelligenz von dort kommen würde. Viele hochfliegende Visionen kommen aus dieser Zeit. Zu der Welle gehörten auch Unmengen an Science-Fiction-Filmen.

"Deutschland setzt falsche Prioritäten"

Die Wirtschaftsweise Isabel Schnabel ist überzeugt: Die Digitalisierung wird nichts daran ändern, dass Deutschland ein reiches Land ist. Allerdings muss sich die Gesellschaft auf das Neue viel besser vorbereiten. Interview von Michael Bauchmüller und Stefan Braun mehr ...

Manches aus diesen Filmen zählt heute zu unserem Alltag. Wir können uns beim Telefonieren sehen und reden über autonomes Fahren.

Auch bei Fritz Langs "Metropolis" oder Charly Chaplins "Moderne Zeiten" gab es schon solche Elemente. Das ist aber eine Rückwärts-Interpretation. Dahinter standen keine prophetischen Gaben. Das waren Projektionen, Ideen, Fantasien. Manches wird eben was und anderes nichts. Im Raumschiff Enterprise steckt manche Vision, aus der nie etwas geworden ist. Denken Sie nur ans Beamen.

Es gibt aber mittlerweile Maschinen, die sich vom Menschen emanzipieren. Etwa "Alpha Go Zero", der das japanische Brettspiel Go besser beherrscht als jeder Mensch, ohne je von einem Menschen programmiert worden zu sein. Würden Sie das als Fortschritt bezeichnen?

Dass Technik etwas besser kann als Menschen, ist sozusagen ihr Daseinsgrund. Sonst hätte man Technik nie erfunden. Mit einer Schaufel zum Beispiel kann man besser graben als mit einer Hand. Insofern steht auch ein Roboter für Schach oder Go technikphilosophisch auf einer Linie mit allen anderen technischen Mitteln. Autos können auch schneller fahren als Menschen laufen können. Deshalb erfindet man ja Technik.

Armin Grunwald, 57, leitet das Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag (TAB). Seit 2007 hat er außerdem den Lehrstuhl für Technikphilosophie und Technikethik am Karlsruher Institut für Technologie.

(Foto: oh)

Moment, es gibt doch noch einen Unterschied zwischen einer Schaufel und künstlicher Intelligenz, die sich selbst optimiert, oder?

Das ist eine andere Frage, nämlich die: Geht das an etwas heran, das genuin menschlich ist, also selbst lernen, kreativ sein. Und ja: Das ist qualitativ etwas anderes. Das ist zwar auf einer Linie, aber markiert ein neues Stadium.

Können wir die Ausmaße dieser Entwicklung denn überhaupt absehen?

Jedenfalls stellen sich eine Menge Fragen. Nehmen Sie nur autonome Autos. Die sollen auch lernen können. Wenn sie eine schwierige Verkehrssituation erfolgreich überwunden haben, sollen sie daraus Lehren ziehen. Das heißt aber, dass die Software, die das Auto steuert, sich von Tag zu Tag ändert. Da fahren also Autos mit einer Steuerungssoftware herum, die so nie zugelassen worden ist. Dafür wiederum wird man Überwachungssoftware brauchen, die permanent kontrolliert, ob die veränderte Software noch in Einklang mit der Straßenverkehrsordnung ist . Die wird aber auch lernen. Also braucht man eine weitere Software, die wiederum die Überwachungssoftware kontrolliert. Da entstehen Kaskaden, deren Ende man sich kaum vorstellen kann.