Irgendwann klingelt das Handy. Aber aus der Tasche holt Armin Grunwald kein Multitalent von einem Smartphone, sondern ein Handy, wie es bald im Museum neben dem Fernsprecher liegen wird. Er schätze das Gerät, für den Rest habe er ja den Laptop. Das sagt viel über den Philosophen und Physiker Grunwald, der sich so gern mit Fortschritt befasst, von Robotern bis zur künstlichen Intelligenz.
SZ: Schön, dass Sie persönlich gekommen sind, Herr Grunwald.
Grunwald: Woher wollen Sie das eigentlich wissen? Aber keine Sorge, ich habe keinen Roboter geschickt, falls Sie das meinen.
Ja, meinen wir. Glauben Sie, das wird irgendwann möglich sein - ein Interview mit einem Roboter, mit künstlicher Intelligenz?
Das wird noch ziemlich lange dauern, vielleicht geht es auch nie. Sicher wird man einem Roboter Fragen stellen können, aber im Hintergrund spult dann eine Software, und am Ende wird etwas ausgespuckt wie bei einer automatisierten Ansage. Aber ein reflektiertes Interview, das wird schwierig. Wir neigen dazu, Visionen für fassbare Münze zu nehmen. Nach dem Motto, übermorgen laufen da auf der Straße die menschenähnlichen Roboter rum, und wir wissen nicht mehr, wer wer ist.
Immerhin denkt man inzwischen darüber nach, Roboter selbst in der Pflege einzusetzen.
Das stimmt, aber eben nur als Roboter. Sie sind inzwischen stabil genug, solche Aufgaben zu übernehmen. In Japan gibt es eine Hotelkette, wo in der Rezeption kein Mensch mehr arbeitet. Da haben Gäste die Wahl zwischen zwei Robotern. Einer davon ist eine Frau, mit der man sprechen kann und die sich bewegt wie ein Mensch. Interessanterweise gehen alle zu dem anderen.
Einem Roboter-Mann?
Nein, das ist ein Dinosaurier-Kopf als Rezeptionist. Vielleicht besteht eine gewisse Scheu davor, sich mit einem menschlich aussehenden aber doch technischen Wesen zu unterhalten. Die Geschichte lehrt aber, mit allzu großen Visionen vorsichtig zu sein.
Inwiefern?
Die künstliche Intelligenz war eigentlich das große Wissenschaftsthema der siebziger Jahre. Da gab es die Sorge, dass Japan mit seinen Robotern die Weltwirtschaft dominiert - übrigens typisch, dass die Gefahr immer aus dem Osten kommt, aus Russland, aus Japan, aus den "Tigerstaaten" oder jetzt gerade China. Die Befürchtung war, dass mit der ganzen Computertechnik, die damals in Japan entwickelt wurde, am Ende auch die künstliche Intelligenz von dort kommen würde. Viele hochfliegende Visionen kommen aus dieser Zeit. Zu der Welle gehörten auch Unmengen an Science-Fiction-Filmen.
Manches aus diesen Filmen zählt heute zu unserem Alltag. Wir können uns beim Telefonieren sehen und reden über autonomes Fahren.
Auch bei Fritz Langs "Metropolis" oder Charly Chaplins "Moderne Zeiten" gab es schon solche Elemente. Das ist aber eine Rückwärts-Interpretation. Dahinter standen keine prophetischen Gaben. Das waren Projektionen, Ideen, Fantasien. Manches wird eben was und anderes nichts. Im Raumschiff Enterprise steckt manche Vision, aus der nie etwas geworden ist. Denken Sie nur ans Beamen.
Es gibt aber mittlerweile Maschinen, die sich vom Menschen emanzipieren. Etwa "Alpha Go Zero", der das japanische Brettspiel Go besser beherrscht als jeder Mensch, ohne je von einem Menschen programmiert worden zu sein. Würden Sie das als Fortschritt bezeichnen?
Dass Technik etwas besser kann als Menschen, ist sozusagen ihr Daseinsgrund. Sonst hätte man Technik nie erfunden. Mit einer Schaufel zum Beispiel kann man besser graben als mit einer Hand. Insofern steht auch ein Roboter für Schach oder Go technikphilosophisch auf einer Linie mit allen anderen technischen Mitteln. Autos können auch schneller fahren als Menschen laufen können. Deshalb erfindet man ja Technik.
Moment, es gibt doch noch einen Unterschied zwischen einer Schaufel und künstlicher Intelligenz, die sich selbst optimiert, oder?
Das ist eine andere Frage, nämlich die: Geht das an etwas heran, das genuin menschlich ist, also selbst lernen, kreativ sein. Und ja: Das ist qualitativ etwas anderes. Das ist zwar auf einer Linie, aber markiert ein neues Stadium.
Können wir die Ausmaße dieser Entwicklung denn überhaupt absehen?
Jedenfalls stellen sich eine Menge Fragen. Nehmen Sie nur autonome Autos. Die sollen auch lernen können. Wenn sie eine schwierige Verkehrssituation erfolgreich überwunden haben, sollen sie daraus Lehren ziehen. Das heißt aber, dass die Software, die das Auto steuert, sich von Tag zu Tag ändert. Da fahren also Autos mit einer Steuerungssoftware herum, die so nie zugelassen worden ist. Dafür wiederum wird man Überwachungssoftware brauchen, die permanent kontrolliert, ob die veränderte Software noch in Einklang mit der Straßenverkehrsordnung ist . Die wird aber auch lernen. Also braucht man eine weitere Software, die wiederum die Überwachungssoftware kontrolliert. Da entstehen Kaskaden, deren Ende man sich kaum vorstellen kann.
Und wo bleibt der Mensch?
Noch hat er den Stöpsel in der Hand, er kann den Stecker ziehen. Wobei auch das nicht mehr unbedingt stimmt. Wenn Software sich weiterentwickelt und Bereiche verlassen würde, die vom Menschen vorgegeben wurden, dann wird es schwierig. Bei einem autonomen Auto zum Beispiel gibt es Leitplanken. Die werden einprogrammiert, nur bis zu diesen Leitplanken darf das Auto fahren. Wenn aber die Software sich in der Weise selbständig machen würde, dass sie beginnt die Leitplanken zu hinterfragen, dann wäre eine Grenze überschritten. Das sollten schon Menschen entscheiden können. Getreu Kant: Der Mensch als das Wesen, dass zur Selbstgesetzgebung befähigt und berufen ist. Da wäre ich ganz altmodisch.
Die Abhängigkeit von der Technik hat zugenommen
Was, wenn wir an einen Punkt kommen, wo wir zwar die Probleme erkennen, aber ohne die neuen Hilfsmittel nicht mehr leben können?
Die Abhängigkeit von Technik hat in den letzten 300 Jahren massiv zugenommen. Wir erfinden die Technik für bestimmte Zwecke, aber wenn sie einmal da ist, passen wir uns an. Ein Navi etwa ist eine tolle Geschichte, aber wenn man nur noch damit unterwegs ist, dann verlernt man auch etwas. Das Strukturgedächtnis, die Fähigkeit zur Wahrnehmung räumlicher Gebilde. Auch das ist technikphilosophisch gesehen immer schon passiert. Dass mit neuen Techniken alte überflüssig werden, ist Teil der schöpferischen Zerstörung. Deshalb sind experimentelle Archäologen heute damit beschäftigt, Anlagen nachzubauen, um überhaupt die Methoden zu begreifen, wie Kathedralen oder Pyramiden gebaut wurden. Dieses Wissen verschwindet. Das ist prinzipiell normal, kann aber dann schlimm werden, wenn man sich von neuen Techniken über ein kritisches Maß hinaus abhängig macht.
Aber wo liegt dieses Maß, wer entscheidet das?
Das kann man sicher nicht objektiv angeben. Wir sind mittlerweile so abhängig vom Funktionieren großer technischer Infrastrukturen, also Energie, Wasser, Kommunikation, globale Nahrungsmittelversorgung, dass man sich schon jetzt Sorgen machen muss. Wir haben vor einigen Jahren im Büro für Technikfolgenabschätzung die Konsequenzen eines Blackouts untersucht. Ergebnis: Nach ein paar Tagen wären die ersten Todesfälle zu erwarten. Und diese Abhängigkeit steigt noch. Wenn wir mit der Energiewende Internet und Energieversorgung zusammenführen, dann noch die Elektromobilität dazu nehmen, dann haben wir am Ende nur noch eine große Infrastruktur, von deren Funktionieren alles abhängt. Das macht schon Sorge. Gerade, weil man dann nicht mehr den Stecker ziehen kann. Das Internet ist schon jetzt das Nervensystem, ohne das nichts mehr läuft.
Jetzt schüren Sie aber Panik.
Im Gegenteil. Das Gefährlichste ist, wenn das Bewusstsein der Verletzlichkeit verschwindet. Wenn man sich denkt, ach, bei uns kann so was gar nicht passieren. Wann fällt hier schon mal der Strom aus, oder eine Tankstelle ist leer? Die Leute merken nicht mehr, wie fragil das System ist. Hinweise auf Anfälligkeiten und Abhängigkeiten haben mit Panikmache nichts zu tun. Und außerdem gibt es auch immer Möglichkeiten, Folgen regional zu begrenzen.
In der Industrie gibt es mittlerweile Roboter, die im Team arbeiten können. So genannte kollaborative Roboter. Macht Kollege Roboter den Fabrikarbeiter bald überflüssig?
Das ist eine der großen Fragen, auch für eine Bundesregierung. Für die Industrie ist das schon wegen der Kosten interessant. Für menschliche Arbeit muss Lohn gezahlt werden, für Roboter nicht. Wir müssen Steuern zahlen, der Roboter nicht. Das ist ein Wettbewerbsnachteil für Menschen, der die Entwicklung der Robotik stark beschleunigt. Es ist an der Zeit, das politisch zu überdenken. Eine Steuer für Roboterarbeit steht irgendwann an.
Gibt es nicht ohnehin schönere Jobs als die in der Fabrik? Es ist ja nicht die erste Welle an Maschinisierung in der Industrie.
Mag sein. Aber die, deren Arbeitsplätze nun wegfallen könnten, sind nicht die gleichen, die für die neuen Arbeitsplätze qualifiziert sind. Da droht uns ein großes soziales Problem. Leider herrscht in unserer Gesellschaft immer noch das Fortschrittsdenken und der Glaube an Win-win Situationen vor. Das wird vor allem davon angetrieben, dass die deutsche Wirtschaft stark vom Maschinenbau abhängig ist, also auch vom Export solcher Roboter. Entsprechend wird in Kauf genommen, dass Bevölkerungsgruppen aus dem Modell herausfallen.
Gewinner und Verlierer hat es immer gegeben, oder?
Ja, aber in der öffentlichen Debatte wird immer so getan, als sei das Ganze eine Win-win-Situation, so wie seinerzeit bei Kohls "blühenden Landschaften". Über die Verlierer redet man nicht. Es ist jetzt schon so, dass wir zwar eine gute Beschäftigungssituation haben, aber gleichzeitig viele prekäre Jobs. Dass heute Männer und Frauen arbeiten, ist unter Emanzipationsgesichtspunkten positiv, aber für viele Familien geht es ökonomisch gar nicht mehr anders, weil einer alleine mit einem mittleren Job nicht mehr vier Personen ernähren kann wie noch vor einigen Jahrzehnten. Es soll nicht zynisch klingen: Aber das ist Teil unserer verdrängten gesellschaftlichen Realität. Es gibt Teile der Gesellschaft, die sind abgeschrieben. Mit denen macht man nicht mehr die Zukunft. Als Gesellschaft geht es uns gut, verglichen mit den meisten Ländern sogar sehr gut. Aber das kann aus verschiedenen Gründen ein Ende haben.
Ist das eine Wurzel extremer Parteien?
Auch. Früher gab es klassische Arbeitsmodelle, früher gab es überall geregelte Arbeitszeiten. Das sind Garanten gesellschaftlicher Stabilität. Heute aber löst sich das auf; heute arbeiten Leute in der Cloud, jeder wird seines Glückes Schmied und muss seine Kompetenzen auf einer digitalen Plattform anbieten. Für viele ist das positiv, vor allem junge Leute. Wir kommen aber aus einer Gesellschaftsform, die stark von Arbeitern und Angestellten getragen worden ist, vom Mittelstand, der gehobenen Arbeiterschicht - und genau die sind bedroht. Bei früheren Automatisierungswellen konnte man noch sagen, das trifft die ungelernten Arbeiter. Aber das ändert sich, je mehr die Automatisierung in die staatstragenden Schichten reingeht. Von den entsprechenden Abstiegssorgen profitieren extreme Parteien.
Die andere Seite des technischen Fortschritts sind die vielen Annehmlichkeiten, die Erleichterungen bei der Arbeit. Wie lässt sich aus beidem eine vernünftige Balance finden?
Da wäre ein Schlüssel sicherlich die Weiterbildung von Beschäftigten, damit sie die Nachteile nicht erleiden müssen. Ein anderer wäre die Frage der Besteuerung. Ich bin kein Pessimist, aber eines können wir nicht so gut als Menschen: Vorsorge treffen, wenn noch nichts passiert ist. Wir sind gut im Reparieren. Da müssen wir in einen anderen Modus finden und handeln, etwa bevor wieder fünf Millionen Arbeitslosen da sind. Die Entwicklungen fallen ja nicht vom Himmel.
Diese verunsicherte Arbeitnehmerschaft lebt in einer Welt, in der sie einerseits von unendlich vielen Informationen umgeben, andererseits den Filterblasen von sozialen Netzwerken ausgesetzt ist. Potenziert das die Verunsicherung?
Man muss sich die Entwicklung da noch einmal genau anschauen. Ab Mitte der Neunziger gab es die Utopie eines globalen Dorfes. Das Internet als Chance, mit allen auf der Welt ohne Hierarchie zu kommunizieren. Diktatoren hätten keine Chance mehr, globale Demokratie würde einkehren - eine wunderbare Utopie. Und jetzt passiert das Gegenteil. Es gibt zwar keine Grenzen mehr im Internet, aber jetzt machen wir uns mit diesen Filterblasen selber welche, über Profile, die wir uns anlegen und die Ergebnisse irgendwelcher Suchmaschinen, auf die wir uns verlassen. Das ist die kleine Welt, auf die wir uns verlassen. Das Gegenteil vom global village.
Technikbegeisterung, und was daraus geworden ist... Überwiegt für Sie inzwischen das Negative?
Es gibt kein Messverfahren, um Kosten und Nutzen klar ausrechnen zu können. Das ist mehr ein Bauchgefühl, und das ist: Fortschritt ist gut und richtig, aber ich mache mir zunehmend Sorgen, dass da Entwicklungen einreißen, die einen so hohen Grad an Unumkehrbarkeit haben, dass sie außer Kontrolle geraten. Wenn wir nur noch funktionieren müssen, um der Technik hinterherzulaufen, dann ist irgendetwas verkehrt. Das hat Hegel schon auf den Punkt gebracht, mit der Beziehung von Herrn und Knecht.
"Man reagiert mit Optimierungsversuchen"
Wie meinen Sie das?
Je mehr sich der Herr auf seinen Knecht verlässt, desto abhängiger wird er von ihm. Eigentlich hat dann der Knecht die Herrschaft: Er kann ohne den Herrn gut leben, aber umgekehrt nicht. Entsprechend können wir ohne Technik nicht mehr leben.
Der Knecht Smartphone ist inzwischen ein Begleiter geworden, auf den viele nicht mehr verzichten wollen. Es kann sogar überwachen, wie viel wir uns bewegen, ob wir genug schlafen. Was ist daran denn schlecht?
So etwas ignoriere ich komplett. Wenn ich wissen will, ob es mir gut geht, ob ich mehr schlafen soll, dann frage ich mich selbst und nicht irgendein Gerät.
Vielen hilft das aber, das eigene Leben zu optimieren.
Ich hoffe, dass das wieder weggeht. Im Grunde geht es bei dieser Optimierung immer darum, das meiste aus sich herauszuholen, sich auszubeuten. Oder positiver gesagt: Seine Talente maximal zu entwickeln. Letztlich ist das in einer Leistungssteigerungs-Gesellschaft so: Man reagiert mit immer mehr Optimierungsversuchen. Ein riesiger Stressfaktor. Bis hin zum Alltagsdoping mit irgendwelchen Medikamenten. Der Wettbewerb treibt Menschen in diese Richtung.
Kann Politik da noch eingreifen?
Die Politik kümmert sich gern um Infrastruktur, um Fragen wie Breitband. Das kann man messen und als Erfolg vorweisen. Kulturelle Fragen sind für sie schwer messbar. Allerdings leben wir auch in einem System individueller Freiheit, in dem man in solche Fragen schwer hineinregieren kann. Solche Dinge überlässt Politik gerne sich selbst. Ich kann das in gewisser Weise verstehen. In einer liberalen Gesellschaft steht es uns frei, verfügbare Techniken zu nutzen. Konsumenten sind souverän. Aber die Konsequenzen dürfen wir nicht länger verdrängen. Wir müssen sie uns bewusst machen.
Was meinen Sie?
Zum Beispiel die Verrohung der Kommunikation: Ohne Internet gäbe es das Wort Shitstorm doch gar nicht. Und dann fängt Politik an, sich darum zu kümmern, wie jetzt mit dem Netzwerkdurchsetzungsgesetz. Man versucht, Auswüchse im Nachgang in den Griff zu bekommen. Aber niemand traut sich, früher eine Diskussion über Kommunikationskultur in Gang zu setzen.
Glauben Sie, dass diese Debatte aufbricht, je mehr solche Auswüchse sichtbar werden?
Ich bin eigentlich kein Pessimist aber es gibt zwei Probleme. Erstens gibt es schon jetzt Opfer, denken Sie nur an die Mediensucht. Zweitens: Aus dieser Infrastruktur, die um uns herum entstanden ist, noch einmal rauszukommen, noch umzusteuern, das wird schwer. Und noch eins: Zu keiner Zeit in der Menschheitsgeschichte hat es derart gute Bedingungen für eine totalitäre Diktatur gegeben wie heute. Was Hitler an Propaganda-Möglichkeiten, was die Stasi an Überwachungsapparat hatte, ist Kinderkram gegen das, was heute möglich ist.
Gleichzeitig ist der Zugang zu Informationen so groß wie nie. Widerspricht das nicht dieser These?
Aber wer hat Zugang zu den big datas? Den haben ein paar Konzerne wie Google und ein paar Geheimdienste. Die haben ganz andere Möglichkeiten. Natürlich kann man Bilder von Aufständen in Sekundenbruchteilen in alle Welt schicken, das kann kein Diktator mehr verhindern. Aber es ist schon die Frage, wer auf welche Informationen Zugriff hat. Da hat ein smarter totalitärer Herrscher ganz andere Möglichkeiten als ein x-beliebiger User.
Und obendrauf kommen Experimente, mit denen das US-Militär das menschliche Hirn optimieren will. Etwa, um Empfindungen wie Angst auszuschalten oder ein Gehirn mit Computern zu verbinden. Entstehen da Killermaschinen?
Daran wird gearbeitet, ja. Aber mein Eindruck ist, dass man über die Funktionsweise des menschlichen Gehirns immer noch sehr wenig weiß. Da wird mit Versuch und Irrtum geforscht, aber der Fortschritt ist nicht so weit, wie manche denken machen. Deshalb bin ich nicht sehr besorgt. Aber wenn man das Risiko nicht eingehen will, sollte man die Forschung abbrechen.
Geht das denn noch? Die Hirnforschung verspricht sich ja auch Fortschritte im Kampf gegen Krankheiten, etwa Epilepsie.
Die Grenze ist überschritten. Wir akzeptieren uns Menschen nicht mehr als von der Evolution oder von Gott oder von wem auch immer geschaffen. Wir verändern uns, absichtlich. Im Groben ist das auf der Linie von Francis Bacon, der Emanzipation: Warum sollen wir uns lassen wie wir sind, wenn wir uns verändern wollen? Die Natur des Menschen besteht darin, stets seine Natur zu überschreiten.
Wer stellt das Stoppschild auf? Welche Gesellschaft ist in der Lage, irgendwann zu sagen: genug?
Diese Instanz gibt es nicht. Früher hat man gesagt, diese Instanz ist Gott. Aber die wird ja nicht von allen anerkannt. Es gibt keine Weltregierung, die das übernehmen könnte. Im Gegenteil: Der globale Kapitalismus basiert auf Wettbewerb, und Wettbewerb spricht genau dagegen, auf Fortschritt zu verzichten. Das ist die dominante Kraft. Es gibt eine globalisierte Wirtschaft, aber kein globalisiertes Subjekt, das Grenzen und Standards setzen könnte. Im Gegenteil, die Apologeten des Fortschritts treiben uns mit ihrem Technikdeterminismus immer weiter voran.
Das müssen Sie erklären.
Fortschritt wird gern mit einem Tsunami verglichen: Er kommt über uns, egal was wir machen. Das meine ich mit Technikdeterminismus: Es kommt alles sowieso, also müssen wir uns anpassen. Eine gefährliche Sichtweise, denn dann stellt keiner mehr die grundlegenden Fragen, ob nicht auch alles oder wenigstens manches anders sein könnte. Das Fatale ist: Wenn genügend Leute an den Tsunami glauben und sich entsprechend verhalten, dann wird er zur self-fulfilling prophecy.
Was könnte eine neue Bundesregierung machen, um dem allem zu begegnen?
Vor allem müsste sie in größeren Zusammenhängen denken, sie müsste auch Fortschritt hinterfragen. Das Problem ist immer: Das Dringliche schiebt sich vor das Wichtige. Für das Wichtige bleibt oft kein Raum, auch nicht in größeren Bundestagsdebatten. Dabei waren es immer die inhaltlichen Debatten zu Ethikfragen, die als Sternstunden des Parlaments gesehen wurden. Das fehlt in diesem Bereich komplett, er ist dominiert durch das Tsunami-Denken und Fortschritts-Erwartungen. Dabei ginge es jetzt darum, gute Zukünfte zu diskutieren, also: Wie wollen wir leben in einem Staat, in dem es irgendwann 80 Millionen Ich-Unternehmer geben könnte. Stattdessen hangelt man sich von einem Thema zum nächsten.
Gefährdet der Fortschritt die Demokratie?
Das hängt davon ab, wie man mit den Verlierern umgeht. Man muss ihre Sorgen ernst nehmen und frühzeitig darüber reden, wie man kompensatorisch verhindert, dass bestimmte Bevölkerungsgruppen abstürzen. Das ist eigentlich die Stärke der Demokratie.
Wenn Sie nun all die anderen Herausforderungen in der Welt sehen, Unsicherheit, Klimawandel, soziale Ungleichheit, Migration - welches würden Sie für mindestens so wichtig erachten wie die möglichen Folgen eines außer Kontrolle geratenen Fortschritts?
Das ist für mich ganz klar der soziale Zusammenhalt. Auflösungserscheinungen gibt es schon lange, und man hat sie ganz lange nur positiv gesehen - Individualisierung als Programm der Moderne, der Einzelne soll selbst für sein Leben nach eigenen Maßstäben sorgen. Das finde ich auch gut. Aber es hat zur Folge, dass Gesellschaft fragmentiert, dass Menschen sich einigeln. Wenn es uns aber gelingt, gute Zukünfte zu entwickeln, für die es sich zu engagieren lohnt, dann kann das auch wieder Zusammenhalt schaffen. Und es gibt noch eine Diskrepanz, die für mich schwer auszuhalten ist: Wir reden hier über autonome Autos und Pflegeroboter, und gleichzeitig verhungern jeden Tag Zigtausende auf der Welt. Dieses persistente Scheitern, das macht mir wirklich Sorgen.
Armin Grunwald, 57, befasst sich seit 25 Jahren mit den Folgen von Technologien. Am Karlsruher Institut für Technologie leitet der Philosophie-Professor ein eigenes Institut dazu. Seit 2002 leitet er auch das Büro für Technikfolgenabschätzung beim Deutschen Bundestag.
