Süddeutsche Zeitung

Künstliche Intelligenz:Gretchenfrage 4.0

Die Technik stellt unser gängiges Menschenbild infrage. Umso wichtiger, allen Digital-Utopisten und ihren euphorischen Erzählungen skeptisch entgegenzutreten: Wer sind die jeweiligen Macher der KI? Und wer will mit ihrer Hilfe welche Werte und Interessen durchsetzen?

Große gesellschaftliche Debatten sind eine Erfindung der Moderne. Sie benötigen Massenmedien, mit deren Hilfe viele Menschen schnell erreicht werden können. Die Auseinandersetzung um die Reformation im 16. Jahrhundert auf Basis des Buchdrucks war vielleicht die erste Großdebatte, in der es um die Ausrichtung ganzer Regionen und Gesellschaften ging. Eine weitere Auseinandersetzung dieser Dimension war der Konflikt zwischen absolutistischer Feudalherrschaft und der aufkommenden Demokratiebewegung nach der amerikanischen Unabhängigkeitserklärung 1776 und der Französischen Revolution 1789. Diese setzte sich im 19. Jahrhundert als Antagonismus zwischen republikanischer Demokratie und der Monarchie fort. Nach dem meist erzwungenen Rückzug der Monarchien auf repräsentative und symbolische Funktionen erwuchsen der Demokratie im 20. Jahrhundert mit Faschismus und Kommunismus neue Großgegner. Nach dem Zweiten Weltkrieg wurde die politische Systemdebatte zwischen Demokratie und Sozialismus dann um den wirtschaftlichen Antagonismus zwischen Plan- und Marktwirtschaft bereichert.

All diese gesellschaftlichen Debatten haben Gegenwart und Zukunft der gesamten Gesellschaft in den Fokus genommen, teils national, teils auch geopolitisch. Antagonistische Positionen wie Demokratie "von unten" versus Monarchie "von oben" oder Plan- versus Marktwirtschaft waren jeweils ihr Kern, in der Regel zugespitzt auf ein "Entweder-oder" und verbunden mit scharfer Rhetorik und Aggression gegen die jeweils andere Seite. Bemühungen um "Dritte Wege" wie etwa die Bewegung der Blockfreien im Kalten Krieg gab es zwar, sie konnten aber die Dominanz des antagonistischen Denkens nicht ernsthaft erschüttern.

Das Jahr 1989 mit dem Zusammenbruch des kommunistischen Teils der Systemdebatte des Kalten Krieges machte dieser argumentativen Konstellation ein jähes Ende. Die Schlacht schien geschlagen, der Gewinner stand fest. Der amerikanische Politikwissenschaftler Francis Fukuyama verkündete das Ende der Geschichte: Der Kapitalismus habe gesiegt, der Demokratie westlichen Stils mit der liberalen Marktwirtschaft gehöre die Zukunft. Großdebatten um gesellschaftliche Antagonismen seien obsolet geworden, weil die Gegenseite kapituliert habe.

Zwar wissen wir mittlerweile, dass die Geschichte keineswegs zu Ende ist. Viele der alten Gespenster tauchen in neuer Form wieder auf. Aber in einer Hinsicht scheint mir die These von Francis Fukuyama doch passend: Die großen gesellschaftlichen Erzählungen mit ihren althergebrachten jeweiligen Alternativmodellen (Monarchie versus Demokratie oder Kapitalismus versus liberale Marktwirtschaft) ziehen nicht mehr. Sogar die Kommunistische Partei in China zelebriert mittlerweile den Kapitalismus in höchst effektiver Form und hält damit die Welt in Atem.

Aber was dann? Kommen wir ohne große Debatten aus? Ist es nicht vielleicht sogar vernünftiger, auf diese zu Übertreibung und Aggression verleitenden Zuspitzungen zu verzichten, um im Sinne eines "muddling-through" Kompromisse und Interessenausgleich im jeweiligen Einzelfall anzustreben? Der Theaterdonner der Systemdebatten würde diesem Ansatz abgehen, die große Bühne bliebe leer. Aber muss das negativ sein?

Das 1989 entstandene Vakuum auf der Ebene der Systemdebatten hat sich jedoch auf eine ganz andere Weise gefüllt. Die große Bühne wurde von hochfliegenden Technikdebatten erobert, welche nun schon seit über zwanzig Jahren gleichzeitig verunsichern und faszinieren. Sie betreffen, ähnlich wie die vormaligen Systemdebatten, das "Ganze" der gesellschaftlichen Zukunft, ja sogar die Zukunft von Mensch und Menschheit insgesamt. Sie wecken Paradieserwartungen und Untergangsbefürchtungen, machen Hoffnung und versetzen viele in Angst, greifen teils sogar in angestammte Gefilde von Religionen über. In dieser Reihe ist der Streit um die künstliche Intelligenz die vorläufig jüngste Welle. Selbstverständlich gab es vorher auch schon heftige Technikdebatten, etwa um die Kernenergie und die Raumfahrt. Aber diese blieben entweder partikulär wie die Kernenergiedebatte in Deutschland oder wurden den großen politischen Systemdebatten untergeordnet wie etwa die Auseinandersetzung um den Nato-Doppelbeschluss. Keine von ihnen erreichte auf breiter Front die menschheitsgeschichtliche oder gar eschatologische Dimension wie die Auseinandersetzung um die künstliche Intelligenz.

Mit seinem Buch "Engines of Creation" löste der amerikanische Futurist K. Eric Drexler 1986 einen bis heute andauernden Boom an techno-visionären Erzählungen aus. Mit seiner Erwartung, dass wir mithilfe der Nanotechnologie Maschinen bauen könnten, dass die Materie Atom für Atom auseinander- und dann neu zusammengebaut werden könnte, wurde Drexler zum Prototyp der modernen Technikvisionäre, die eben nicht einfach nur irgendeinen technischen Fortschritt beschreiben, sondern beanspruchen, damit die Zukunft von Mensch und Welt neu gestalten zu können.

Sämtliche Gesundheitsprobleme des Menschen, aber auch die Probleme der Entwicklungsländer, alles sollte mit diesen Maschinen bewältigt werden können, bis hin zur erheblichen Ausweitung der menschlichen Lebensspanne. Seine Nachfolger träumten Anfang des Jahrhunderts, immerhin in einer Publikation der hoch angesehenen National Science Foundation der USA, emphatisch von einer Wiederkehr der Renaissance mit angeblich paradiesischen Zügen. Die Idee der Wissenschaftler um William Bainbridge und Mihail Roco war, durch eine Konvergenz von Nanotechnologie, Informatik, den Biowissenschaften und der Hirnforschung den Menschen selbst grundlegend verbessern zu können. Die Bewegung des Transhumanismus beschwört seitdem in der Nachfolge von Friedrich Nietzsche die Erzeugung des Übermenschen als unseren Nachfolger.

Die aktuelle Debatte zur künstlichen Intelligenz fügt diesen Visionen einer technischen Zukunft auf Basis der Digitalisierungsdebatte weitere Nuancen hinzu, etwa durch die Aussicht auf einen Nachbau des menschlichen Gehirns und seine Verbesserung sowie durch die Idee, dass KI-gesteuerte Maschinen einst selbst weitere Maschinen konzipieren und bauen könnten, dass Algorithmen menschliche Politik ersetzen könnten und ebenso das Gerichtswesen übernehmen würden, objektiv, fair und allwissend, wie es in dieser Rhetorik heißt. Danach bliebe dem Menschen der Zukunft entweder ein Schlaraffenland, in dem er selbst weder noch etwas tun muss noch tun darf, sondern einfach zum Genießen auf der Welt wäre, oder aber seine Abdankung, die Anerkennung, dass auch Menschen nur eine vorübergehende Erscheinung der Evolution seien.

Zu all diesen hier nur grob skizzierten Paradieserzählungen entstanden natürlich umgehend apokalyptische Gegennarrative: die Nanoroboter von Eric Drexler würden außer Kontrolle geraten und innerhalb weniger Tage sämtliche Biomasse auf der Erde für ihren Energieverbrauch vernichten; die technische Verbesserung des Menschen würde von einigen wenigen genutzt, um sich zu Übermensch-Diktatoren aufzuschwingen, die allen anderen die Verbesserung verbieten; die Digitalisierung würde zum Zusammenbruch des Arbeitsmarkts führen, und es sei nur eine Frage der Zeit, wann in Algorithmen ein autonomer Machtwille entsteht, der sie die Weltherrschaft an sich reißen lässt.

Der Antagonismus ist in die Zukunft verlagert. Gehen wir auf ein Paradies zu, wie es in fast religiöser Sprache von einigen Visionären behauptet wird, oder schaufeln wir unser eigenes Grab, wie andere befürchten. Wieder geht es um das "Ganze", freilich erst in einer unbestimmten Zukunft. Hier unterscheiden sich heutige Technikdebatten von den Systemauseinandersetzungen früherer Jahrzehnte - mit Folgen: Den großen Technikvisionen fehlt der unmittelbare Ernst des Hier und Jetzt, sie haben etwas Spielerisches sogar noch in ihren Untergangsprophezeiungen.

Dennoch richten die technischen Visionen, Utopien und Dystopien der KI erheblichen Schaden an, folgen sie doch alle einem gefährlichen Technikdeterminismus. Ihnen liegt die Annahme zugrunde, dass der technische Fortschritt und seine Resultate die Zukunft von Mensch und Gesellschaft determinieren. Mensch und Gesellschaft bliebe nur die Anpassung, Widerstand zwecklos. Damit verleihen sie den "Machern" der Technik und deren Interessen und Werten eine ungeheure Macht. Hingegen lassen sie die Frage, wie denn der technische Fortschritt durch KI und Digitalisierung in den Dienst der Menschheit gestellt werden kann, etwa zur Realisierung der Nachhaltigkeitsziele der Vereinten Nationen, komplett verschwinden. Keine Rede von demokratischer Mitgestaltung der KI und ihrer Nutzung oder von regulatorischer Einhegung der Macht weniger Personen und Konzerne. Dominanz und Omnipräsenz der großen Technikdebatten in den Medien und der Öffentlichkeit verhindern den Blick auf die Möglichkeiten aktiver Gestaltung, und zwar unabhängig davon, ob Erlösungshoffnungen fantasiert oder die Apokalypse an die Wand gemalt wird. Beiden haftet ein Determinismus bis hin zum Fatalismus an.

Vor dem Hintergrund dieser Beobachtungen sollten wir die Debatte zur künstlichen Intelligenz anders verstehen als bloß weitere, neue Technikwelle, in der ein paar Ethik-Kommissionen schon das Nötige zur Abwägung von Chancen und Risiken sagen werden. Es geht hier eben nicht einfach um Technik mit ihren Chancen und Risiken, ihren Innovationspotenzialen und Nebenfolgen. Vielmehr betrifft der Kern der Debatte uns selbst als Menschen, vor allem unser Menschenbild. Wer sind wir und wer wollen wir sein in einer zusehends technisierten Welt, in der KI uns immer mehr Tätigkeiten abnimmt und immer mehr immer besser kann als wir selbst? Wie stellen wir uns eine Zukunft mit jeder Menge KI vor, und wie soll eine solche Welt aussehen?

Ganz konkret ist, frei nach Immanuel Kant, das Austreten aus der selbst verschuldeten Unmündigkeit des Nachplapperns technikdeterministischer Erzählungen angesagt. Wir müssen ernsthaft die Frage stellen: Wer sind die Macher der KI, wer verbreitet die Erzählungen und wer will hier eigentlich seine Werte und Interessen hinter einem vermeintlichen Technikdeterminismus verstecken? Denn auch in der Welt mit KI dient Technikdeterminismus einer Ideologie der Mächtigen. Er verschleiert, dass jede KI gemacht wird, von Menschen in Unternehmen und Geheimdiensten, nach deren Interessen, Werten und Weltanschauungen. Aufklärung meint heute eine digitale Mündigkeit, in der kritische und unangenehme Fragen gestellt werden. Das vermeintlich Spielerische der Technikdebatten, das Verschieben des existenziellen Antagonismus zwischen Paradies und Untergang in die ferne Zukunft, ist in keiner Weise spielerisch: Vielmehr verschleiert es den Ernst der zentralen Frage, wer zur KI und ihrer Nutzung etwas zu sagen hat und von wem nur noch simple Anpassung erwartet wird. Es ist eine Machtfrage.

Der Autor ist Professor für Technikphilosophie und Technikethik am "Karlsruhe Institut für Technologie" und leitet das Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag. Zuletzt erschien von ihm "Nachhaltigkeit verstehen. Arbeiten an der Bedeutung nachhaltiger Entwicklung" im Oekom Verlag.

Bestens informiert mit SZ Plus – 14 Tage kostenlos zur Probe lesen. Jetzt bestellen unter: www.sz.de/szplus-testen

URL:
www.sz.de/1.4736017
Copyright:
Süddeutsche Zeitung Digitale Medien GmbH / Süddeutsche Zeitung GmbH
Quelle:
SZ vom 27.12.2019
Jegliche Veröffentlichung und nicht-private Nutzung exklusiv über Süddeutsche Zeitung Content. Bitte senden Sie Ihre Nutzungsanfrage an syndication@sueddeutsche.de.