Dass die Maschine etwas kann, muss akzeptiert werden: Kanzlerin Angela Merkel beim Digital-Gipfel.
(Foto: Daniel Karmann/dpa)"Wenn Träume fliegen" vom 5. Dezember, "Künstlicher Killerinstinkt" vom 28. November, "Berührungspunkte" und "Intelligente Maschinen gibt es nicht - das ist irreführend" vom 24./25. November sowie "Selbst ist der Rechner" vom 21. November:
Chancen und Risiken
Ich freue mich über die vielen Artikel zu künstlicher Intelligenz (KI), die in den vergangenen Wochen in der SZ erschienen sind, da dieses Thema für Deutschland zunehmend an Relevanz gewinnt. Leider vermisse ich in den Artikeln drei wichtige Aspekte, die ich gerne ergänzen möchte:
1. Augmentation: Es werden häufig Beispiele genannt, in denen KI-Lösungen Aufgaben vollkommen automatisiert erledigen können. Diese gibt es insbesondere in der frühen Phase der KI-Implementierung, da die Wirtschaftlichkeitsrechnung für solche Anwendungsfälle auf der Hand liegt. Vergessen wird leider die Augmentation, die Ergänzung der menschlichen Tätigkeit durch KI, welche ein großes Potenzial besitzt, bessere Entscheidungen zu treffen (zum Beispiel bessere Diagnosen durch Ärzte). Eine Akzeptanz der Fähigkeiten der Maschine ist dabei zwingend erforderlich, wie es Piloten bereits vorleben.
2. Fähigkeiten statt Regelwerke: Die meisten Artikel zu KI verdeutlichen, dass KI-Methoden heute für spezifische Aufgaben trainiert werden, von selbst aber nicht lernen, wie sie andere Aufgaben erledigen können. Daher ist die Superintelligenz (Singularity), die die meisten Menschen mit KI verbinden, heute noch in sehr weiter Ferne. Und obwohl wir uns also erst in den Anfängen der Anwendung von KI befinden, wird bereits eine Regulierung der Technologie gefordert. Meiner Meinung nach tendieren wir in dieser Situation dazu, Unsicherheiten aufgrund von Unwissenheit mit Regelwerken zu reduzieren. Das wird uns in Deutschland daran hindern, eine führende Rolle in KI einzunehmen.
3. Gesellschaftliche Auswirkungen: KI bietet ein großes Potenzial für die Automatisierung von Tätigkeiten, womit eine Reduzierung der menschlichen Arbeitskraft verbunden sein kann. Da die Automatisierung aus unternehmerischer Perspektive vollkommen Sinn ergibt und im globalisierten Wettbewerb sogar notwendig ist, muss in Zukunft mit einem deutlichen Rückgang der Arbeitsplätze gerechnet werden. Daher ist die Debatte notwendig, wie Deutschland gesellschaftlich mit einer höheren Arbeitslosigkeit, größtenteils verursacht durch KI, umgehen kann. Der Unterschied zu Zeiten hoher Arbeitslosigkeit in der Vergangenheit wird sein, dass nicht nur einfache Tätigkeiten betroffen sein werden, sondern auch zahlreiche Berufe, die bisher einen akademischen Abschluss erforderten. Wie begegnet man den damit verbundenen gesellschaftlichen Auswirkungen? Ein bedingungsloses Grundeinkommen kann eine Lösung sein; leider wird jegliche Diskussion dazu als realitätsfern abgetan. Die Herausforderungen scheinen noch nicht richtig erkannt zu sein.
Dr. Rainer Hoffmann, Karlsruhe
Serviette um die Ohren geknallt
Nun also soll der Sprung in die wunderbare Welt der künstlichen Intelligenz (KI) und in die Robotechnik gewagt werden, ganz schnell, sonst verpassen wir den globalen Anschluss. Unsere ganze künftige Wirtschaftsentwicklung und unser Wohlstand seien von diesem Modernisierungsschub abhängig, so unisono Politik und Industrie auch in den Fernsehnachrichten. Und ein anschauliches Beispiel wird gleich mitgeliefert: Ein junger Mann, bewegungslos in einem Rollstuhl sitzend, wird von einem Roboter elektrisch rasiert. Sensibel führt der Roboterarm den Rasierer im Gesicht herum. Vermuteter Einsatzort der Zukunft: Alten- und Pflegeheime.
Man sieht die Roboter schon vor sich, wie sie morgens in den Einsatz rollen, um alte Männer oder Querschnittsgelähmte liebevoll im Gesicht zu bearbeiten; künftige Pflege so rationell wie effektiv. Zwar hapert es dabei noch an emotionaler Zuwendung während der Behandlung, sagt man. Aber daran würde bereits gearbeitet. Gestresste Pflegekräfte wird es dann nicht mehr geben, denn "Robi" ist immer gut drauf. Aber ein wenig gruselig ist die Erfindung und ein wenig menschenverachtend vielleicht auch.
Spontan erinnerte der kurze Beitrag aus der schönen neuen Welt an eine brillante Szene aus Charlie Chaplins visionärem Film "Moderne Zeiten" von 1936: Die Industrie ist voll mechanisiert und durchrationalisiert; das Fließband gibt den Takt vor; aus dem Arbeiter wird bereits das Letzte herausgeholt. Nur seine Nahrungsaufnahme dauert viel zu lang. Ein Techniker hat eine geniale Idee. Er baut eine elektrische Füttermaschine, die die Nahrungsaufnahme beschleunigen soll. Sie wird an einem Fließbandarbeiter (Charlie) erprobt. Ein Esswerkzeug schiebt ihm Brocken für Brocken von einem Drehteller in den Mund mit vorgegebener Zeit fürs Kauen und Schlucken. Geht's vielleicht ein bisschen schneller? Ja, es geht, bis sich die Maschine verselbständigt und in einem Chaos endet. Dem armen Kerl fliegt alles um die Ohren, von der automatischen Serviette bekommt er noch eine geknallt, dann ist Schluss. Die Maschine gibt ihren "Geist" auf. Aber das waren noch technisch primitive Zeiten. Natürlich sind wir heute viel klüger, unsere Roboter sind perfekt, fast. Auf unser Rasiererbeispiel übertragen: Jeder Mann kennt die "Problemzonen" bei der Rasur. Selbst wenn auch die bewältigt werden, wer cremt danach das Gesicht und reinigt anschließend den Rasierer? Und was, wenn die Robo-Faust einen kleinen Wackler hat und dem Probanden mal kurz eine aufs Auge knallt? Vor allem: Wer möchte im Alter von einem Roboter rasiert werden?
An den KI-Allmachtsfantasien sind Zweifel erlaubt. Ob diese "Brave New World" in vielen Bereichen wirklich erstrebens- und liebenswert ist, muss sich schließlich noch erweisen. Und auch wenn die Kanzlerin bereit ist, sich vom Lufttaxi Evtol noch schneller von da nach dort bringen zu lassen, wie sie sagt. Das ist doch das alte Denken in technisch neuem Gewand. Reden wir doch mal über Entschleunigung und nicht immer nur von der Konkurrenz aus USA und China, China, China!
Dr. Rolf Seubert, Bad Vilbel
Deutschland hat viel zu bieten
Die beiden Artikel "Selbst ist der Rechner" und "Berührungspunkte" geben einen aktuellen, lebendigen Eindruck von gewichtigen internationalen Entwicklungen im Bereich der künstlichen Intelligenz (KI). Es werden allerdings nur ausländische KI-Experten befragt und zitiert - so, als hätte Deutschland im KI-Sektor und im Bereich des Maschinellen Lernens (ML) überhaupt nichts zu bieten. Von den vielen außerordentlichen KI-/ML-Aktivitäten in Deutschland sei hier nur auf das renommierte DFKI und die einschlägigen hochkompetenten Max-Planck- und Fraunhofer-Institute oder auf die ML-Gruppe an der TU Berlin hingewiesen. In den beiden Artikeln werden die KI-/ML-bezogenen algorithmischen Schlagworte "Deep Learning", "Neuronale Netze" usw. zwar erwähnt und erläutert, es wird aber - auch in dem detaillierten Artikel "Berührungspunkte" - leider keinerlei Versuch gemacht, die mathematisch-informatischen Prinzipien dieser Algorithmen allgemein verständlich zu erklären. Was die deutschen Defizite angeht, könnte die Kooperation zwischen den exzellenten Forschungsgruppen und der Industrie oder einschlägigen Ausgründungen sicher noch intensiviert werden. Und ganz im Argen liegt die digitale Bildung: Im Schulunterricht sind KI/ML überhaupt noch nicht angekommen, obwohl sich die Prinzipien harmonisch zum Beispiel in den Mathematikunterricht einbetten ließen.
Univ.-Prof. Ulrich Trottenberg, Köln
Kinderlied beim Verröcheln
Im Artikel "Berührungspunkte" wird unter anderem der Bordcomputer HAL (Kryptogramm für IBM) aus Stanley Kubricks Meisterwerk "2001: Odyssee im Weltraum" von 1968 als KI-Beispiel von Science-Fiction-Fantasien erwähnt. Natürlich neigen Autoren aus dramaturgischen Gründen immer dazu, die Katastrophe zu beschreiben. Doch auch hier werden die Gefahren und das realistische Dilemma aufgezeigt. Bei HAL werden menschliche Gefühle durch die Programmierung vorgetäuscht, damit sich die Astronauten auf der langen Reise zum Jupiter wohlfühlen. Dummerweise haben sich seine Entwickler wohl überschätzt und haben das Dogma: "HAL ist unfehlbar" mit einprogrammiert. Als er durch Lippenlesen herausfindet, dass man ihm misstraut, weil er offensichtlich einen Fehler begangen hat, wird er zum Killer. Sogar beim "Verröcheln" scheint er noch mit einem Kinderlied Mitleid erheischen zu wollen.
Aktuell ist das selbstfahrende Kraftfahrzeug eine höchst heikle Angelegenheit. Wie werden da die Prioritäten gesetzt? Die Unfälle zeigen, dass es immer noch Lücken gibt. Schon in den vergangenen Jahren wurden unfallverhütende Assistenzsysteme eingeführt, die leider häufig von (Lkw-)Fahrern ausgeschaltet wurden, was verheerende Folgen hatte.
Die Verantwortung muss beim Entwickler bleiben. Autofirmen möchten sich immer gerne aus der Verantwortung stehlen, wie der Dieselskandal zeigt. Computer sind im wahrsten Sinne verantwortungslos. Wer garantiert die von John Cohn geforderten Regularien und Wachhunde? Laut Sarah Spiekermann gibt es keine intelligenten Maschinen. Es gibt auch keine perfekten Entwickler, die jeden Ausnahmefall mit einprogrammieren können. Wie verhindert man außerdem digitale Psychopathen und Kriminelle?
An den Schaltpulten der Macht sitzen meistens egozentrische Macher, die dazu neigen, zuerst einmal etwas unter Gewinnmaximierung zu entwickeln oder loszutreten, ohne die Nachteile und Spätfolgen zu berücksichtigen. Beispiel Umwelt: Katalysatoren und Filter für Autos waren schon längst erfunden, bevor sie erst auf politischen Druck hin eingebaut wurden. Bedenkenträger und Skeptiker haben in unserer profitorientierten Gesellschaft selten Chancen. Gefährlich ist auch die Hybris von Zukunftsoptimisten. Viel wichtiger als die Entwicklung von KI bleibt die Förderung und Weiterentwicklung von menschlicher Intelligenz, die auch emotionale und soziale Kompetenz einschließt. Eine Welt ist erst dann perfekt, wenn sie human ist.
Dr. Rudolf Lauck, Pforzheim
Schadensminimierung
Zweifellos sind selbsttätig agierende, selbstlernende Waffen ein absolutes NoGo. Künstliche Intelligenz (KI) in derartiger Anwendung muss geächtet werden. Jedoch: Solange - leider - Waffen in unserer Weltgemeinschaft als notwendig erachtet werden, sollte man jede Technologie nutzen, die helfen kann, zumindest weniger Leid und Zerstörung anzurichten, insbesondere an Unbeteiligten. Hierzu kann KI signifikant beitragen. Zum Beispiel könnte mittels KI ein von Menschen vorgegebenes Ziel besser als bisher identifiziert werden. Dies könnte als funktionale Voraussetzung für die Freigabe eines Angriffs geschaltet werden. Oder: Der Waffe könnten Kriterien vorgegeben werden, bei denen ein Angriff trotz positiver Zielidentifizierung nicht erfolgen darf (zum Beispiel unerwartete Unbeteiligte zu nahe). Mit so genutzter KI würden ausschließlich Ziele bekämpft, die vorher vom Menschen ausgewählt wurden. Fazit: Statt zu versuchen, KI in Waffensystemen pauschal zu ächten, sollte man besser versuchen, die militärische Nutzung von KI in Richtung einer Schadensminimierung zu kanalisieren.
Ulrich Rieger, Feldkirchen-Westerham