Neue Technologien:Sorgen von morgen

Great grandfather holding baby at home model released Symbolfoto PUBLICATIONxINxGERxSUIxAUTxHUNxONLY

Kleinkind mit Ur-Opa: Schon immer lebten nachfolgende Generationen in einer veränderten Welt. Nun droht der Fortschritt nicht nur die Welt zu verändern, sondern den Menschen selbst.

(Foto: imago)

Von Künstlicher Intelligenz bis Gentechnik: Ethiker versuchen, mit einer sich beschleunigenden Forschung mitzuhalten. Wie viel Raum bleibt da noch für Grundsatzfragen zur Menschenwürde?

Von Kathrin Zinkant

Es war ein skurriler Dialog, dem sich Angela Merkel am Mittwochabend in der Hauptstadt stellte. Die Kanzlerin sprach mit Sophia, dem Roboter - eine Weltpremiere in Deutschland. Es ging um Fußball, um Politik und es wurde viel gelacht. Vor allem aber ging es um die Zukunft.

Darum, ob artifizielle Wesen wie Sophia bald Alltag sein werden. Die Kanzlerin hat nichts dagegen, das wurde klar. Doch Grenzen müssen sein. Am Donnerstag wurde im Bundestag eine Enquete-Kommission "Künstliche Intelligenz" beschlossen. Der Einstieg ins globale Wettrennen um die Spitze in der KI-Forschung, er kommt spät, aber er beginnt. Und wie so oft, wenn es um neue Technologien geht, macht das vielen Bürgern Angst.

Was geschieht, wenn Innovationen nicht nur die Welt verändern, sondern den Menschen selbst? Wie wirken sich Künstliche Intelligenz und Digitalisierung auf das Leben aus? Welche Folgen wird der Einsatz revolutionärer Gentechniken für Umwelt und Medizin haben? Oder, um es noch größer zu machen: Was bleibt angesichts des beschleunigten Fortschritts von der Menschenwürde?

Die Frage, der sich auch der Deutsche Ethikrat soeben auf seiner Jahrestagung gewidmet hat, erscheint vor dem Hintergrund aktueller Ereignisse brisant. Erst im März überfuhr und tötete ein autonomes Testfahrzeug eine Passantin. Neue Überwachungtechniken werden in China genutzt, um "Citizen Scores" zu erheben und die Bevölkerung zu kontrollieren.

Zugleich kreist eine wachsende Zahl von Drohnen über Mehrfamilienhäusern, während Unternehmen über das Internet jede Pore des menschlichen Verhaltens auskundschaften. Immer stärkere Medikamente steigern die Leistung menschlicher Gehirne in einer leistungsfixierten Gesellschaft. In der Biomedizin wird über Eingriffe in die Evolution des Menschen diskutiert. Und das alles soll erst der Anfang sein.

Der israelische Historiker Harari sagt eine Verschmelzung von Biotech und Infotech voraus

Der israelische Historiker Yuval Noah Harari von der Hebrew University of Jerusalem hat auf der Ethikrat-Tagung in Berlin nicht zum ersten Mal seine Dystopie einer Menschheit beschrieben, der dank KI der Humanismus abhanden kommt. "Die Forschung erklärt den freien Wille zum Mythos. Leistungsfähige Computer können uns inzwischen besser verstehen als wir selbst", sagt Harari, der in absehbarer Zukunft eine Zwillingsrevolution erwartet: Biotech und Infotech verschmelzen, der Mensch wird zum Sklaven seiner Algorithmen. Was hinreichend düster klingt, aber die Frage nach der Menschenwürde mehr als rechtfertigt.

"Bei aller Evidenz, die wir bei der Menschenwürde unterstellen, fällt es zunehmend schwer, genauer anzugeben, was darunter zu verstehen ist", so hat es der in Erlangen-Nürnberg lehrende Philosoph Heiner Bielefeldt jüngst in einer seiner Schriften ausgedrückt, und so wurde es auch auf der Jahrestagung des Deutschen Ethikrates deutlich. Die Experten mühten sich wortreich, den Begriff für das Publikum fassbar zu machen. Die in Chicago forschende Ethikerin Hille Haker macht ihn an den Eigenschaften der Verletztlichkeit und der Freiheit eines Individuums fest.

Der Essener Philosoph Carl Friedrich Gethmann stellte diese Sichtweise wiederum infrage, weil sie keine Abgrenzung zwischen Mensch und Tier erlaube. Von Aristoteles zu Immanuel Kant und wieder zurück zur Antigone von Sophokles: Die Philosophie bleibt in ihren Betrachtungen über die Menschenwürde erschreckend elitär. Einig ist man sich lediglich darin, dass es Menschenwürde gibt und diese auch geschützt werden müsse. Konkrete Empfehlungen zur ethischen Bewertung aktueller Themen, wie sie der Ethikrat seit seiner Gründung vor zehn Jahren veröffentlicht, wären für die Öffentlichkeit vermutlich nützlicher.

Man solle sich dabei auf realistische Probleme konzentrieren, forderte der US-Biochemiker Kevin Esvelt in Berlin. Esvelt forscht am Massachusetts Institute of Technology und ist der Pionier des sogenannten Gene Drive, einer Technik, die durch die viel diskutierte Genschere Crispr-Cas möglich wurde und mit deren Hilfe sich nicht nur einzelne Organismen, sondern ganze Spezies verändern oder sogar ausrotten lassen. Im Fokus stehen zum Beispiel Mücken, die Krankheiten übertragen. Gene Drive gilt als die große, wenn nicht einzige Hoffnung im Kampf gegen Malaria. Weil die Technik effektiv und einfach anzuwenden ist, birgt sie aber auch Gefahren. Von ungeahnten Folgen für die Umwelt bis hin zu Bioterror und Krieg. Esvelt versteht deshalb nicht, warum - wie auch in Deutschland - beim Thema Crispr fast ausschließlich über Eingriffe in die menschliche Keimbahn diskutiert wird. Der sei Jahrzehnte entfernt, ganz im Gegensatz zur Anwendung von Gene Drives.

Esvelt wirbt deshalb für mehr Debatte, für den extrem vorsichtigen Umgang mit der Technologie und zugleich für Transparenz in der Forschung. Rückschläge durch einen übereilten Gebrauch von Gene Drives könnten jeden sinnvollen Einsatz der Methode um mindestens ein Jahrzehnt zurückwerfen. Im Fall von Malaria eine fatale Verzögerung, mahnt der Biochemiker, denn hier gebe es nicht nur die Chance, sondern auch die moralische Verpflichtung, binnen zehn Jahren mehr als zwei Millionen Menschenleben zu retten. "Ich wache jeden Morgen auf mit der Befürchtung, einen Fehler zu machen", sagt der Forscher. "Wenn die Chance, dass Gene Drives von der Afrikanischen Union nicht eingesetzt werden, durch mich um nur ein Prozent verringert wird, trage ich die Verantwortung für das Leben von 23 000 Kindern."

Der Kampf um Patente verhindert auf vielen Forschungsfeldern Offenheit und Transparenz

In der Praxis kann eine Auseinandersetzung von Wissenschaftlern mit ihrer ethischen und politischen Verantwortung womöglich mehr Probleme verhindern, als es eine Debatte um die Auswirkungen auf die Menschenwürde vermag. Der gemeinsamen Selbstreflexion in der Forschung stehen allerdings auch Hürden im Weg. Während Gene Drives derzeit wenig kommerzielles Potenzial versprechen und die sorgenvolle Debatte relativ unbehelligt geführt werden darf, verhindern finanzielle Interessen, Publikationsdruck und die Konkurrenz um Patente eine freie Diskussion auf anderen Gebieten. So auch auf dem der künstlichen Intelligenz. Die Kanzlerin mag mit noch so vielen Robotern Small Talk halten: Der Motor der KI-Forschung bleibt die ökonomische Perspektive. Und wer Patente anmelden will, übergeht Probleme.

Und so nimmt der Argwohn gegenüber der KI weiter zu. "Was einst als Utopie begann, wird heute oft als Albtraum angesehen", sagt Dirk Helbing von der Eidgenössischen Technischen Hochschule in Zürich. Helbing, ein international anerkannter Experte für Computersoziologie, sieht die bisherigen Entwicklungen in der KI selbst sehr kritisch. Er glaubt jedoch an die Möglichkeit einer neuen, am Menschen orientierten Digitalisierung. "Die Karten werden neu gemischt. Europa hat die Chance, eigene Impulse zu setzen und damit Weltmarktführer zu werden - durch Künstliche Intelligenzsysteme, die Menschen nicht überwachen und kontrollieren, sondern die Menschen befähigen und kreative Aktivitäten koordinieren".

Man kann nun fragen, ob Enquete-Kommissionen der beste Weg sind, um sich auf solche wichtigen, die Zukunft einer ganzen Bevölkerung betreffende Ziele zu einigen. Eine offener, von Verantwortung getriebener Schulterschluss zwischen Wissenschaft und Gesellschaft wäre der Menschenwürde vielleicht angemessener.

Zur SZ-Startseite

Lesen Sie mehr zum Thema

Jetzt entdecken

Gutscheine: