Erst vergangene Woche wurde die nächste Generation Chat-GPT vorgestellt. Der Chatbot scheint eine Revolution in der künstlichen Intelligenz (KI) zu sein, er besteht Zulassungsprüfungen an Elite-Unis und lernt vor allem rasend schnell dazu. Nun hat sich auch der deutsche Ethikrat mit Fragen zum Verhältnis von Mensch und Maschine beschäftigt und sich für eine strikte Begrenzung bei der Verwendung von KI ausgesprochen. "Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern", sagte Alena Buyx, die Vorsitzende des Deutschen Ethikrates. "KI darf den Menschen nicht ersetzen."
Für den Medizinbereich führt der Ethikrat in seiner Stellungnahme "Mensch und Maschine - Herausforderungen durch Künstliche Intelligenz" auch Gründe auf, warum ein KI-Einsatz sinnvoll sein könne: So könnten mit Hilfe von KI Versorgungsengpässe aufgrund von Personalmangel gelindert und präzisere Diagnosen erstellt werden. Bei der Entwicklung und Nutzung von KI-Produkten müsse allerdings ein ärztlicher Kompetenzverlust vermieden werden. Die Privatsphäre von Patientinnen und Patienten müsse mit intensiver Datennutzung in der medizinischen Forschung in Einklang gebracht werden.
Alle Nachrichten im Überblick:SZ am Morgen & Abend Newsletter
Alles, was Sie heute wissen müssen: Die wichtigsten Nachrichten des Tages, zusammengefasst und eingeordnet von der SZ-Redaktion. Hier kostenlos anmelden.
Für den KI-Einsatz der öffentlichen Verwaltung müssten die Bürgerinnen und Bürger vor Diskriminierung geschützt werden. Maschinellen Empfehlungen dürfe man nicht blind folgen. Weiterhin müssten Einzelfallbetrachtungen sowie die Einsichts- und Einspruchsrechte von Betroffenen gewährleistet werden. "KI-Anwendungen können menschliche Intelligenz, Verantwortung und Bewertung nicht ersetzen", sagte Julian Nida-Rümelin, der stellvertretende Vorsitzende des Deutschen Ethikrates.
Man dürfe den Menschen nicht auf Funktionen seines Gehirns reduzieren, heißt es in der Studie. Zwar werde es der Softwareentwicklung vermutlich immer mehr gelingen, menschliche Fähigkeiten nachzuahmen und in vielen Fällen zu übertreffen. "Das sollte uns aber nicht dazu verführen, ihnen personale Eigenschaften zuzuschreiben", heißt es.
Der Deutsche Ethikrat ist ein unabhängiges Gremium in Deutschland, das sich mit ethischen Fragen und Herausforderungen im Bereich der Naturwissenschaften, Medizin und Gesundheitsversorgung beschäftigt. Die 26 Mitglieder werden von der Präsidentin des Deutschen Bundestages ernannt. Der Bundestag oder die Bundesregierung können den Ethikrat beauftragen, zu bestimmten Themen zu beraten.