bedeckt München 16°
vgwortpixel

Künstliche Intelligenz:Die ethischen Probleme der Gehirn-Computer-Schnittstellen sind dramatisch

Bei Facebook, aber auch andernorts wird diese Forschung betrieben, um Steuerungssysteme für digitale Geräte zu entwickeln: Durch bloßes Denken sollen wir dann kleine und große Geräte steuern können. Die Technologie, an der auch Elon Musks Firma Neuralink arbeitet, soll Wunder im positiven Sinne bewirken können: Menschen, die nicht sprechen können, sollen damit wieder Kontakt zu ihrer Umwelt aufnehmen - fantastisch!

An der TU München arbeiten Forscher im Bereich "Neuroengineering" an der Möglichkeit, Roboter durch die Beobachtung von Gehirnwellen menschlicher Interaktionspartner erkennen zu lassen, ob sie selber gerade Fehler machen. Menschen sind verstört, wenn in der Mensch-Maschine-Interaktion der Roboter fehlerhaft agiert. Diese Irritation des Menschen manifestiert sich in spezifischen Hirnwellen, die Roboter scannen können, um so zu merken, dass sie etwas falsch machen.

Technologie Die blinden Flecken der künstlichen Intelligenzen
Verzerrte Algorithmen

Die blinden Flecken der künstlichen Intelligenzen

Google behauptet, seine Algorithmen könnten Nierenversagen besser vorhersagen als Ärzte. Tatsächlich vorhergesagt hat das System allerdings noch überhaupt nichts.   Von Michael Moorstedt

Einen anderen Ansatz wählt eine Gruppe junger Forscher am MIT Media Lab: Arnav Kapur hat dort ein Interface erfunden, das über die Beobachtung von winzigen neuromuskulären Impulsen an den Sprachapparat Wörter entschlüsselt, die wir bloß denkend sprechen. Unsere internen Selbstgespräche können also von diesem System aufgezeichnet und bei Bedarf wieder abgerufen werden. Auch hier ergeben sich bahnbrechende Anwendungen für beispielsweise Schlaganfallpatienten, da die Mikroimpulse auch bei diesen Personen noch unverändert funktionieren können. Interessant ist dann auch, dass man per Selbstgespräch in Konferenzen Notizen machen kann oder ungestört und unsichtbar, ohne echte Stimme und ohne einen Finger zu bewegen, Kurznachrichten umherschicken oder mit dem Partner chatten kann. Dieses System heißt "Alter Ego" und wird von seinem Erfinder angepriesen als "eine intelligentere Version unseres Selbst in uns selbst".

Während also Ingenieure versuchen, das Gehirn von außen den Computern zugänglich zu machen, kommen ihnen die Chiphersteller quasi von der anderen Seite entgegen: Intel arbeitet an Prozessoren, die wie das Gehirn funktionieren. Damit können Maschinen einfacher mit und wie Menschen agieren. Diese Prozessoren werden lernende und autonom agierende Computersysteme leistungsfähiger machen.

Die ethischen Probleme dieser Gehirn-Computer-Schnittstellen sind dramatisch: Sie betreffen unser Wesen als bewusstseinsfähige Individuen, die miteinander sprachlich und symbolisch kommunizieren müssen, um zu kooperieren. Wo Maschinen unsere Gedanken wirklich lesen können, liegen diese offen - und lassen sich etwa für Kaufanreize oder politische Beeinflussung nutzen. Die Facebook-Forscher betonen, dass ihnen die Privatheit am Herzen liege. Aber erstens hat Facebook wirklich jede Glaubwürdigkeit in Sachen Privatsphäre schon lange verloren, und zweitens geht es um mehr: Es geht um die Abschaffung der Privatheit in ihrem ureigensten Revier. Es geht um unsere mentale, bislang als unantastbar geltende Privatsphäre. Es geht um das Recht, wie es Sigal Samuel auf vox.com formulierte, zu bestimmen, wo unser Selbst endet und wo die Maschine anfängt. Die Gefahr besteht, dass wir mit Gehirn-Computer-Interfaces die Grenze zwischen unserem Bewusstsein und den Maschinen öffnen.

Steht also eine Kultur transparenter Gedanken bevor? Angesichts der Erfolge der großen Daten- und KI-Firmen, uns anhand unserer Lebensäußerungen zu verstehen und zu lenken, scheint diese Entwicklung nur folgerichtig. Unsere Gehirne mit unseren privaten Gedanken sind die allerletzte Bastion. Unsere Gehirne sind noch der Heilige Gral für Unternehmen im Zeitalter des Überwachungskapitalismus. Wer schafft es zuerst, unsere Gehirnaktivitäten wirtschaftlich nutzbar zu machen?

Noch ist die Technik rudimentär entwickelt. Wir haben noch etwas Zeit, uns die Folgen zu veranschaulichen und eine rechtliche Regulierung auf den Weg zu bringen. Wir müssen aber jetzt damit anfangen. Nicht weil die Trisolarier vor der Tür stehen, sondern weil Firmen aus bloßem Profitinteresse begonnen haben, sich für unsere Subjektivität und unser Innenleben zu interessieren.

Der Autor ist Professor für Medienethik an der Hochschule für Philosophie München und sachverständiges Mitglied der Enquete-Kommission des Deutschen Bundestages zu Fragen der künstlichen Intelligenz.

Lesen Sie jetzt mit SZ Plus:
Zeitgeist Endlich die Wahrheit

KI-Serie

Endlich die Wahrheit

Der Traum: Algorithmen bringen Forschung und Justiz der Wahrheit näher, denn endlich ist eine objektive Betrachtung möglich. Doch so einfach ist es nicht.   Gastbeitrag von Peter Galison