Künstliche Intelligenz:KI-Pionier Geoffrey Hinton warnt vor seiner eigenen Technologie

Künstliche Intelligenz: KI-Pionier Geoffrey Hinton, hier 2017 bei einer Konferenz in Toronto, warnt vor der Technologie.

KI-Pionier Geoffrey Hinton, hier 2017 bei einer Konferenz in Toronto, warnt vor der Technologie.

(Foto: Mark Blinch/Reuters)

Jahrzehntelang forschte der Informatiker an künstlicher Intelligenz. Nun verlässt Hinton seinen Arbeitgeber Google und mahnt vor den Gefahren seiner Schöpfung.

Von Helmut Martin-Jung

Der Sinneswandel kam ziemlich plötzlich. All die Jahrzehnte hatte Geoffrey Hinton an seinem Spezialgebiet geforscht, in Cambridge und Edinburgh, in Toronto und schließlich bei Google im Silicon Valley. Und wenn ihn die Menschen fragten, ob diese künstliche Intelligenz (KI), an der er und seine Leute da arbeiteten, nicht gefährlich sei, dann redete sich Hinton immer heraus. Mit einem abgewandelten Spruch von Robert Oppenheimer, dem Vater der Atombombe: "Wenn etwas technologisch reizvoll ist, dann machst du weiter und tust es."

Doch jetzt hat Hinton selber eine Art Bombe platzen lassen. Ausgerechnet er, der als einer der wichtigsten Wegbereiter dafür gilt, wie Maschinen immer kompliziertere Aufgaben übernehmen können, hat nun seinen Job bei Google hingeschmissen. Ein bisschen auch deswegen, gestand er in einem Interview dem Magazin Technology Review, weil er sich die vielen Details nicht mehr so gut merken könne wie früher, die für seine Arbeit nötig seien. Vor allem aber deswegen, um als Mahner aufzutreten. Als Mahner vor einer Technologie, die die Menschen überfordern, sie sogar gefährden könne. "Manchmal glaube ich, es ist, als ob Aliens gelandet wären und die Leute merken es gar nicht, weil sie so gut Englisch sprechen", sagt er in dem Interview.

Gefahren durch skrupellose Machtmenschen

Die größte Gefahr sieht der mittlerweile 75-Jährige im Missbrauch der Technologie durch skrupellose Machtmenschen, wie etwa den russischen Präsidenten Putin. Viele böse Akteure wollten KI nutzen, um Kriege zu gewinnen oder Wahlen zu beeinflussen. "Glauben Sie keine Sekunde, dass Putin nicht hyperintelligente Roboter bauen lassen würde, mit dem Ziel, Ukrainer zu töten. Er würde nicht zögern."

Über all das könne er freier reden, wenn er nicht mehr bei Google sei. Bislang sei das Unternehmen ein guter Hüter der Technologie gewesen. Aber er könne nicht über die Gefahren von KI sprechen, solange er bei Google sei, weil das dem Geschäft des Konzerns schaden könne. Er macht sich ganz offenbar auch Sorgen darüber, wie es bei Google nun weitergeht, nachdem Microsoft und Open AI mit ihrem mittlerweile berühmten Sprachmodell Chat-GPT4 vorgelegt haben und damit unmittelbar das Kerngeschäft von Google, die Suche im Netz, bedrohen. Der Konkurrenzkampf der Giganten könne dazu führen, dass das Internet überschwemmt werde mit gefälschten Fotos, Videos und Texten. Viele normale Nutzer könnten dann nicht mehr unterscheiden, was wahr ist und was falsch.

Dass Hinton seine Meinung erst jetzt geändert hat, stößt einigen allerdings übel auf. Meredith Whittaker, langjährige Google-Mitarbeiterin, verließ das Unternehmen im Streit um Diskriminierung und Überwachung. "Wo waren denn diese Leute, als wir Monate damit verbracht haben und Tausende Dollar für Anwälte ausgegeben haben?", fragt sie auf Twitter. Wir, damit meint sie auch Margaret Mitchell und Timnit Gebru, zwei KI-Forscherinnen, die für ethische Fragen der künstlichen Intelligenz bei Google zuständig waren und nach Kritik am Verhalten ihres Arbeitgebers aus der Firma gedrängt worden waren.

"... es gab einen Moment, gemeinsam zu handeln"

Und weiter fragt sie: "Wo waren sie, als wir organisiert haben, es aufzuhalten, bevor es diesen Stand erreichte?" Google-Chef Sundar Pichai haben außerdem über sie und die anderen Mitstreiterinnen gelogen und die Risiken heruntergespielt, die wir gezeigt haben. "... es gab einen Moment, gemeinsam zu handeln, an dem die Macht, die diese Männer der KI innehaben, solidarisch hätte genutzt werden können, mit einer aufstrebenden Bewegung, um das Schlimmste an der KI zu stoppen. Sie haben ihre Macht nicht so genutzt. Und hier stehen wir nun."

Hinton wirkt nun auch, als bedauere er sein Lebenswerk. Lebenswerk, davon kann man bei ihm mit Recht sprechen. Seit den 1980er-Jahren forschte der Informatiker beharrlich daran, wie neuronale Netze dazu gebracht werden können, zu lernen. Er gilt als einer der Väter der bis heute wichtigsten Methode dafür, der sogenannten Backpropagation, zu Deutsch: Fehlerrückführung. Obwohl viele andere Wissenschaftler darin keine große Zukunft sahen, blieb er dabei. Und glaubte all die Jahre, es werde noch sehr lange dauern, bis die Technologie zufriedenstellend funktionieren werde. Einer seiner Schüler an der Uni Toronto ist Mitgründer und Technikchef von Open AI, die das Sprachmodell Chat-GPT entwickelt haben.

Doch jetzt betrachtet Hinton die Dinge anders: "Ich habe meine Ansichten darüber, ob diese Dinger intelligenter sein werden als wir, plötzlich geändert", sagt er im Interview mit Technology Review. "Ich glaube, sie sind jetzt sehr nahe dran und sie werden in der Zukunft viel intelligenter sein als wir. Wie überleben wir das?" Hinton glaubt jetzt, es gebe nun künftig zwei Arten von Intelligenz auf der Welt, biologische Gehirne und neuronale Netze. Ob die biologische Intelligenz der Menschen ausreicht, die Sache noch zu stoppen? Hinton zeigt sich eher skeptisch: "Die USA können sich ja nicht einmal darauf einigen, Sturmgewehre von Teenager-Jungs fernzuhalten."

Transparenzhinweis: In einer früheren Version des Artikels wurde Geoffrey Hinton fälschlicherweise als Nobelpreisträger bezeichnet.

Zur SZ-Startseite

SZ PlusWindows
:Warum viele PCs bald Elektroschrott werden

Das neue Windows-11-System läuft auf vielen alten Rechnern nicht mehr. Geht es Microsoft wirklich um mehr Sicherheit - oder ist die Sache ein selbstgemachtes Konjunkturprogramm?

Lesen Sie mehr zum Thema

Jetzt entdecken

Gutscheine: