Es ist nur ein Satz auf der Website des Thinktanks Center for AI Safety (CAIS) aus San Francisco: "Das Risiko der Auslöschung durch KI zu entschärfen, sollte weltweit die Priorität anderer gesamtgesellschaftlicher Risiken wie Pandemien und Nuklearkrieg haben." Der Aufruf an die Welt wurde am Dienstag veröffentlicht und bedeutet: Künstliche Intelligenz (KI) gefährdet die Menschheit, und es gilt, sie aufzuhalten. Es wird scheinbar ernst.
Das Interessante ist aber nicht der Satz an sich, aus dem Silicon Valley und von anderswo gab es in den vergangenen Monaten immer wieder Warnungen vor KI. Das Interessante ist, wer den Aufruf unterschrieben hat, nämlich die Chefriegen fast aller führenden KI-Unternehmen. Zum Beispiel Sam Altman, Ilya Sutskever, Mira Murati und Greg Brockman von Open AI, dem Unternehmen hinter Chat-GPT. Der KI-Chatbot hat den derzeitigen Hype um die Technologie ausgelöst. Die neuen Chat- und Bildprogramme können wie von Menschenhand Sprache und Bilder erzeugen, weil sie mit sehr viel Rechenkraft anhand riesiger Datenmengen trainiert haben.
Auch die Chefs der KI-Unternehmen Anthropic und Stability AI haben unterschrieben, ihre hochentwickelten KIs können ebenfalls Texte und Bilder erzeugen. Ebenso Demis Hassabis von Googles Tochter Deepmind, bekannt für biologische Simulationen auf Protein-Ebene und KIs, die menschliche Großmeister in Brettspielen besiegen. Andere hochrangige Unterzeichner arbeiten führend bei Microsoft - der Konzern arbeitet eng mit Open AI zusammen - und Universitäten wie Harvard oder Stanford. Die Macher der KI warnen also vor ihren eigenen Produkten. Es stellt sich die Frage, ob sie sich ihr eigenes Geschäft kaputtmachen wollen.
Mögliche konkrete Gefahren, vor denen das CAIS auf seiner Website warnt, sind: KI könnte chemische Waffen entwickeln; Menschen könnten in totale Abhängigkeit von Maschinen geraten - in der Folge verkümmern ihre Eigenschaften; eine KI könnte zudem die Macht anstreben und dabei auch mit anderen KIs gegen die Menschen kollaborieren.
Aber wie wahrscheinlich sind solche Szenarien? Yann LeCun, KI-Chefforscher des Meta-Konzerns und Koryphäe des Fachs, hat nicht unterschrieben. Für ihn sind solche Warnungen Panikmache. Solange es nicht einmal KI "auf Hunde-Niveau" gebe, geschweige denn auf dem eines Menschen, sei die Warnung vor übermenschlicher KI verfrüht. Viel wahrscheinlicher als eine KI, die plötzlich "böse" wird, ist derzeit, dass KI von Menschen mit unlauteren Absichten als Werkzeug benutzt wird.
Andere wie die Computerlinguistin Emily Bender kritisieren die Erzählung von der Apokalypse, wie sie die KI-Unternehmer streuen, als Ablenkungsmanöver. Sie wollten demnach den Fokus auf einen generationenübergreifenden Kampf gegen eine abseitige Gefahr lenken. Darunter leiden Menschen, die schon heute von KI diskriminiert werden. Das geschieht etwa, wenn automatisierte KI-Systeme Vorurteile und Schräglagen aus den Datensätzen übernehmen, aus denen sie lernen. Ein Beispiel: Liegen die Gehälter schwarzer Menschen in einem Datensatz unter denen anderer Menschen, könnte die KI daraus lernen, dass schwarze Menschen auch weniger verdienen sollten, und entsprechend agieren. Auffallend abwesend von den existenziellen Gefahren für die Menschheit, die der Aufruf nennt, ist der Klimawandel.
Die SZ-Redaktion hat diesen Artikel mit einem Inhalt von X Corp. angereichert
Um Ihre Daten zu schützen, wurde er nicht ohne Ihre Zustimmung geladen.
Ich bin damit einverstanden, dass mir Inhalte von X Corp. angezeigt werden. Damit werden personenbezogene Daten an den Betreiber des Portals zur Nutzungsanalyse übermittelt. Mehr Informationen und eine Widerrufsmöglichkeit finden Sie untersz.de/datenschutz.
Sind es Supermaschinen, oder sind sie nur eine Art Hochstapler?
Handeln die Unterzeichner des Briefs also vielleicht gar nicht im Interesse der Menschheit? Ihr Vorstoß, in dem es ums ganz große Ganze - die Zukunft der Menschheit - geht, könnte auch dazu dienen, die kleinteilige Regulierung ihrer Sprachmodelle im Hier und Jetzt abzuwürgen. Beim Besuch von Sam Altman in Europa ging es vergangene Woche darum, allzu strenge Regeln für die Sprachmodelle in der EU zu verhindern.
Und in der Tat bleiben die Insider, die nun so laut warnen, bislang eine Erklärung schuldig, wie aus heutigen KI-Programmen à la Chat-GPT eine gefährliche "Superintelligenz" werden könnte. Chat-GPT oder Stable Diffusion von Stability AI basieren auf sogenannten großen Sprachmodellen. Sie errechnen quasi, welche Antwort zu einer Frage oder Anweisung passt, die ein Mensch eingibt. Und sie treffen immer wieder Ableitungen, die dem Nutzer wie logische Schlüsse vorkommen.
Da die Technologie nach dem Training aber eine intransparente "Blackbox" ist, verstehen nicht einmal ihre Konstrukteure, warum das Modell nun genau diesen Text oder jenes Bild ausspuckt. Deshalb bleibt umstritten, ob die KIs wirklich auf primitivem Niveau selbst planen und denken können oder ob sie aus dem Datenmaterial lediglich ableiten, was denn für einen Menschen nach logischem Denken klingt. Dann wären sie keine Supermaschinen, sondern nur eine Art Hochstapler, der Menschen anhand des Datenmaterials nachahmt und ihnen erzählt, was sie hören wollen, aber es nicht wirklich versteht. Deshalb vergleichen Skeptiker die Sprachmodelle auch mit plappernden Papageien. Dass diese Papageien sich plötzlich entschließen, Chemiewaffen zu bauen und die Menschen auszulöschen, ist derzeit glücklicherweise nicht abzusehen.
