Computer können heutzutage viele Dinge beinahe so gut wie, genauso gut wie oder sogar besser als Menschen. Zum Beispiel Schach spielen, Krankheiten diagnostizieren, von den Lippen lesen oder sogar andere Computer programmieren. Weil der Mensch aber nun mal an sich eitel ist, kann es nur mit übernatürlichen Dingen zugehen, wenn er übertroffen wird. Und die Magie von heute heißt künstliche Intelligenz.
KI-Modelle können zwar Phänomene der Welt enorm präzise und übermenschlich schnell kategorisieren oder sogar Vorhersagen über diese treffen, es gibt da aber ein Problem: Niemand weiß so genau, wie oder warum sie eigentlich funktionieren. Es gibt einen Mangel an mathematischen Gesetzen, die besagen, wann maschinelles Lernen funktioniert oder mit wie viel sorgfältig von Menschen präparierten Daten man das Modell zuerst befüllen muss, damit es funktioniert.
Ursula von der Leyen, Präsidentin der EU-Kommission, möchte Regeln für die künstliche Intelligenz festlegen. Google-Chef Sundar Pichai wirbt ebenfalls für neue Standards.
In einem neuen Paper widmen sich Alexander Campolo und Kate Crawford, zwei Forscher des New Yorker AI Now Institute, einer erkenntnistheoretischen Betrachtung des KI-Hypes und sprechen dabei von einer "verzauberten Vorherbestimmtheit". Sie beziehen sich dabei auf Max Webers Bonmot von der Entzauberung der Welt. Vor beinahe hundert Jahren sprach der Soziologe davon, dass das Wesen von Wissenschaft ja vor allem der Glaube daran sei, "dass man, wenn man nur wollte, es jederzeit erfahren könnte. Dass es also prinzipiell keine geheimnisvollen unberechenbaren Mächte gebe, die da hineinspielen, dass man vielmehr alle Dinge - im Prinzip - durch Berechnen beherrschen könne". Gerade Deep Learning, also ein hochkomplexes mathematisches Phänomen, das Weber wohl ohne Zweifel mit der Entzauberung assoziiert hätte, führt momentan, um im Bild zu bleiben, zu einer Wiederverzauberung der Welt.
Wenn wir es nicht wissen können, dann sind wir am Ende auch nicht verantwortlich
Das generiert gleich mehrere Probleme. Zum einen führt der magisch aufgeheizte Diskurs sowohl bei der uninformierten Öffentlichkeit als auch bei jenen Menschen, die zwar Budgetverantwortung, aber kein tief greifendes Verständnis der Materie haben, zu einer Überschätzung der Fähigkeiten dieser Technologie. Zum anderen, so schreiben Campolo und Crawford, bietet der Rekurs auf die Magie den Machern auch die Möglichkeit, bequem Verantwortung von sich zu schieben. Nach dem Motto: Es liegt nicht an uns, wenn eine KI-Software Unheil anrichtet, es war der unberechenbare Geist in der Maschine.
Selbst die Experten haben inzwischen eingesehen, dass ihr Feld in bedenkliche Schieflage geraten ist. Vor einiger Zeit gab der damals bei Google beschäftigte KI-Forscher Ali Rahimi die Rolle des Netzbeschmutzers: Auf der renommierten Branchenkonferenz NIPS sollte er einen Preis für seine Arbeit entgegennehmen und sagte dann während der Dankesrede auf großer Bühne, dass "maschinelles Lernen zur Alchemie geworden ist". Man betreibe keine Wissenschaft, sondern schraube an ein paar Variablen und beobachte, was dabei herauskommt.
Das sei zwar in Ordnung, wenn es nur darum gehe, Fotos zu sortieren, aber nicht, wenn mittels der KI-Alchemie Einfluss auf demokratische Wahlen oder das Gesundheitssystem eines Landes genommen werde. So viel Selbstbezichtigung löste zunächst peinlich berührtes Raunen im Publikum aus, das sich schnell zu bemühtem Gelächter wandelte. Am Ende seines Vortrags erntete Rahimi minutenlangen Applaus der sonst eher abgeklärten KI-Gemeinde.
Dass der Endnutzer nicht versteht, wie die Expertensysteme, in die er verstrickt ist, funktionieren, war schon immer so. Man vertraute auf die Technologie in dem Wissen, dass irgendwo im Hintergrund eine Wissenschaft steckt, die das Wirken der Gerätschaften schon erklären könne. Das zeugt vom enormen Pragmatismus des Menschen. Dass nun selbst die Theoretiker in Erklärungsnot geraten, wie eine mächtige Anwendung funktioniert, die im Begriff ist, in sämtliche Aspekte des modernen Lebens hinein zu diffundieren, sollte zu denken geben. Oder anders ausgedrückt: Würde man auch in ein Flugzeug steigen, wenn man zwar wüsste, dass, aber nicht, wie es funktioniert?
