Im Jahr 1950 waren Computer so groß wie ein Ballsaal und konnten nur ein paar Zahlenfolgen bei sich behalten, und doch machte sich der amerikanische Mathematiker Norbert Wiener bereits Sorgen über die Zukunft. Das Zusammenspiel von Mensch und Maschine in einer Welt, in der die Rechner immer leistungsfähiger werden, drohe unfair zu werden. In einer Gesellschaft, die immer mehr durch die Wirkmechanismen von Signalen, Sensoren und der Auswertung von Informationen bestimmt wird, so der Begründer der Kybernetik, laufe man Gefahr, "Entscheidungen einem Wesen anzuvertrauen, das nicht abstrakt denken kann und sich daher möglicherweise nicht mit intellektuellen menschlichen Werten identifizieren kann, die nicht rein utilitaristisch sind", schrieb Wiener in seinem hellsichtigen Buch "Mensch und Menschmaschine - Kybernetik und Gesellschaft".
70 Jahre später ist "Cyber" nur noch eine schicke Vorsilbe, ungleich leistungsstärkere Computer als damals haben nur noch die Größe eines Handtellers, und die Gesellschaft hat ob ihrer Begeisterung angesichts all der Möglichkeiten Wieners Warnungen vergessen - und dabei nicht gemerkt, dass man die Spielregeln immer seltener selbst bestimmt. Schon heute entscheiden moderne KI-Systeme und undurchsichtige Algorithmen darüber mit, wer eingestellt wird oder nicht, wer welche Boni der Krankenversicherung erhält oder nicht, oder wer ins Gefängnis muss oder nicht.
Kann es eine KI geben, die mit menschlichen Werten übereinstimmt?
Auch bei der Alphabet-Tochter Deep Mind hat man eine lange Tradition darin, den Menschen zu beweisen, dass sie in dem einen oder anderen Spiel nicht mehr mithalten können. Schließlich wurde hier Alpha Go entwickelt, die künstliche Intelligenz, die menschliche Profis in dem für Computer vermeintlich undurchdringbaren Brettspiel Go mal eben in eine kollektive Depression beförderte. Jetzt hat man sich bei Deep Mind einer noch ehrgeizigeren Aufgabe angenommen. Nämlich eine gerechtere Welt zu schaffen. In einem Experiment namens Democratic AI wollte man demonstrieren, dass es möglich sei, durch lernende Maschinen soziale Systeme zu entwickeln, die von einer Mehrheit von Menschen bevorzugt werden. Schließlich, so heißt es lapidar in der Studie, sei es ein "ungelöstes Problem", eine KI zu entwickeln, die mit menschlichen Werten übereinstimme.
Dafür wurden mehrere Hundert Probanden gebeten, an einer Online-Simulation teilzunehmen, in der es darum ging, den Wohlstand einer gesellschaftlichen Gruppe gerecht zu verteilen. Zur Auswahl standen eine Umverteilungsmethode, die von der KI entwickelt wurde, und zwei, die von Menschen ins Spiel gebracht wurden - zum Beispiel eine eher libertäre Richtlinie, bei der den Teilnehmern überschüssiges Geld im Verhältnis zu den von ihnen geleisteten Beiträgen zurückgegeben wurde. Die Teilnehmer konnten dann darüber abstimmen, welches System sie präferierten.
Die Wahl der menschlichen Spieler fiel auf das Wirtschaftssystem der KI
Statt das Programm von vornherein mit vermeintlich menschlichen Werten auszustatten und das System damit potenziell auf die Präferenzen der Entwickler auszurichten, wurde es trainiert, um ein demokratisches Ziel zu maximieren: politische Maßnahmen zu entwerfen, die von den beteiligten Menschen bevorzugt werden und für deren Umsetzung sie in einer Mehrheitswahl stimmen würden.
Die Wahl der menschlichen Spieler entfiel dann tatsächlich auf das Wirtschaftssystem der KI. Das Endergebnis war übrigens weder aggressiver Egalitarismus noch ein postapokalyptischer Raubtierkapitalismus, in der einzig und allein das Recht des Reicheren herrscht. Vielmehr verteilte die siegreiche Konfiguration der gesellschaftlichen Ressourcen die Mittel an "die Menschen im Verhältnis zu ihrem relativen und nicht zu ihrem absoluten Beitrag", wobei die Startbedingungen - Stichwort Erbschaftssteuer - berücksichtigt wurden. Zweitens belohnte das System "besonders die Spieler, deren relativer Beitrag großzügiger war, was andere vielleicht ermutigte, es ihnen gleichzutun".
Eine künstliche Intelligenz, die Menschen zu mehr Altruismus konditioniert, ist schon wieder eine Dystopie für sich. Doch das Fazit, das die beteiligten Forscher ziehen, lautet übrigens nicht, dass die Menschheit sich nun dem Urteil einer wohlmeinenden Maschine unterwerfen sollte. Sondern, dass menschliche Werte Teil der Spielregeln bleiben müssen.
