Kommentar Zähmt die Computer

Achtung, uns droht eine Diktatur der Daten - so warnen renommierte Wissenschaftler in einem neuen Manifest. So ganz unrecht haben sie mit dieser Befürchtung nicht.

Von Christian Weber

Selten verlief eine Revolution so geräuschlos. Kein Wunder. Wer vernimmt schon das Getöse der Kühlanlagen in den Rechenzentren und Netzknotenpunkten? Sie liegen hinter fensterlosem Beton, ihre Adressen sind nicht öffentlich bekannt. Vielleicht unterschätzen deshalb immer noch viele, ach was, fast alle Menschen, wie sehr Big Data und künstliche Intelligenz (KI) unsere Gesellschaft umwälzen werden. Insofern ist es verdienstvoll, dass jetzt eine Gruppe renommierter Wissenschaftler in einem Manifest vor einer ungesteuerten Digitalisierung warnt, unter ihnen der Physiker und Sozialwissenschaftler Dirk Helbing, der Ökonom Bruno S. Frey der Risikoforscher Gerd Gigerenzer und der Wissenschaftshistoriker Michael Hagner (veröffentlicht auf spektrum.de).

Der schlimmste Fall: eine automatisierte Gesellschaft, in der Computer entscheiden

Ihre Analyse lässt frösteln: Im kommenden Internet der Dinge werden in zehn Jahren 150 Milliarden Sensoren die Welt vernetzen; alle zwölf Stunden wird sich dann die Datenmenge der Welt verdoppeln. Hochleistungsrechner werden diese Informationen verarbeiten können und selbständig aus ihnen lernen. Algorithmen könnten in den nächsten Jahrzehnten die Hälfte aller Arbeitsplätze ersetzen, sie könnten Gedanken und Gefühle ausspähen und Prognosen in allen Lebensbereichen erstellen - etwa ob jemand beruflich erfolgreich, krank oder kriminell werden wird. Im schlimmsten Falle - so die Autoren des Manifests - könnte es zu einer automatisierten Gesellschaft kommen, in dem superintelligente Computer wesentliche Entscheidungen in Politik und Wirtschaft treffen. Und womöglich werde Software auch versuchen, das Verhalten der Bürger zu manipulieren. Die Experten sprechen von "Big Nudging", also davon, Menschen durch kleine Anstupser etwa zu gesundheitsbewusstem Verhalten anzuregen. Wie die totalitäre Version des Anstupsens aussehen könnte, hat vor Kurzem der China-Experte Rogier Creemers von der University of Oxford berichtet: Demnach plant Peking bis zum Jahre 2020 einen "Citizen Score" für alle Bürger einzurichten, der sozial erwünschtes Verhalten etwa im Internet automatisch bewertet: Wer die KP bejubelt, erhält Punkte und damit leichter Kredite und Visa für Urlaubsreisen; wer kritisiert, bekommt Punktabzug. Von China lernen, heißt fürchten lernen. Und das ist vielleicht auch ganz gut so.

Produktiv wäre die Angst, wenn sie zu Bewegung führen würde, denn noch entscheiden Menschen auf diesem Planeten, nicht Computer. Die Politik sollte dafür sorgen, dass Menschen ihre Datenhoheit zurückgewinnen. Sie sollte erkennen, dass Algorithmen von unabhängigen Institutionen überwacht werden müssen. Und sie sollte sich genau überlegen, welche Entscheidungen sie an KI-Programme abtreten will. Und das rechtzeitig.