Den Maschinen ist nicht zu trauen, aber das ist nicht ihre Schuld. In der Debatte über künstliche Intelligenz (KI) sind es Menschen, die heute die Weichen stellen, ob es morgen Ärger mit selbständig lernender und handelnder Software gibt. Polizisten und Sicherheitspolitiker wollen Technik, die ihnen sagt, wer verdächtig ist und wo er sich gerade aufhält. Unternehmer wollen Lästiges an Maschinen auslagern: Gespräche mit wütenden Kunden (an Chatbots) oder das Aussieben von Bewerbern (an "Recruiting"-Software). Andere Firmen wollen diesen Unternehmern entsprechende Technik verkaufen - unter dem Schlagwort "KI" kann man schließlich noch mehr mittelmäßige Software losschlagen als unter "Blockchain". Ob am Ende Menschen benachteiligt werden, interessiert viele von ihnen nicht. Dabei passiert das, wenn ein Algorithmus schlecht geschrieben ist oder in dem Datensatz, an dem er gelernt hat, bestimmte Gruppen von Menschen gar nicht vorkommen.
In dieser Gemengelage hat die EU-Kommission ihren Entwurf für KI-Regeln vorgelegt. Sie tragen die Handschrift der Kommissare Margrethe Vestager und Thierry Breton, die das Verhältnis von Menschen und Maschine ordnen wollen - zugunsten der Menschen. KI ist eine Art Über-Technologie, die in den kommenden Jahrzehnten viele Bereiche unseres Lebens im Unsichtbaren prägen wird. Oft können nicht einmal Fachleute nachvollziehen, was eine Maschine gelernt hat und warum. Immer wahrscheinlicher scheint eine Gesellschaft, die vom automation bias geprägt ist - dem übertriebenen Vertrauen in Maschinen. Den Effekt kennt jeder, der sich schon einmal auf Google Maps verlassen hat, um dann festzustellen, dass er den Weg auch alleine gefunden hätte.
Wenn die Automatisierung denn kommt - was in vielen Fällen ja wünschenswert ist, wie bei nervigem Papierkram - muss sie gestaltet werden. Sonst werden viele Formen von KI ein omnipräsenter Autopilot, der die Menschen auf Wege führt, die sie eigentlich gar nicht gehen wollen. Zurecht haben Vestager und Breton deshalb die Frage des Vertrauens ins Zentrum gestellt: Steckt hinter dem Bot, der in einer Krise psychologischen Beistand leistet, ein Mensch oder ein Programm, das spricht wie ein Mensch? Wer hat die Politikerin in das Video montiert, mit dem sie diskreditiert werden soll? Eine Software, die niemandem verantwortlich ist?
Die geplanten Strafen sind so hoch, dass auch internationale Konzerne wenig Lust haben dürften, es oft darauf ankommen zu lassen. Die Kommission will künstliche Intelligenzen zudem sinnvollerweise in Risikoklassen einteilen. Das hilft nicht nur, Science-Fiction-Ängste vor der einen monströsen "Superintelligenz" zu bremsen. Es wird der Vielfalt der KI-Anwendungen gerecht. Harmlos ist etwa ein E-Mail-Spamfilter, der sich merkt, dass Betreffzeilen mit den Worten "Bitcoin" und "Millionär" womöglich nicht überraschenden Reichtum ankündigen, sondern Betrug.
Das ganz große Spiel wird zwischen den KI-Supermächten USA und China ausgetragen
Geht es darum, nach welchen Kriterien Menschen Sozialhilfe erhalten oder ob sich Bürger frei bewegen können, ohne dass der Staat jederzeit weiß, wo sie sind, wird es heikel. Die Vision von Breton und Vestager ist auch schon verwässert, bevor Mitgliedsstaaten und EU-Parlament nun an ihr feilen dürfen. Sicherheitspolitiker haben es mal wieder geschafft, mit Verweisen auf Terrorismus und vermisste Kinder den Einsatz von Überwachungstechnik zu erleichtern, in diesem Fall von Gesichtserkennung in Kameras auf der Straße.
Die Regeln zeigen zwar, dass sich die EU - manchmal - von kommerziellen und geostrategischen Überlegungen lösen und ernsthaft fragen, was das Beste für die Menschen ist. Doch es kann nicht darum gehen, sich selbst zu loben, weil man auf dem Kontinent auch einmal etwas von der Digitalisierung verstanden hat. Nun darf sich die Kommission zum einen ihre Regeln nicht weiter von Polizei- und Konzernlobbyisten verwässern lassen. Zum anderen muss sie ihre Vision auch auf das nächste, das globale Level wuchten.
Denn das ganz große Spiel wird zwischen den KI-Supermächten USA und China ausgetragen. Im Wettrüsten führen die Chinesen seit Kurzem in der wichtigen Kategorie der Zitierungen in Fachzeitschriften. Joe Biden liegt ein Sicherheitsbericht von 756 Seiten vor, in dem steht, wie er Chinas technischen Vorsprung einholen kann. Die EU sollte am Ende ihre Regeln so vorausschauend - und verständlich - formuliert haben, dass sich zumindest die USA an ihnen orientieren wollen. Eine echte Chance unter Bidens Regierung, die den Blick wieder nach Europa lenkt. Ein bisschen Gegenkraft zur Lobbymacht der KI-Großmächte im eigenen Land - Facebook, Google und Microsoft - schadet nicht, wenn es darum geht, die unsichtbare Seite der Zukunft zu gestalten.