bedeckt München 12°
vgwortpixel

Überwachung:Daten sind das neue Plutonium

Video-Überwachungskamera

Alles im Blick: Künstliche Intelligenz hilft auch bei einer Massenüberwachung der Bürgerinnen und Bürger.

(Foto: dpa)

Die Europäische Union überlegt, den Einsatz von künstlicher Intelligenz sehr sorgfältig zu regulieren. Das ist gut, denn nicht nur die Chancen sind groß, sondern auch die Gefahren.

Der Zeitpunkt ist perfekt für die EU-Kommission, um den Entwurf eines Weißbuchs für den europäischen Umgang mit künstlicher Intelligenz (KI) in Umlauf zu bringen. Am vergangenen Wochenende diskutierte die Tech-Elite auf der Münchner Digitalkonferenz DLD erstaunlich pessimistisch über die digitale Zukunft. Seit Dienstag treffen sich nun Entscheidungsträger zum Weltwirtschaftsforum in Davos. Da geht es für die Öffentlichkeit vor allem ums Klima. Aber wie schon im vergangenen Jahr ist auch KI ein bestimmendes Thema. Denn da gibt es eine mythische Zahl, die seit einiger Zeit kursiert.

Um 15,7 Billionen Dollar soll KI spätestens von 2030 an das globale Bruttosozialprodukt jährlich erhöhen. Durch mehr Konsum und Einsparung von Arbeitsplätzen. Egal, was man von solchen Prognosen hält, kommt so eine Zahl in Umlauf, kann aus einer neuen Technologie eine ökonomische Naturgewalt werden. Die gesellschaftlichen Auswirkungen der KI werden jedenfalls allumfassend sein.

Der Weißbuch-Entwurf geht kundig und optimistisch an das Thema KI heran. Das wird viele überraschen, welche die EU-Kommission als Epizentrum fortschrittsfeindlichen Regulierungswahns ansehen, wie so viele aus der Tech-Branche. Doch der Entwurf hat im Blick, dass Europa bei der Entwicklung und Anwendung aufholen muss. Weil die positiven Effekte von KI in der Medizin, der Logistik, in der Qualitätskontrolle oder der Bekämpfung der Erderwärmung enorm sein könnten.

Im Subtext darf man das so verstehen, dass das bei den Weltmarktführern USA und China schon passiert ist. Gleich zu Beginn betont der Text aber, die EU wolle dafür sorgen, dass bei der Entwicklung von KI europäische Werte und Prinzipien gewahrt bleiben. Europa mag bei der wirtschaftlichen Entwicklung digitaler Technologien notorisch hinterher sein. Den Einfluss der EU auf die Tech-Welt und ihr Ansehen bei vernünftigen Menschen darf man aber nicht unterschätzen. Über die europäische Datenschutz-Grundverordnung wurde erst weltweit geflucht. Inzwischen entwickelt sie sich zum internationalen Standard. Tech-Pioniere preisen sie als wegweisend. Gerade weil mit KI Daten zur Gefahr für den Einzelnen werden.

Was zum Beispiel mit Bürgerrechten passieren kann, enthüllte ebenfalls in diesen Tagen ein Bericht der New York Times über die Firma "Clearview AI". Die hat bei US-Behörden und aus dem Internet drei Milliarden Bilder von Menschen zusammengesammelt und diese Datenbank mit einer KI gekoppelt, die innerhalb von Sekunden Menschen identifizieren kann. Polizei- und Sicherheitsbehörden wie das US-Ministerium für Heimatschutz oder das FBI wären potenzielle Kunden. Für US-Bürger bedeutete der Einsatz dieser Technologie das Ende des Datenschutzes.

Bisher kannte man eine solch flächendeckende Nutzung von Gesichtserkennung für die Bevölkerungskontrolle aus China. Doch auch in Deutschland experimentieren Polizeikräfte mit solchen Methoden. Innenminister Horst Seehofer (CSU) möchte sie per Gesetz an Flughäfen und Bahnhöfen einführen. Dafür gibt es gute Gründe. Auch in Ländern aber, deren Rechtsstaatsverständnis eher mit dem europäischen im Einklang stehen, reicht ein leichter Rechtsruck in der Regierung, um in bislang rechtsstaatlichen Organen finstere Kräfte frei zu setzen. Das zeigt das Beispiel der US-Einwanderungsbehörde ICE, die sich unter Trump zum brutalen Rollkommando gewandelt hat.

Die EU hat die Gefahren erkannt

Das Weißbuch fordert deswegen ein Moratorium für solche Methoden. Das ist eine vernünftige Vorsichtsmaßnahme, auch wenn ja sein mag, dass künstliche Intelligenz mit Intelligenz nichts zu tun hat. Den hübschen Begriff hat sich der Mathematiker John McCarthy in den Fünfzigerjahren für einen Drittmittelantrag ausgedacht. KI ist nichts anderes als der nächste Entwicklungsschritt der Datenverarbeitung, der vor allem komplexe Rechenvorgänge wie die Analyse von Datenmustern automatisiert und dabei durch Maschinenlernen immer besser wird.

Was solche Prozesse auslösen können, diskutierte man bei der DLD am Beispiel Facebook intensiv. Das soziale Netz ist mit niedrigschwelliger KI darauf getrimmt, die Zeit der Nutzer auf der Seite und damit die Nutzerdaten und den Profit der Firma zu maximieren. Das ist per se nicht verwerflich. Nebenwirkungen waren jedoch die Erosion der politischen Diskurse und die Verstärkung gesellschaftlicher Spaltungen. Außerdem beeinflussen soziale Netzwerke das Verhalten ihrer Nutzer. Die Untersuchungen, welche Auswirkungen das auf Wahlen hatte, sind erst am Anfang.

All dies beschleunigt künstliche Intelligenz. Die Daten jedes Einzelnen sind dabei der digitale Treibstoff. Die verfolgte Journalistin Maria Ressa, die in ihrer Heimat, auf den Philippinen, die Erosion der Demokratie und Bürgerrechte beobachtet, warnte deswegen bei der DLD: "Daten sind nicht das neue Öl. Sie sind das neue Plutonium." Die EU hat das erkannt.

© SZ vom 22.01.2020/vd
Digitale Privatsphäre Eine Software schockiert Amerika

Gesichtserkennung mit "Clearview AI"

Eine Software schockiert Amerika

Der Albtraum für die Privatsphäre: Das Programm "Clearview AI" kennt die Gesichter von Millionen Menschen. US-Polizisten setzen sie bereits ein.   Von Jannis Brühl und Simon Hurtz

Zur SZ-Startseite