Europäische Union:Hoffnung und Furcht

Gesichtserkennungstechnologie *** face recognition technology PUBLICATIONxINxGERxSUIxAUTxONLY Copyright: xGaryxWatersx

Automatische Gesichtserkennung auf öffentlichen Plätzen mit Hilfe künstlicher Intelligenz soll erlaubt bleiben - unter strengen Voraussetzungen.

(Foto: Gary Waters via www.imago-images.de/imago images/Ikon Images)

Künstliche Intelligenz ist umstritten - aber ein mächtiges Instrument. Die EU-Kommission will per Gesetz bestimmte Anwendungen verbieten. Manchem geht das nicht weit genug.

Von Björn Finke, Brüssel

Künstliche Intelligenz (KI) sehen die einen als Hoffnungsträger an, die anderen als Gefahr. Einig sind sich beide Seiten, dass selbstlernende Computerprogramme, die ihre Leistung durch die Analyse großer Datenmengen stetig verbessern, ein mächtiges Werkzeug sind. Und eine Zukunftstechnologie, bei der Europa von den USA und China abgehängt zu werden droht. Die EU-Kommission versucht den Brückenschlag zwischen Fans und Gegnern: Sie wird kommende Woche eine Strategie vorstellen, wie die Entwicklung von KI gefördert werden kann.

Zugleich präsentiert die Behörde einen Verordnungsvorschlag, der gewisse Anwendungen künstlicher Intelligenz verbietet und andere strengen Regeln unterwirft. Eine Verordnung gilt unmittelbar in allen Mitgliedstaaten; der Süddeutschen Zeitung liegt der 81-seitige Entwurf vor. Der könne sich bis zur Vorstellung noch in einigen Punkten ändern, warnen Insider. Doch die Struktur des EU-Gesetzes dürfte gleich bleiben. Demnach gibt es eine kurze Liste von Anwendungen, die grundsätzlich verboten sind, es sei denn, Regierungen nutzen sie unter gewissen Umständen zum Schutz der Bevölkerung. Zu der Liste zählt zum Beispiel die wahllose Überwachung von Bürgern oder der Versuch, die Meinung oder das Verhalten von Menschen mit Hilfe ausgeklügelter Algorithmen zu manipulieren.

Daneben gibt es eine deutlich längere Aufstellung sogenannter "Hoch-Risiko"-Systeme. Diese Anwendungen sind erlaubt, unterliegen aber strengen Regeln. So müssen die Daten für das Trainieren der Software von hoher Qualität sein, die Arbeitsweise der KI muss transparent sein, und die Programme müssen von Menschen überwacht werden. Beispiele sind die Gesichtserkennung im öffentlichen Raum, Software zur Vorhersage von Verbrechen und zur Beurteilung der Kreditwürdigkeit oder Programme, die Unternehmen für Personalentscheidungen nutzen.

Die ersten Reaktionen aus dem EU-Parlament sind kontrovers: Alexandra Geese, die das Thema für die Grünen betreut, klagt, der Entwurf sei "an entscheidenden Stellen nicht scharf genug". Auf der anderen Seite moniert der CSU-Europaabgeordnete Markus Ferber, dass sich der Vorschlag "wie ein Verbotskatalog" lese: "Im Bereich der Künstlichen Intelligenz gibt es viele Anwendungsfälle, die sich heute noch gar nicht absehen lassen", sagt der wirtschaftspolitische Sprecher der christdemokratischen EVP-Fraktion. "Wenn die Kommission zu restriktiv reguliert, droht sie einer Zukunftstechnologie den Hahn abzudrehen, bevor wir ihr Potenzial jemals richtig ausschöpfen konnten."

Zur SZ-Startseite

Lesen Sie mehr zum Thema

Jetzt entdecken

Gutscheine: