EU-Einigung:Künstliche Intelligenz soll stärker geregelt werden

EU-Einigung: Künstliche Intelligenz wird schon jetzt in vielen Bereichen eingesetzt.

Künstliche Intelligenz wird schon jetzt in vielen Bereichen eingesetzt.

(Foto: DADO RUVIC/REUTERS)

Das KI-Gesetz, mit dem die EU weltweit Vorreiter sein will, steht endlich. Bestimmte Anwendungen werden komplett verboten.

Für den Einsatz von künstlicher Intelligenz (KI) sollen in der EU künftig strengere Regeln gelten. Unterhändler von Europaparlament und EU-Staaten verständigten sich am Freitagabend in Brüssel nach langen Verhandlungen auf entsprechende Regeln. Nach Angaben des EU-Parlaments handelt es sich um das weltweit erste KI-Gesetz.

Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht. Sie werden schon jetzt in vielen Bereichen eingesetzt. Zum Beispiel können solche Programme Aufnahmen von Computertomografen schneller und mit einer höheren Genauigkeit als Menschen auswerten. Auch selbstfahrende Autos versuchen so, das Verhalten anderer Verkehrsteilnehmer vorherzusagen. Und Chatbots oder automatische Playlists von Streaming-Diensten arbeiten ebenfalls mit KI.

Die EU-Kommission hatte das Gesetz im April 2021 vorgeschlagen. Demnach sollen KI-Systeme in verschiedene Risikogruppen eingeteilt werden. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen sein. Als besonders riskant werden Systeme eingestuft, die ein erhebliches Schadenspotenzial etwa für Gesundheit, Demokratie, Umwelt oder Sicherheit haben. Die Hoffnung ist, dass die Regeln weltweit Nachahmer finden.

Bestimmte Anwendungen werden komplett verboten, etwa biometrische Kategorisierungssysteme, die sensible Merkmale wie die sexuelle Orientierung oder religiöse Überzeugungen verwenden. Auch das ungezielte Auslesen von Bildern aus dem Internet oder aus Überwachungsaufnahmen für Gesichtserkennungsdatenbanken soll nicht erlaubt sein.

Allerdings wird es Ausnahmen für biometrische Identifizierungen im öffentlichen Raum in Echtzeit geben, etwa bei der Gefahr eines Terroranschlags oder bei der gezielten Suche von Opfern von Menschenhandel. Um diesen Punkt wurde intensiv gerungen, das EU-Parlament wollte eigentlich ein komplettes Verbot.

Zuletzt wären die Verhandlungen allerdings fast gescheitert - an der Frage der Regulierung von sogenannten Basismodellen. Das sind sehr leistungsfähige KI-Modelle, die mit einem breiten Satz an Daten trainiert wurden. Sie können die Grundlage für viele andere Anwendungen sein. Dazu zählen etwa GPT. Deutschland, Frankreich und Italien hatten zuvor gefordert, dass nur konkrete Anwendungen von KI reguliert werden sollten, nicht aber die Basis-Technologie an sich. Nun einigten sich die Unterhändler auf bestimmte Transparenzpflichten für diese Modelle.

Das Europaparlament und die Staaten müssen dem nun vereinbarten Vorhaben noch zustimmen, das gilt aber als Formsache. EU-Kommissionspräsidentin Ursula von der Leyen begrüßte die Einigung und bezeichnete das Gesetz als "weltweites Novum".

Zur SZ-Startseite

Transparenz-Blog
:Wie die SZ künstliche Intelligenz nutzt

Eine kurze Erklärung, wie die Redaktion mit neuen Technologien umgeht.

Lesen Sie mehr zum Thema

Jetzt entdecken

Gutscheine: