bedeckt München 27°

Künstliche Intelligenz:Was das neue KI-Gesetz der EU vorsieht

A sign marks a new facial recognition technology at the train station Suedkreuz in Berlin

Wer steigt denn da in den Zug? Am Berliner Bahnhof Südkreuz wurde Gesichtserkennung getestet.

(Foto: Hannibal Hanschke/Reuters)

Die Kommission legt ihren Gesetzesvorschlag zur künstlichen Intelligenz vor. Die Behörde hat ihn verschärft, etwa bei der Auswertung der Bilder von Überwachungskameras. Brüssel hofft auf Nachahmer.

Von Björn Finke, Brüssel

Künstliche Intelligenz (KI) ist eine mächtige Zukunftstechnologie. Selbstlernende Computerprogramme, die mit riesigen Datenmengen trainiert werden, können die Fabrikproduktion effizienter gestalten oder selbstfahrende Autos steuern. Doch Europa hinkt den USA und China hinterher. Zudem fürchten manche Bürger und Politiker den Missbrauch von KI. Die EU-Kommission versucht nun den Spagat: Die Behörde will die Entwicklung fördern und gleichzeitig manche Anwendungsfälle verbieten oder strengen Regeln unterwerfen.

Am Mittwoch präsentierte die für Digitalisierung zuständige Vizepräsidentin Margrethe Vestager einen Plan, wie EU-Regierungen und Brüssel die Technologie gemeinsam unterstützen können. Außerdem stellte sie einen Verordnungsvorschlag vor; diesem Gesetz müssen EU-Parlament und Mitgliedstaaten zustimmen. Es würde dann unmittelbar in den Ländern gelten und dort den Einsatz von KI regeln. "Bei künstlicher Intelligenz ist Vertrauen ein Muss und kein Beiwerk", sagte die Liberale. Im Vergleich zu früheren Entwürfen verschärfte die Behörde das Gesetz. So wurde die Strafe bei schweren Verstößen auf bis zu sechs Prozent des weltweiten Umsatzes festgesetzt; vorher waren es vier Prozent. Zudem schränkte die Kommission nach Kritik von Abgeordneten die Verwendung von KI bei automatischer Gesichtserkennung auf öffentlichen Plätzen stärker ein.

Demnach ist es der Polizei nun grundsätzlich verboten, KI-Systeme in Echtzeit die Bilder von Überwachungskameras nach Personen durchsuchen zu lassen. Zeitlich und geografisch begrenzte Ausnahmen sind möglich, wenn ein Richter sie genehmigt und diese zum Beispiel dazu dienen, einen Terroranschlag zu verhindern oder bei der Suche nach einem vermissten Kind oder einem gefährlichen Verbrecher zu helfen.

Zudem dürfen Firmen und Staaten KI-Software nicht einsetzen, um Menschen "mit sublimen Techniken, ohne dass sich die Person dessen bewusst ist", zu manipulieren oder um Social Scoring zu betreiben. Damit ist das Auswerten und Belohnen systemtreuen Verhaltens gemeint, wie es Chinas Regierung praktiziert. Daneben legt die Verordnung eine Reihe "Hoch-Risiko"-Anwendungen fest, die nur unter strengen Vorgaben erlaubt sind. Hier geht es zum Beispiel um KI-Programme, welche die Kreditwürdigkeit von Bürgern benoten, Stellenbewerbungen vorsortieren oder beim Betrieb des Strom- oder Gasnetzes eingesetzt werden.

Die EU hofft, Vorbild für die Welt zu sein

Bei diesen riskanten Fällen verlangt das Gesetz, dass die Daten, die zum Trainieren der Systeme verwendet werden, hochwertig sind und nicht bestimmte Gruppen diskriminieren. Menschen müssen die Software einfach überwachen und zur Not schnell ausschalten können; die Arbeitsweise der Programme muss transparent sein.

Kritiker klagen, dass die Kommission die junge Technologie überreguliere. Die Behörde betont aber, dass die meisten Anwendungen nicht riskant und damit vom Rechtsakt nicht betroffen seien. Ein anderes EU-Gesetz für die Digitalbranche - die Datenschutz-Grundverordnung - hat weltweit viele Nachahmer gefunden; die EU setzte hier den globalen Standard. Kommissions-Vize Vestager hofft auf Ähnliches bei der KI-Verordnung: "Mit diesen wegweisenden Vorschriften steht die EU an vorderster Front bei der Entwicklung neuer weltweiter Normen." Mit dem Gesetz "können wir weltweit den Weg für ethische Technik ebnen".

© SZ
Zur SZ-Startseite

Lesen Sie mehr zum Thema

Süddeutsche Zeitung
  • Twitter-Seite der SZ
  • Facebook-Seite der SZ
  • Instagram-Seite der SZ
  • Mediadaten
  • Newsletter
  • Eilmeldungen
  • RSS
  • Apps
  • Jobs
  • Datenschutz
  • Kontakt und Impressum
  • AGB