Süddeutsche Zeitung

Digitalisierung:EU will Opfer künstlicher Intelligenz besser schützen

Lesezeit: 3 min

Bürger sollen einfacher auf Schadenersatz klagen können, wenn mächtige und schwer verständliche Software-Systeme Fehler machen. Dies sieht ein brisanter Gesetzentwurf der EU vor.

Von Björn Finke, Brüssel

Künstliche Intelligenz (KI) ist eine mächtige Zukunftstechnologie. Selbstlernende Computerprogramme, die mit riesigen Datenmengen trainiert werden, können die Fabrikproduktion effizienter gestalten, selbstfahrende Autos steuern oder der Personalabteilung beim Vorsortieren von Bewerbungen helfen. Vielen Menschen macht dieser Siegeszug der Algorithmen aber auch Angst. Deswegen sollen in der EU strenge Regeln gelten, wenn KI in wichtigen oder heiklen Bereichen eingesetzt wird. Die Kommission legte dafür bereits vor anderthalb Jahren den Entwurf einer KI-Verordnung vor. Über den Rechtsakt verhandelt gerade das EU-Parlament, was sich zäh gestaltet. Kommende Woche wird die Brüsseler Behörde jedoch direkt das nächste Gesetz zur Künstlichen Intelligenz präsentieren - diesmal geht es um Haftungsfragen.

Der Süddeutschen Zeitung liegt ein Entwurf dieser Richtlinie vor. Der Rechtsakt widmet sich dem Problem, dass es nach Fehlern eines KI-Systems für die Opfer sehr schwierig sein kann, Schadenersatz zu erhalten. Denn dafür müssen die Opfer Fehlverhalten nachweisen sowie eine Verbindung zwischen diesem Verhalten und dem Schaden. Zum Beispiel könnte die Software einer Bank einen Kunden fälschlicherweise für nicht kreditwürdig erklären, nachdem der Mitarbeiter das Programm falsch bedient hat. Aber den Zusammenhang zwischen einer Handlung und dem Endergebnis herzustellen, ist bei KI äußerst mühsam, weil die Systeme so kompliziert, intransparent und schwer vorhersehbar sind.

Darum gibt die Richtlinie Opfern das Recht, die Herausgabe der benötigten Informationen über die Systeme zu verlangen: etwa die Daten, mit denen die Software trainiert wurde, Nutzerprotokolle oder Angaben zum Qualitätsmanagement. Geschäftsgeheimnisse sollen allerdings geschützt bleiben. Weigern sich die Unternehmen, kann dieser Anspruch vor Gericht durchgesetzt werden. Gelingt es trotzdem nicht, an die Daten heranzukommen, würde dies im Schadenersatz-Prozess gegen die Firma ausgelegt. Denn in dem Fall würde die Beweislast umgekehrt. Es wird nun davon ausgegangen, dass der verdächtig verschwiegene Konzern Sorgfaltspflichten verletzt hat - solange er nicht das Gegenteil belegen kann.

Außerdem erleichtert der Richtlinienentwurf Opfern die Beweisführung, wenn das Unternehmen Vorgaben aus der KI-Verordnung missachtet hat. Dieses Gesetz verlangt bei riskanten Einsatzgebieten, zum Beispiel im Verkehr, in der Medizin oder bei Kreditanträgen, dass die Daten, die zum Trainieren der Systeme verwendet werden, hochwertig sind und nicht bestimmte Gruppen diskriminieren. Menschen müssen die Software einfach überwachen und zur Not schnell ausschalten können; die Arbeitsweise der Programme muss transparent sein. Verstoßen Anwender gegen diese Vorschriften, bleiben Opfer im Schadensfall davon verschont, einen ursächlichen Zusammenhang zwischen dem Versäumnis und ihrer Unbill nachweisen zu müssen. Die Beweislast liegt also wieder auf den Schultern der Konzerne.

Was soll für KI-Kameras auf Plätzen gelten?

Nach der Vorlage des Gesetzentwurfs kommende Woche müssen sich Europaparlament und Ministerrat, das Gremium der EU-Regierungen, damit befassen. Wird die Richtlinie am Ende verabschiedet, haben die Mitgliedstaaten zwei Jahre Zeit, um sie in nationales Recht umzusetzen. Im EU-Parlament gibt es bereits Applaus für den Vorschlag. Die Grünen-Abgeordnete Anna Cavazzini sagt, sie begrüße die Initiative, denn Verbraucherinnen und Verbraucher in der EU müssten "sich auf einen hohen Schutzstandard auf unserem digitalen Binnenmarkt verlassen können". Die Vorsitzende des Binnenmarktausschusses würde sich aber wünschen, die Hürden der Beweislast für Opfer weiter zu senken.

Unterdessen gehen die Debatten über die KI-Verordnung im Europaparlament weiter - also über jenen Rechtsakt, der Regeln für den Einsatz setzt. Die zuständigen Ausschüsse sollen im Herbst über ihre Position abstimmen. Danach könnten die Verhandlungen zwischen EU-Parlament und Ministerrat über den finalen Gesetzestext beginnen. Ein großer Streitpunkt zwischen den Abgeordneten ist, unter welchen Bedingungen KI für automatische Gesichtserkennung auf öffentlichen Plätzen genutzt werden darf.

Der Entwurf der Kommission will es der Polizei grundsätzlich verbieten, KI-Systeme in Echtzeit die Bilder von Überwachungskameras nach Personen durchsuchen zu lassen. Allerdings sind zeitlich und geografisch begrenzte Ausnahmen möglich, wenn ein Richter sie genehmigt und diese zum Beispiel dazu dienen, einen Terroranschlag zu verhindern oder bei der Suche nach einem vermissten Kind oder einem gefährlichen Verbrecher zu helfen. Vielen Grünen, Sozialdemokraten und Liberalen im EU-Parlament gehen selbst diese Ausnahmen zu weit. Kein Zweifel: Die Regeln für KI werden noch für manchen Aufreger gut sein.

Bestens informiert mit SZ Plus – 4 Wochen kostenlos zur Probe lesen. Jetzt bestellen unter: www.sz.de/szplus-testen

URL:
www.sz.de/1.5662209
Copyright:
Süddeutsche Zeitung Digitale Medien GmbH / Süddeutsche Zeitung GmbH
Quelle:
SZ/ma
Jegliche Veröffentlichung und nicht-private Nutzung exklusiv über Süddeutsche Zeitung Content. Bitte senden Sie Ihre Nutzungsanfrage an syndication@sueddeutsche.de.