Schutz im Netz: Aufsicht für Algorithmen

Ein Ethik-Gremium entwickelt für die Bundesregierung Leitlinien für künstliche Intelligenz. Tenor: Ohne staatliche Kontrolle im Netz nehmen Grundrechte Schaden.

Wie schützt der Staat seine Bürger vor dem Verlust persönlicher Daten? Sollte die Bundesregierung in Zeiten der Digitalisierung kontrollierend in soziale Netzwerke eingreifen? Und wer haftet eigentlich, wenn ein Algorithmus einem Kunden einen überteuerten Kredit anbietet?

Mit solchen Fragen hat sich die Daten-Ethikkommission der Bundesregierung befasst. Das Gremium aus Juristen, Wirtschaftsvertretern und Verbraucherschützern wurde 2018 von Bundesjustizministerin Katarina Barley (SPD) und Bundesinnenminister Horst Seehofer (CSU) ins Leben gerufen. Es soll ethische Leitlinien für die Anwendung künstlicher Intelligenz erarbeiten, die Rechtssicherheit von Verbrauchern stärken - bei gleichzeitiger Offenheit für die Chancen der Digitalisierung. Am Mittwoch wird die Daten-Ethikkommission (DEK) in Berlin ihr Gutachten vorlegen. Tenor: Ohne staatliche Kontrolle im Netz nehmen Grundrechte Schaden.

"Die große Herausforderung besteht darin, die Vorteile der Digitalisierung im Alltag und in der Wirtschaft voran zu bringen. Dabei muss aber auch Rechtssicherheit bestehen", sagte die Medizinethikerin Christiane Woopen, eine der Sprecherinnen der Daten-Ethikkommission. Bei allen Chancen brächten digitale Technologien auch "erhebliche Risiken für die Grundrechte von Menschen".

In dem Gutachten, das der Süddeutschen Zeitung vorliegt, warnt die Kommission vor ethisch nicht vertretbaren Datennutzungen wie "Totalüberwachung, die Integrität der Persönlichkeit verletzende Profilbildung, gezielte Ausnutzung von Vulnerabilitäten", aber auch vor "dem Demokratieprinzip zuwiderlaufender Beeinflussung politischer Wahlen". Auch die "systematische Schädigung von Verbrauchern" müsse bekämpft werden. Vorhandene Gesetze würden "bislang nicht in ausreichender Weise genutzt - insbesondere gegenüber marktmächtigen Unternehmen".

So lehnt die Kommission die Anerkennung von "Dateneigentum" ab, also die unwiderrufliche Übergabe personenbezogener Daten oder Gesundheitsinformationen an Versicherungskonzerne. Die Verwendung der Daten zur personalisierten Risikoeinschätzung sollten eng begrenzt werden. Zudem fordert das Gutachten, dem "erheblichen Vollzugsdefizit" beim Schutz von Kindern und Jugendlichen im digitalen Raum abzuhelfen".

Mehr Kontrolle und eine gestaffelte Risikoeinschätzung sollen künftig für algorithmische Systeme gelten. Die Kommission empfiehlt, sie in fünf Risikoklassen einzuteilen, je nach drohendem Schaden für Verbraucherrechte. Algorithmen mit "unvertretbarem Schädigungspotenzial" sollen verboten werden können. "Wir brauchen Aufsichtsinstitutionen, die Algorithmen überprüfen und sicherstellen, dass Verbraucher nicht benachteiligt werden", sagte Klaus Müller, Vorstand des Verbraucherzentrale Bundesverbands. Fragt man ihn, wie so viel Netzkontrolle funktionieren soll, verweist er auf die Frankfurter Börse. Dort sei Algorithmenkontrolle längst etabliert: "Wo ein Wille war, war auch ein Weg."