Digitalisierung:2020 soll das System verbindlicher Teil der Beratung werden

Das sieht Carla Hustedt anders. Sie leitet das Projekt Algorithmen-Ethik der Bertelsmann-Stiftung und sagt, es könne sehr wohl ein Problem sein, aus vorhandenen Datensätzen auf bestimmte Zusammenhänge zu schließen, "weil man damit womöglich bestehende Vorurteile reproduziert". Ein Beispiel dafür ist ein Programm, das der Online-Händler Amazon für Bewerbungen einsetzen wollte und nun abschaffte. Es benachteiligte systematisch Frauen, weil aus den teils zehn Jahre alten Daten, die als Basis für die Berechnungen dienten, hervorging, dass viele erfolgreiche Bewerber Männer waren. Ein typisches Phänomen in der Tech-Branche, das nichts über Qualifikationen aussagt. "Das muss einem bewusst sein und mit entsprechenden Maßnahmen verhindert werden", sagt Hustedt.

Johannes Kopf glaubt, dass der AMS auf solche Probleme gut vorbereitet ist. Ab dem 15. November sollen seine Mitarbeiter das Programm nutzen können, sie sehen dann den Chancenwert und welche Faktoren ihn besonders beeinflusst haben. Über beides können sie mit den Arbeitssuchenden sprechen. Erst nach gut einem Jahr Einführungsphase, also ab 2020, soll der Chancenwert dann als einer von mehreren Faktoren verbindlicher Teil der Beratung werden. Die Entscheidung, welche Maßnahmen sinnvoll sind, werde aber auch in Zukunft stets der Berater treffen, sagt der AMS-Vorstand.

Effizienz ist das Hauptziel der Technologie

Das führt zum zweiten Aspekt, den einige in Österreich kritisieren: Im realen Betrieb ab 2020 sollen in der "Niedrig"-Gruppe weniger komplexe, intensive Fachausbildungen angeboten werden. Wer geringere Chancen hat, kriegt erst einmal auch weniger geboten. Alles im Sinne der Effizienz, dem eigentlichen Hauptziel der Software.

Kopf begründet das damit, dass diese Weiterbildungen teuer seien und häufig abgebrochen würden. Das Geld könne also sinnvoller eingesetzt werden. Gerade in der "Niedrig"-Gruppe seien Basisförderungen ähnlich erfolgreich. Und weil diese günstiger seien, könnten damit letztlich mehr Menschen mit dem vorhandenen Geld unterstützt werden, auch mit alternativen Angeboten. "Der Algorithmus kann helfen, Schwerpunkte zu setzen und gewisse Personen künftig vermehrt in externen Beratungseinrichtungen zu betreuen", sagt Kopf.

Die Technik soll eine Frage beantworten, die eigentlich politisch ist

Das Problem sei nicht die Software an sich, sagt Algorithmen-Ethikerin Hustedt. Die Kritik in Österreich zeige viel mehr ein grundsätzliches Missverständnis in der Digitalisierung: "Hier wird dem Algorithmus die Schuld in die Schuhe geschoben. Eigentlich geht es aber um die Frage, welche Menschen in einem Solidarsystem die größte Unterstützung erhalten sollen." Das müsse politisch geklärt werden. Stattdessen würden solche Debatten "auf einen Algorithmus projiziert, der dann entweder Verheißung oder Horror ist". Dabei seien die Zwischentöne wichtig, um über die Auswirkungen diskutieren zu können.

AMS-Vorstand Kopf verspricht, auf diese Zwischentöne achten zu wollen. Der Einsatz der Software soll regelmäßig überprüft und angepasst werden, und zwar auf mehreren Ebenen. Dazu zählen die Trefferquote und der Erfolg der eingesetzten Maßnahmen. Aber auch, wie die Menschen in der Beratung mit dem Algorithmus umgehen: "Wir werden laufend überprüfen, ob unsere Berater dem Chancenwert in der Praxis eine zu hohe Bedeutung beimessen."

Zur SZ-Startseite

KI-Debatte
:Keine Panik, es ist nur künstliche Intelligenz

Wenige Technologien machen Menschen so viel Angst und Hoffnung wie KI. Dabei kann sie bisher nicht einmal ein belegtes Brot von einem Vulkanausbruch unterscheiden. Vier Fachleute klären Missverständnisse auf.

Lesen Sie mehr zum Thema

Süddeutsche Zeitung
  • Twitter-Seite der SZ
  • Facebook-Seite der SZ
  • Instagram-Seite der SZ
  • Mediadaten
  • Newsletter
  • Eilmeldungen
  • RSS
  • Apps
  • Jobs
  • Datenschutz
  • Abo kündigen
  • Kontakt und Impressum
  • AGB