Wenn typisch menschliches Vorgehen bedeuten sollte, sich von Vorurteilen leiten zu lassen und Ressourcen zu verschwenden, könnte man eigentlich ganz gut darauf verzichten. Tatsächlich diskriminieren menschliche Personaler Muslime und Schwarze, haben Forscher des Wissenschaftszentrums für Sozialforschung in Berlin herausgefunden. Und sie benötigen viel Zeit, aus einer großen Zahl von Bewerbungsschreiben die auszusortieren, die gar nicht zur Firma passen.
Algorithmen können Personalern diese Arbeit abnehmen und weniger ausgrenzen - sie können aber auch besonders diskriminierend sein. Denn sie werden normalerweise an den Profilen der bisherigen Mitarbeiter trainiert. Wenn man den Algorithmus also mit den Profilen der bisherigen Mitarbeiter "füttert", anhand derer er dann neue Mitarbeiter suchen soll, sind die von der Maschine gefundenen Mitarbeiter so wie die alten. In dem Fall kann der Algorithmus Bewerber benachteiligen, die sich zu stark von der vorhandenen Belegschaft im Unternehmen unterscheiden.
Bei Amazon ist das passiert: Ein Algorithmus hat dort Männer gegenüber Frauen mit gleicher Qualifikation bevorzugt. Bei Amazon arbeiten vorwiegend Männer, der Algorithmus wurde also größtenteils an Männern geschult. Er speicherte die Eigenschaft männlich als positiv ein. Weiblich zu sein, war eine neutrale Eigenschaft. Und so hatten männliche Bewerber immer Vorteile bei dem Algorithmus. Er ist aber laut Amazon nie eingesetzt worden.
Dass Algorithmen im großen Stil Bewerber diskriminieren können, sei ein Risiko für das Gemeinwohl, sagt Tobias Knobloch von der Stiftung Neue Verantwortung, der die Auswirkungen von Algorithmen auf das Gemeinwohl erforscht. Ein Algorithmus, der sich das Diskriminieren einmal beigebracht hat, höre auch von selbst nicht mehr damit auf. Und Diversität sei nicht nur wegen der Fairness wichtig, ein Unternehmen habe damit normalerweise auch mehr Erfolg. Personaler müssten ihre Algorithmen anhand vieler verschiedener Profile schulen. Nur so sei Diversität langfristig garantiert. Sven Semet von der IT-Firma IBM sagt, man könne einen Algorithmus auch einfach anpassen, damit dieser Geschlecht, Hautfarbe und Religion der Bewerber ignoriere. Algorithmen sind also nicht immer fair, sie könnten es aber sein.
"Die schlimmste Blackbox ist der menschliche Kopf."
Auch die Bewerberauswahl sei laut Knobloch mit Algorithmen erst mal schwieriger nachzuvollziehen. Denn welcher Betriebsrat versteht schon die Zahlencodes, nach denen Algorithmen handeln? Wenn aber IT-ler in den Betriebsräten sitzen, könne Diskriminierung von Bewerbern leichter entlarvt werden. Der Betriebsrat darf laut Gesetz einsehen, warum der eine Bewerber eingestellt und der andere abgelehnt wurde. Wenn ein menschlicher Personaler eine Bewerberin wegen ihres Kopftuchs ablehnt, dürfte ihm schnell eine nicht diskriminierende Ausrede für sein Handeln einfallen. "Die schlimmste Blackbox ist der menschliche Kopf", sagt Knobloch. Algorithmen hingegen sind ehrlich. Wer ihre Zahlencodes lesen kann, weiß, wieso sie wann zu welchem Ergebnis gekommen sind.
Aber ist diese neue Personalauswahl nicht der Gipfel der Leistungsgesellschaft, auf dem Algorithmen Bewerbern eine Liste von Voraussetzungen vorgeben, die es im Arbeitsleben abzuarbeiten gilt, um an den Traumjob zu kommen? Man müsse schon aufpassen, dass mit Algorithmen die Menschlichkeit nicht verloren gehe, sagt Knobloch. Er kann sich aber auch eine "Hochtechnologie und Hochmenschlichkeit" mit den Algorithmen vorstellen: Denn wenn Personaler weniger Zeit mit dem Aussortieren von Bewerbungen verbringen, könnten sie sich besser auf die persönlichen Gespräche mit den Bewerbern konzentrieren. Und vollautomatisiert würde die Auswahl von Bewerbern ohnehin nicht. Denn laut der Datenschutzgrundverordnung dürfen Maschinen alleine keine Entscheidungen treffen, die für Menschen zentral sind.