Botifizierung: Wie Maschinen für Menschen entscheiden

Computer werden immer besser darin, sich menschlich zu verhalten. Aber auch Menschen unterwerfen sich Algorithmen: Sind wir nur noch steuerbare Drohnen im Uber-Auto oder auf dem Deliveroo-Fahrrad?

Zu Beginn jedes Jahres veröffentlicht die Technikkritik-Plattform edge.org einen Text, der allzu bequeme Zeitgenossen ein bisschen aufrütteln soll. 2019 ist der Technikhistoriker George Dyson an der Reihe. Sein Text trägt den Titel "Childhood's End". Damit zitiert Dyson Arthur C. Clarke, der in seinem gleichnamigen Science-Fiction-Roman aus dem Jahr 1953 eine Rasse von wohlwollenden Außerirdischen - die nebenbei aussehen wie der biblische Teufel - mit ihren Raumschiffen über den Städten der Erde auftauchen lässt.

Sie versprechen der Menschheit ein neues goldenes Zeitalter. Keine Kriege, keine Umweltverschmutzung, keine Armut und keine Hungersnöte. Das ist zwar zunächst enorm angenehm für die Bevölkerung, allerdings haben sie für das Paradies auf Erden auch ihre Selbstbestimmung aufgegeben. Die sogenannten Overlords haben die Kontrolle übernommen, und ihre eigentliche Motivation ist unklar. Es geht nicht gut aus für unsere Spezies.

Laut Dyson sind wir auf dem besten Weg in diese Zukunft, von der nicht ganz klar ist, ob sie Utopie oder Dystopie ist. Nur treten an die Stelle der satanischen Aliens die CEOs aus dem Silicon Valley. "Individuelles Handeln befindet sich auf dem Rückzug", schreibt er etwa. "Die meisten von uns befolgen die meiste Zeit Anweisungen, die wir von Computern erhalten, und nicht andersherum." Die populäre Technikpresse hat für dieses Phänomen auch schon ein handliches Schlagwort parat. Das Magazin Fast Company zählte die sogenannte Botification gerade eben zu den "neun Neuerungen, die uns 2019 Angst einjagen". Ebenfalls auf der Liste: genmanipulierte Designerbabys und der omnipräsente Überwachungskapitalismus.

Mensch oder Software?

Gemeint mit der Botifizierung ist, dass nicht nur Computer immer menschlicher kommunizieren und handeln. Auch wir Menschen passen uns an und beginnen immer binärer und mechanischer zu sprechen und uns roboterhafter zu verhalten. Man kann diesem Phänomen schon heute im Alltag begegnen. Ein relativ banales Beispiel ist etwa, dass uns Software anhand unseres Sprachgebrauchs oder einer zuvor vorgenommenen Textanalyse Wortvorschläge macht, die wir dann in unseren E-Mails und Textnachrichten verwenden. So ergibt sich eine Feedbackschleife, bei der irgendwann unklar ist, wer eigentlich den Input liefert und wer nur ausführender Agent ist. Mensch oder Software?

Das schmerzt den Menschen vielleicht in seinem Gefühl, einzigartig zu sein, man vermag es bei viel gutem Willen aber noch unter Komfort zu verbuchen. Etwas diffiziler wird es schon bei den Auswüchsen der On-demand-Arbeitskultur. Bei Dienstleistungen wie Uber oder den zahllosen Lieferservices unterwirft sich der menschliche Arbeitnehmer einem algorithmischen Chef, der bestimmt, welche Aufträge man annimmt, wie man an sein Ziel kommt und in manchen Fällen auch, wie viel Geld man dafür bekommt. Der Mensch, der im Uber-Auto oder auf dem Deliveroo-Fahrrad sitzt, ist nicht mehr als eine steuerbare Drohne, ein Knotenpunkt im Netz, ein Bot.

Dyson argumentiert aber noch weiter: Wenn ein überwältigender Prozentsatz aller Nutzer auf der Suche nach Antworten seine Fragen auf Google eintippt, dann ist die Suchmaschine nicht mehr einfach nur das Modell menschlichen Wissens - es ist menschliches Wissen. Wenn genügend Nutzer ihren Weg anhand einer bestimmten Routenplanungssoftware planen, dann stellt sie Verkehrsströme nicht mehr nur dar, sie formt sie neu. Genauso funktioniert es mit Konsumentscheidungen und sozialen Beziehungen.

Wenn man sich also immer mehr nach den Empfehlungsalgorithmen der großen Tech-Konzerne richtet, wann kehrt sich dann die Entscheidungshoheit zwischen Mensch und Maschine um? Vorläufiger Endpunkt der Botification ist die neueste Version von Googles Smartphone-Betriebssystem Android. Dort soll die Software nicht mehr nur Vorschläge für Wörter oder Verkehrsrouten geben, sondern auch dafür, welche App man als Nächstes benutzen sollte und welche Handlungen laut Erfahrungswerten jetzt auf der Tagesordnung stehen. Lieber Nutzer, es wäre mal wieder an der Zeit, joggen zu gehen und deine Mutter anzurufen.