Forscherin Kate Crawford:Die schmutzigen Geheimnisse des Smartphones

Lesezeit: 3 min

Forscherin Kate Crawford: KI ist eine Verheißung, im Unsichtbaren das Leben der Menschen einfacher zu machen - doch das System hat seine Schattenseiten.

KI ist eine Verheißung, im Unsichtbaren das Leben der Menschen einfacher zu machen - doch das System hat seine Schattenseiten.

(Foto: Alamy / George Dolgikh/mauritius images)

Sind Künstliche Intelligenz und Teslas so brutal zu Mensch und Planet wie die Rohstoffindustrie? Die Forscherin Kate Crawford versucht, die verborgenen Kosten der Technologien sichtbar zu machen.

Von Jannis Brühl, Berlin

Kate Crawford steht auf der Bühne und zeigt den Käfig, damit es das Publikum schaudert. Das Patent von Amazon aus dem Jahr 2016 auf der Leinwand hinter ihr soll Symbol für die Macht der Maschinen über den Menschen sein: Die Skizze zeigt einen Roboterwagen, auf dem ein menschenhoher Käfig den Lagerhausarbeiter umschließt, um ihn vor herumschwirrenden voll automatisierten Logistikrobotern zu schützen, die Pakete aus den Regalen holen. Der Mensch als schützenswerter Fremdkörper zwischen Maschinen.

Amazon hat längst erklärt, man habe nie wirklich die Absicht gehabt, einen solchen Käfig zu bauen. Aber als Bild für die Ängste, die die Hochtechnologie der Tech-Konzerne hervorruft, taugt er für Crawford allemal. Sie forscht an der USC Annenberg in Kalifornien und für Microsoft und ist eine der profiliertesten Kritikerinnen der künstlichen Intelligenz (KI).

In der Berliner "Arena"-Halle, in deren Mitte sie spricht, versprechen die Stände um sie herum die Zukunft. Auf der großen Digitalkonferenz Republica warnt die Australierin vor ebenjener Zukunft. An diesem Mittwochabend will sie zeigen, was sich hinter KI und anderen Tech-Produkten verbirgt. Für Crawford ist es wie schon bei Öl und Diamanten: eine "extraktive" Industrie, die Rohstoffe und Energie aufsaugt, Ödnis hinterlässt und menschliche Körper schindet.

Das Bildungsministerium verkündete im Mai: "100 neue KI-Professuren besetzt". Fünf Milliarden Euro steckt die Bundesregierung in KI. Auch im Alltag rückt KI immer näher an den Menschen heran. Übersetzungsprogramme wie Deep L, die die Kommunikation mit Austauschstudenten oder ukrainischen Flüchtlingen erleichtern, sowie Google Maps, das den erwarteten Stau zum Beispiel am Samstag um 16 Uhr anhand historischer und aktueller Verkehrsdaten vorhersagt, funktionieren so gut dank Maschinenlernen, einer Unterkategorie der KI. 30 Meter von der Bühne, auf der Kate Crawford spricht, kündigt das Bundesministerium für Verbraucherschutz an seinem Stand an: "Live Insekten erkennen mit KI", alle zwei Stunden für 20 Minuten.

KI stellen sich viele Menschen als neutrale Hochglanzroboter oder perfekte, autonome Software vor

KI ist eine Verheißung, im Unsichtbaren das Leben der Menschen einfacher, effizienter, vielleicht gar perfekt zu machen. Crawford recherchiert seit Jahren, welche ökonomischen Zusammenhänge sich hinter den geschlossenen Oberflächen von Amazons Echo-Geräten und Apples iPads verbergen. Es geht ihr zufolge um die Ausbeutung von Rohstoffen, von menschlicher Arbeit und um das Ziel von Jeff Bezos und Elon Musk, höchstpersönlich das Weltall zu erobern: "Steine, Fleisch und Raketen", wie Crawford sagt.

Das bedeute auch einen Etikettenschwindel. KI stellen sich viele Menschen als neutrale Hochglanzroboter oder perfekte, autonome Software vor, doch: "Künstliche Intelligenz ist weder künstlich noch intelligent", sagt Crawford. Menschen füttern Software mit Daten und etikettieren Millionen von Bildern, damit sie lernen kann. Sie kratzen die Grundstoffe der Technik aus dem Boden. Dem Nutzer aber begegnen nur die Designer-Statussymbole Echo und Tesla Model 3.

Für ihr Buch, den "KI-Atlas", ist Crawford um die Welt gereist, zu den Orten, an denen das System hinter KI sichtbar wird. Sie nimmt die Zuhörer mit zu den indonesischen Arbeitern, die mit Saugröhren Zinn aus dem sandigen Boden ihrer Inseln lösen. Auf afrikanische Müllhalden, auf denen der Elektroschrott brennt. Nach Bolivien, das Land des Lithiums. Dem Kongo mit seinen Kobaltminen. Nach China als Werkbank der künstlichen Intelligenz. Zur ehemaligen Gold- und Silberstadt Silver Peak in Nevada.

Hier kommt Musk ins Spiel. Ein Tesla braucht mehr als 60 Kilogramm Lithium für seine Batterien, ein Grund, dass Musk eine wichtige Fabrik in Nevada baute, nicht weit von Silver Peak. Mit Crawfords selbstgeschossenen Fotos leerer Abschussrampen von Bezos' Blue Origin-Raketen hat der Vortrag etwas von einer Diashow, nur dass es nicht um Abenteuergeschichten aus der Wüste geht, sondern um ein unsichtbares wirtschaftliches Ökosystem. Unsichtbar für die Menschen, wenn sie Google Maps sagen, wohin sie möchten, oder mit ihrem Echo sprechen, um über Amazon zu bestellen. Auch die Sprachsoftware der Konzerne frisst Unmengen von Strom.

Dass zu einer locker dahingesagten Bestellung über den Echo viel mehr gehört als ein schön designtes Gadget, illustriert Crawford einmal mehr anhand von Jeff Bezos. Der versicherte seinen Aktionären, ein spezieller Algorithmus für den Schichtplan werde Arbeiter in den Lagerhäusern durch verschiedene Tätigkeiten rotieren lassen, damit nicht immer dieselben Muskelgruppen beansprucht werden. Sie spricht von "Überwachung bis ins Tiefengewebe der Arbeiter".

All das, um Bezos und Musk ihre Jungenträume von der Eroberung des Weltalls zu ermöglichen? Schließlich ist die Ausbeutung von Rohstoffen im Weltall die nächste Extraktionsdimension. Hier wird es etwas unterkomplex bei Crawford. Dass Bezos von alten Sci-Fi-Romanen so begeistert ist, dass er wie ein brutaler weißer Siedler den Boden ausbeuten und dann mit "phallischen" Raketen die Normalsterblichen auf dem verödeten Planeten zurücklassen will, klingt ebenfalls ziemlich nach Fiction.

Viele Menschen, die hier bei der Republica im Publikum sitzen und ihr zuhören, arbeiten selbst mit KI-Technologie. Ihnen gibt Crawford mit auf den Weg: "Fordert mehr Gerechtigkeit ein in den Systemen, die ihr baut!" Schließlich wird künstliche Intelligenz nicht allein von Jeff Bezos, sondern von vielen Menschen gemacht.

Zur SZ-Startseite

SZ PlusAnders arbeiten
:"Wir wehren uns gegen Veränderung und sehnen sie gleichzeitig herbei"

Frédéric Laloux gilt als Vordenker der neuen Arbeitswelt. Er erklärt, warum Chefs häufig unglücklich sind und wie Unternehmen endlich besser geführt werden können.

Lesen Sie mehr zum Thema

Süddeutsche Zeitung
  • Twitter-Seite der SZ
  • Facebook-Seite der SZ
  • Instagram-Seite der SZ
  • Mediadaten
  • Newsletter
  • Eilmeldungen
  • RSS
  • Apps
  • Jobs
  • Datenschutz
  • Abo kündigen
  • Kontakt und Impressum
  • AGB