bedeckt München 18°

Kunst und KI:Lolli, Klansmen, Apfelbaum

Trevor Paglen: From 'Apple' To 'Anomaly'

Die Bilder fluten nicht einfach, sie werden vorsortiert: Trevor Paglens „The Curve“ (2019) im Londoner Barbican Center.

(Foto: Tim P. Whitby/Getty Images)

Der Künstler Trevor Paglen simuliert im Barbican Center die Algorithmen der KI.

Am Anfang steht ein Apfel - genauer: ein von René Magritte gemalter Apfel, der von sich behauptet: "Ceci n'est pas une pomme." Doch nicht die Worte zählen, sondern die Bildinformation. Es folgen erst weitere Äpfel, dann verzweigt sich das Bildergeäst: Nach oben hin zu Apfelbäumen, Wolken, Meeren, Zooplankton, Spionagesatelliten, Minen, Katakomben; nach unten zu Erde, Tee, Kaffee, Schweinen, Speck, Schlachthaus, Pizza. Immer breiter und unübersichtlicher ergießt sich die Bilderflut über "The Curve", eine gebogene Wand im Londoner Barbican Centre. Sie überlastet das Hirn; das, was sie zeigt, wird zunehmend verstörender.

Diese von Paglen eigens für das Barbican geschaffene Arbeit heißt "From Apple to Anomaly". Sie setzt mit anderen Mitteln fort, was der amerikanische Künstler seit Langem betreibt - den Versuch, die verborgene Infrastruktur digitaler Vernetzung und Überwachung offenzulegen. Vor vier Jahren tauchte er etwa vor der Küste von Florida zum Meeresgrund, um die Glasfaserkabel zu dokumentieren, die Daten zwischen Europa und den USA transportieren. Sein jüngstes Projekt konzentriert sich nicht auf die Hardware - obwohl alle 30 000 Bilder in London in ausgedruckter, also analoger Form vorliegen -, sondern auf die zugrunde liegenden Algorithmen.

Die Fotos stammen aus der Datenbank Imagenet der Stanford University, in der rund 14 Millionen Bilder gespeichert sind. Imagenet dient dazu, künstliche Intelligenz zu trainieren, die in vielen Bereichen eingesetzt werden kann, von Gesichtserkennung bis zu fahrerlosen Autos. Die KI soll lernen, Bilder einzuordnen, zu kategorisieren und miteinander zu assoziieren. Das tut sie nicht nur visuell, sondern vor allem inhaltlich, und greift auf eine lexikalische Datenbank namens Wordnet zu. Diese fasst englische Substantive, Verben, Adjektive und Adverbien in Gruppen von sogenannten kognitiven Synonymen (Synsets) zusammen, die je ein bestimmtes lexikalisches und semantisches Konzept ausdrücken. Imagenet wiederum stellt im Schnitt 1000 Bilder bereit, um jedes dieser Synsets zu veranschaulichen und mit benachbarten Synsets zu verknüpfen.

Trevor Paglen hat gemeinsam mit der KI-Expertin Kate Crawford ein Tool namens Imagenet Roulette entwickelt, das nichts weiter tut, als diese impliziten Verknüpfungen anhand der zugrunde liegenden Begriffe nachzuvollziehen. Die Frage ist: Was sollen Computer in einem Bild erkennen, was erkennen sie falsch, was lassen sie aus? Das System, auf dem Imagenet aufbaut, ist ja keineswegs selbst KI-generiert. Es wird vielmehr von rund 25 000 Menschen aufgebaut und gepflegt, die ihre Arbeit der Crowdsourcing-Plattform Amazon Digital Turn zur Verfügung stellen.

Ein Bild folgt dem nächsten, die Kategorisierung akzeptiert der Betrachter unbewusst

"From Apple to Anomaly" zeigt, dass das Sammeln und Kategorisieren von Information, wie Facebook, Amazon und Google sie betreiben, niemals wertfrei, sondern vielmehr der Weltsicht und den Vorurteilen jener unterworfen ist, die das Sammlungs- und Kategorisierungswerkzeug programmieren. Wie sonst wäre es zu erklären, dass Begriffe wie Bezirksstaatsanwalt und Fucker miteinander verknüpft sind (wobei pornografische Bilder ausgespart bleiben)? Warum tauchen bei Begriffen wie Verräter überdurchschnittlich viele schwarze Gesichter auf, wie das des Schauspielers Don Cheadle oder des früheren US-Präsidenten Barack Obama? Während manche Bilder sich nur an optischen Parametern zu orientieren scheinen und dabei zu bizarren Assoziationen kommen - etwa Lollis neben Galgenschlingen -, sind andere klar politisch oder sozial prädisponiert: "Prominente" gehen über in "Heuchler", "Gewehrschützen" in "Klansmen".

Die kognitive Überforderung, mit der Paglens Werk arbeitet, reflektiert den Mechanismus, der in der alltäglichen Realität des Überwachungskapitalismus verhindert, dass wir die Verbindung von virtuellem Bild und Begriff infrage stellen oder analysieren. Ein Bild folgt unaufhaltsam dem nächsten, die Kategorisierung akzeptiert der Betrachter unbewusst. Verengung und Diskriminierung, ja: Deutungskolonialisierung sind dabei eben keine "Anomalie", kein unerwünschter Nebeneffekt. Sie sind Teil des Systems.

Trevor Paglen: "From Apple to Anomaly" im Barbican Centre, London. Bis 16.2.2020. barbican.org.uk

© SZ vom 05.11.2019

Lesen Sie mehr zum Thema

Zur SZ-Startseite