bedeckt München 18°
vgwortpixel

"Sousveillance"-Bewegung:Kann Amazon erkennen, ob Kunden schwanger oder depressiv sind?

Gleichwohl ist diese Utopie spieltheoretisch nicht möglich, weil es immer Machtasymmetrien geben wird, die der eine gegen den anderen ausspielen kann. Und es ist auch nicht praktikabel, weil ein Patient beim Arzt niemals "Ziehen Sie sich bitte zuerst aus!" sagen würde. Der Sicherheitsforscher Bruce Schneier schrieb in einer Replik auf Brins Beitrag ("The Myth of the Transparent Society"), dass der Sousveillance-Ansatz schon allein deshalb nicht funktionieren könne, weil er eine Interaktion von Gleichen annimmt, die es in einer hierarchisch strukturierten Gesellschaft realiter nicht geben könne. Zwar könne man einen Polizisten nach seinem Ausweis oder seiner Dienstplakette fragen und ihn vielleicht auch filmen, doch verleihe dies keine vergleichbare Macht gegenüber der des Beamten. Der Sousveillance-Ansatz perpetuiert letztlich einen Teufelskreislauf, den er durchbrechen will. Und der Obsession, alles und jeden zu filmen, wohnt auch etwas Totalitäres inne.

Die Machtasymmetrien sind so groß, dass keine Balance mehr hergestellt werden kann. Tech-Konzerne verwandeln die eigenen vier Wände mit mikrofon- und kamerabewehrten Geräten (Netzwerklautsprecher, Smart-TVs) in eine Überwachungszelle, aus der es kein Entkommen gibt. Amazon stattete seinen Netzwerk-Lautsprecher kürzlich mit Augen aus. Über die vernetzte Kamera Echo Look kann der Kunde per Sprachbefehl ("Alexa, mach ein Foto von mir") Fotos zweier verschiedener Outfits machen, die über die sogenannte Style-Check-Funktion von einem Algorithmus bewertet werden. So wird der Algorithmus zum Stilberater.

Das klingt kommod, birgt aber auch Risiken. Die Tech-Soziologin Zeynep Tufekci befürchtet, dass Amazon noch viel mehr aus den Ganzkörperfotos seiner Kunden ablesen kann, etwa ob sie schwanger, übergewichtig oder depressiv sind. Die Frage ist: Was sieht die Kamera alles?

Das Smart Home gleicht einem Panoptikum: Die Gefängniszellen sind nach vorne und hinten offen, der Wärter im Überwachungsturm registriert jede Bewegung, ohne dass er von den Insassen gesehen wird. Das Verblüffende ist, dass das panoptische System auch ohne ständige Überwachung funktioniert, weil die Häftlinge nie wissen, ob sie der Aufseher beobachtet - und sich aus Angst normkonform verhalten. Der Überwachte überwacht sich selbst. Eine perfide Machttechnik. Auch in einer Welt voller Videokameras weiß man nie, wo mitgefilmt wird - und unterlässt womöglich in vorauseilendem Gehorsam bestimmte Handlungen.

Digitale Gesellschaft Vom Computer geoutet

Künstliche Intelligenz

Vom Computer geoutet

Ein neues Programm kann angeblich mit Hilfe Künstlicher Intelligenz feststellen, ob ein Mensch homosexuell ist. Doch die Entwickler haben schon einmal mit den Fähigkeiten eines ihrer Programme übertrieben.   Von Michael Moorstedt

Foucault schrieb in seinem Werk "Überwachen und Strafen" (1976): "Die Wirkung der Überwachung ist permanent, auch wenn ihre Durchführung sporadisch ist; die Perfektion der Macht vermag ihre tatsächliche Ausübung überflüssig zu machen." Wo Macht zwar sichtbar, aber letztlich uneinsehbar ist und ihre Ausübung überflüssig wird, läuft jedes Kontrollregime ins Leere. Diese Machtlosigkeit, ja Ohnmacht gegenüber der Überwachungstechnologie lässt sich selbst mit Camouflage nicht überlisten - und schon gar nicht weglächeln.