bedeckt München
vgwortpixel

Gesichtserkennung mit "Clearview AI":Eine Software schockiert Amerika

Künstliche Intelligenz scannt Gesichter auf einer Technologiekonferenz in Las Vegas. (Symbolbild)

(Foto: David McNewAFP)

Der Albtraum für die Privatsphäre: Das Programm "Clearview AI" kennt die Gesichter von Millionen Menschen. US-Polizisten setzen sie bereits ein.

2011 nahm die Journalistin Kashmir Hill an einem Workshop der US-Handelskommission FTC teil. Es ging um die Frage, wie Technologie zur Gesichtserkennung reguliert werden soll. Alle waren sich einig, dass kein Unternehmen eine Anwendung entwickeln dürfe, die es ermögliche, jederzeit jede beliebige Person zu identifizieren. "Eine App, die in Echtzeit anonyme Individuen auf der Straße erkennt, könnte ernsthafte Gefahren für Privatsphäre und Sicherheit bedeuten", heißt es im Abschlussbericht. Neun Jahre später könnte Hill genau das aufgedeckt haben, wovor die FTC damals gewarnt hat.

"Das geheime Unternehmen, das die Privatsphäre, wie wir sie kennen, beenden könnte" überschreibt die New York Times die Recherche der Reporterin. Das Unternehmen heißt Clearview und es soll eine gigantische Datenbank mit mehr als drei Milliarden Fotos von menschlichen Gesichtern aufgebaut haben. Die Dimension geht weit über alle bekannten Systeme hinaus. Angeblich lassen sich mit Hilfe von Clearview Millionen Menschen innerhalb weniger Sekunden erkennen.

Um seine Datenbank zu speisen, hat Clearview einen gewaltigen Datenstaubsauger entwickelt. Der durchsucht öffentlich zugängliche Seiten im Netz, darunter Netzwerke wie Facebook, Youtube, Twitter und Instagram. Eine Software lädt automatisch massenhaft Fotos herunter und analysiert die Aufnahmen. Wenn das System Übereinstimmungen findet, liefert es weitere Fotos und persönliche Daten.

Angeblich bezahlen mehr als 600 Behörden für das Angebot von Clearview, darunter das FBI, das US-Heimatschutzministerium, Dutzende Polizeidienststellen und kanadische Ermittler, die damit Sexualverbrechen und Kindesmissbrauch aufklären wollen. Eine vollständige Liste seiner Kunden gibt das Unternehmen nicht heraus. Der Zeitung zufolge arbeitet Clearview auch mit privaten Unternehmen zusammen.

Angeblich innerhalb kurzer Zeit Verdächtige identifiziert

Clearview war bislang praktisch unbekannt. Das Unternehmen gibt sich Mühe, im Hintergrund zu bleiben: Auf der Webseite und in Geschäftsunterlagen fanden sich falsche Adressen - angeblich ein Tippfehler, wie Clearview erklärt. Das einzige Linkedin-Profil, das einen Verweis auf Clearview enthält, gehört einem gewissen "John Good". Tatsächlich steckt dahinter Unternehmensgründer Hoan Ton-That, der einen falschen Namen benutzte. Als Hill dem Unternehmen nachspürte, erhielt sie monatelang keine Antwort. Schließlich meldete sich eine Expertin für Krisenkommunikation, die ein Treffen mit Ton-That arrangierte.

All das schreit nach Betrug: So gehen meist obskure Start-ups vor, die vollmundige Versprechungen machen, Millionen an Investorengeldern einsammeln und dann nicht liefern. Im Fall von Clearview scheint das Gegenteil der Fall zu sein. Mehrere Ermittler sagten der NYT, sie wüssten selbst nicht genau, wie Clearview arbeite - die Resultate seien aber überzeugend. Innerhalb kurzer Zeit hätten sie Verdächtige identifiziert und Verbrechen aufgeklärt, darunter Diebstahl, Kreditkartenbetrug, Mord und Kindesmissbrauch.

Das Vorgehen von Clearview ist fragwürdig. Erstens verstößt die massenhafte Datensammlung gegen die Nutzungsbedingungen von Plattformen wie Facebook. "Viele Menschen machen das", sagte Ton-That der New York Times. "Facebook weiß es." Zweitens ist völlig unklar, wie sicher die Datenbank ist. Behörden speichern sensible Informationen auf den Servern eines kleinen Unternehmens, über das sie kaum etwas wissen und das keiner externen Kontrolle unterliegt. Drittens birgt das System großes Missbrauchspotenzial. Ein Polizist, der Zugriff auf die Software besitzt, könnte damit Frauen stalken, die er auf der Straße getroffen hat. Autoritäre Regime könnten Teilnehmer an Demonstrationen identifizieren, wie es Russland bereits mit vergleichbarer Technologie vormacht.

Den vierten Grund hat Hill selbst erlebt. Offenbar überwacht Clearview nämlich, nach welchen Personen die Behörden suchen. Als die Reporterin Polizisten gebeten habe, ein Foto von ihr analysieren zu lassen, habe das System keinen Treffer angezeigt, obwohl es viele Bilder von Hill im Netz gibt. Kurz darauf habe Clearview die Ermittler angerufen und sich erkundigt, ob sie mit der Presse sprächen. Ton-That spielt den Vorfall herunter. Die Software habe nur Alarm geschlagen, weil sie ungewöhnliche Suchanfragen erkannt habe.

Ton-That bestätigte zudem, dass Clearview einen Prototypen für eine Computerbrille entwickelt habe. Mit Hilfe von Augmented-Reality-Technologie könnte der Träger damit beliebige Menschen auf der Straße identifizieren, falls ihre Gesichter in der Datenbank enthalten seien. Dem Clearview-Gründer zufolge habe sein Unternehmen aber keine Pläne, die Brille tatsächlich auf den Markt zu bringen.

Die New York Times veröffentlichte ihre Analyse der App mitten in der Debatte über mögliche Gefahren von Gesichtserkennung. Als Gründe werden genannt: die Fehleranfälligkeit der Systeme, Benachteiligung dunkelhäutiger Menschen und Frauen durch die Algorithmen und die schleichende Einführung von anlassloser Massenüberwachung, da die Systeme jeden Menschen erfassen, der ihnen vor die Linse läuft. San Francisco hat seinen Behörden die Nutzung von Gesichtserkennung verboten, die EU denkt mittlerweile darüber nach, ihren Einsatz für drei bis fünf Jahre zu untersagen, um die Auswirkungen der Technik genauer zu untersuchen. In Deutschland hat sich das Bündnis "Gesichtserkennung stoppen" formiert, um auf ein Verbot hinzuwirken.

© SZ.de/mri
Zur SZ-Startseite