Gesichtserkennung Sogar Microsoft sieht die Menschenrechte in Gefahr

Das Gesicht als neuer Personalausweis? Für Datenschützer eine Horrorvision.

(Foto: Getty Images)
  • Microsofts Chefjustiziar warnt in einem Essay vor Gesichtserkennung.
  • Die Technologie sei so mächtig, dass sie die Grundrechte bedrohe, wenn sie falsch eingesetzt werde.
  • Der Staat müsse eingreifen und Regularien schaffen, um seine Bürger zu schützen.
Von Bernd Graff

Kann man sich vorstellen, dass die heimische Autoindustrie den deutschen Gesetzgeber auffordert, endlich realistische Abgastests einzuführen und deren Einhaltung zu kontrollieren, damit Schaden von der Bevölkerung abgewendet wird? Weil die Politik dazu verpflichtet ist. Eine solche Idee gehört hierzulande ins Reich der Fantasie, ihr Wahrwerden ist so unwahrscheinlich wie ein kluger Gedanke des US-Präsidenten Trump oder die Abkehr von der Fußball-WM im Wüstenstaat Katar.

Doch etwas in dieser Kategorie hat sich gerade in den USA ereignet, und man benötigt schon das Beispiel der deutschen Autoindustrie, um die Dimension dieser Ungeheuerlichkeit zu verdeutlichen. Microsoft, der Software-Gigant aus Redmond, Washington, ja richtig: unser oberster Windows-Word-Tabellenkalkulierer, hat gerade den amerikanischen Kongress, beide Kammern der US-Legislative, aufgefordert, den Einsatz von Gesichtserkennungs-Algorithmen gesetzlich zu regulieren, um die Freiheit des amerikanischen Volkes und die Daten seiner Bürger zu schützen.

Geht es nicht eine Nummer kleiner?

Nein, geht es nicht.

Das weiß Facebook wirklich über Sie

Unser Autor hat sein persönliches Facebook-Archiv heruntergeladen. Es ist erschreckend groß - und dennoch unvollständig. Tatsächlich sammelt Facebook viel mehr Daten. Von Simon Hurtz mehr ...

In einem auf der Firmen-Website veröffentlichten Essay hat sich Brad Smith, der Chef-Jurist von Microsoft, zum Einsatz einer von künstlicher Intelligenz (KI) befeuerten Gesichtserkennung erklärt. Gerade die immensen Fortschritte bei der automatisierten Erkennung - sei es, dass Abgebildete auf Fotos identifiziert werden, sei es, dass Überwachungskameras Menschen live erkennen - hätten Fragen aufgeworfen, die "an die Substanz der Verteidigung fundamentaler Menschenrechte wie Privatsphäre und Meinungsfreiheit" gehen. Dessen sei sich die Firma aus Redmond sicher. So habe Microsoft aus ethischen Gründen Anfragen von (nicht näher genannten) Kunden nach der hauseigenen Erkennungssoftware zurückgewiesen.

Ja, es sei durchaus ungewöhnlich, dass ausgerechnet ein an diesen bedeutenden Entwicklungen beteiligtes Unternehmen den Gesetzgeber um Reglementierung und international verbindliche Abkommen angehe, doch könne man eine mit solchen Risiken behaftete Technologie nicht unreglementiert dem Markt und damit dem Gutdünken von Konzernen überlassen.

Denn "eine Welt mit mächtigen Regularien für Produkte, die nützlich, aber potenziell gefährlich sind, ist besser als eine ohne gesetzliche Standards." Die Regulierung für die medizinischen Produkte der Pharmazie und die Entwicklungen in der Autoindustrie überlasse man ja auch nicht deren Produzenten.

Die Situation ist dramatisch

Was treibt Microsoft zu solch einem Weckruf? Erst einmal: Brad Smith hat recht. Die Entwicklungen in der KI-gestützten Gesichtserkennung sind wirklich dramatisch zu nennen.

Da wäre etwa: der Fall des Todesschützen im Newsroom der Capital Gazette in Annapolis, Maryland. Er hatte Ende Juni fünf Journalisten erschossen. Offenbar hat der nach den Schüssen inhaftierte Verdächtige versucht, seine Identifizierung dadurch zu erschweren, dass er seine Fingerkuppen verletzte, um deren Abdrücke unkenntlich zu machen. Die Behörden setzten also Gesichtserkennung ein, im Vergleich zu der - so ein beteiligter Polizist in der New York Times - "alles andere, auch ein Fingerabdruckabgleich, viel länger gedauert hätte." Es geht also mittlerweile schneller, einen einzelnen unter 325,7 Millionen US-Bürgern per Gesichtserkennung zu identifizieren als durch seine Fingerabdrücke.

Ende Mai haben die American Civil Liberties Union (ACLU) und mehr als zwei Dutzend Bürgerrechtsorganisationen den Online-Omnivoren Amazon aufgefordert, den US-Behörden nicht mehr das hauseigene Gesichtserkennungssystem "Rekognition" auszuliefern. Es sei "ein zu mächtiges Überwachungssystem" und "prädestiniert für einen Missbrauch durch die Regierung". Denn "Rekognition", das von Amazon angepriesen wird als "hochpräzise Gesichtsanalyse", vermag, so die ACLU in ihrer Begründung, "bis zu 100 Personen in Bewegtbildern von beliebigen Menschenmengen zu identifizieren und zu verfolgen". Gleichzeitig, und sogar wenn deren Gesichter nicht kontinuierlich zu sehen sind.

Mehr als 400 Millionen Kameras überwachen die chinesischen Bürger

Während also die Seite der Verbrechensbekämpfung jubelt, dass mit der KI-Erkennung eine neue Phase in der Identifizierung eingeläutet sei, spricht die Gegenseite schlicht von Massenüberwachung ungekannten Ausmaßes. So wie in China: Dort ist die staatlich eingesetzte Gesichtserkennung längst Teil der offiziellen Observation. Mit ihr konnte man Ende Mai angeblich einen Kartoffeldieb gezielt aus der Menge der Besucher eines Popkonzerts fischen. Er war von vielen der mehr als 400 Millionen chinesischen Überwachungskameras im Land erkannt und in deren Bilderdatenstrom sukzessive verfolgt worden.

Amazons Preisübersicht belegt übrigens, dass man lediglich 10 Cent pro Minute Video-Erkennung und 12 Cent für eine Videominute Live-Überwachung bezahlen muss. Das Speichern von 1000 identifizierten und verschlagworteten Gesichtsdaten kostet: 1 Cent. Das ist ziemlich günstig, und die Nachfrage steigt. Denn was erkannte der ehemalige deutsche Innenminister Thomas de Maizière, nachdem er die Resultate seiner im August 2017 installierten Video-Überwachung am Bahnhof Berlin-Südkreuz in Augenschein nahm: "einen erheblichen Mehrwert" für die Polizeiarbeit.

Die Systeme sind ja auch beängstigend verlässlich. So erreicht uns gerade die Meldung, dass das texanische Start-up "Blink" ein System erarbeitet, mit dem Konzerttickets durch Selfies ersetzt werden. Der Konzertgänger bezahlt, schickt sein Selfie an die Agentur und wird dann am Konzerteingang von einer "Identity-in-Motion Technology" nach Hochgeschwindigkeitsidentifizierung eingelassen.

Man traut sich jetzt kaum, es zu bekennen, aber kann es sein, dass man Microsoft für seinen Vorstoß, den Wahnsinn einer wild auf uns losgelassenen KI-Identifizierung zu beenden, dankbar sein muss? Wenigstens ein bisschen?

Diese Technologien können Angst machen

Unternehmen überwachen Mitarbeiter und Maschinen entscheiden über Meinungsfreiheit. Vier Beispiele zeigen, dass technischer Fortschritt auch nach hinten losgehen kann. Von Simon Hurtz mehr...

Korrektur: In einer früheren Version dieses Artikels haben wir fälschlicherweise geschrieben, dass im Jahr 2017 Lothar de Maizière als deutscher Bundesinnenminister fungierte. Richtig ist, dass Thomas de Maizière Innenminister war. Sein Cousin Lothar de Maizière war 1990 der erste demokratisch gewählte und zugleich letzte Ministerpräsident der DDR.