Gesichtserkennung Start-up-Gründer hat Angst vor seiner Schöpfung

"Ich bin zu der Überzeugung gekommen, dass die Nutzung kommerzieller Gesichtserkennung durch Polizeibehörden oder staatliche Überwachung jeder Art falsch ist", sagt Kairos-Chef Brian Brackeen.

(Foto: South Florida Business Journal)

Brian Brackeen hat ein Start-up für Gesichtserkennungs-Software. Er ruft seine Branche auf, die Polizei zu boykottieren - um den Überwachungsstaat zu verhindern.

Von Jannis Brühl

Brian Brackeen hat Angst vor seiner eigenen Schöpfung. Der 39-Jährige ist Chef eines Start-ups namens Kairos, das in Miami beheimatet ist und sich auf Software für Gesichtserkennung spezialisiert hat. In einem Beitrag auf der Webseite Techcrunch ruft er seine Branche nun auf, solche Technologien nicht an die Polizei zu verkaufen - auch wenn das schlecht fürs Geschäft sei. In den Händen des Staates sei die Technik zu gefährlich. Deshalb habe er sogar auf "sehr, sehr lukrative Regierungsaufträge verzichtet".

Kairos hat nur 40 Mitarbeiter, doch Brackeen ist bekannt in der Branche für sogenannte biometrische IT- und so etwas wie ihr Gewissen. Seine Software funktioniert als digitaler Türsteher. Sie verifiziert an Sicherheitsschleusen von Unternehmen, dass nur reinkommt, wer rein darf. Oder filtert Betrüger heraus, die beim digitalen Bezahlen tricksen. Brackeen bietet auch Software an, die Gefühle in Gesichtern lesen kann. Mit ihr können Unternehmen auswerten, wie Kunden auf Produkte reagieren. Und er wirbt damit, dass sein Programm sogar Ethnien analysieren kann: "Zwölf Prozent asiatischer Abstammung!"

Doch dem Staat will Brackeen diese Werkzeuge nicht liefern. Weil aufgrund der unperfekten Technik zu viele falsche Verdächtige herauskommen - und vor allem aus einer distanzierten Haltung zum Staat: "Ich bin zu der Überzeugung gekommen, dass die Nutzung kommerzieller Gesichtserkennung durch Polizeibehörden oder staatliche Überwachung jeder Art falsch ist." Die führe nur zu Missbrauch durch "die moralisch Korrumpierten". Es brauche eine Brandmauer zwischen Firmen und Staat, um Dystopien wie in China zu verhindern. Dort wird Gesichtserkennung selbst in Schulen eingesetzt. Staatliche Stellen und Konzerne basteln an einem System, das Bürgern je nach automatischer Bewertung Privilegien oder Nachteile bringt. Auch die Polizei in Berlin arbeitet damit: Am Bahnhof Südkreuz testet sie automatische Gesichtserkennung.

Brackeen arbeitete sieben Jahre für IBM und war Produktmanager bei Apple. Schon lange fordert er, die Branche zu regulieren. Wenn er dabei auch als Afro-Amerikaner spricht, hat das mit einer Programmierer-Weisheit zu tun: Ein Algorithmus ist immer nur so gut wie die Daten, mit denen er arbeitet. Weil Erkennungssoftware oft mit nur wenigen Bildern dunkelhäutiger Menschen gefüttert werde, liefen diese eher Gefahr, in einen Albtraum zu geraten: "falsch positiv" zu sein, also fälschlicherweise als verdächtig eingestuft zu werden. Und deshalb redet Brackeen sogar seine eigene Software schlecht: Als er einmal demonstrieren wollte, wie die Kairos-Software sein Gesicht als biometrisches "Passwort" speichert - da versagte das System. Es war nur an hellhäutigen Menschen trainiert worden. Sein blonder, weißer Kollege musste übernehmen. Die Software hakt auch, wenn es ums Geschlecht geht. Am höchsten ist die Fehlerquote bei dunkelhäutigen Frauen.

"Kairos" - der Firmenname steht in der griechischen Mythologie für den perfekten Zeitpunkt. Den hat Brackeen zumindest unter PR-Gesichtspunkten für seine Mahnung gewählt. Die Umsätze der Branche sollen bis 2022 auf sieben Milliarden Dollar weltweit anwachsen - auch, weil der Staat ein guter Kunde ist. Doch zugleich wächst der Widerstand gegen die Deals zwischen Tech-Unternehmen und Behörden: Google-Mitarbeiter rebellieren gegen den Einsatz von künstlicher Intelligenz des Konzerns in Drohnen der US-Armee. Amazon-Aktionäre fordern Konzernchef Jeff Bezos auf, der Polizei keine Gesichtserkennung mehr zu verkaufen. Mit Brian Brackeen haben die Gegner des digitalen Überwachungsstaates nun ihren Kronzeugen.

Wer unsere Gesichter wirklich will

Algorithmen stufen Menschen anhand von Fotos als schwul ein, und Apples neues Handy scannt Gesichter: Die Technik der Gesichtserkennung macht viele nervös. Doch in der Debatte geht einiges durcheinander. Von Jannis Brühl und Hakan Tanriverdi mehr...