Ist das Internet ein gefährlicher Ort? Wer macht es dazu? Wer ist für Lügen und Diskriminierungen verantwortlich - Nutzer, Trolle oder übermächtige Tech-Konzerne? Soll das Internet reguliert werden und wenn ja, wie? Diese Fragen versuchte Danah Boyd in ihrer Eröffnungs-Rede auf der Digitalkonferenz Republica in Berlin zu beantworten.
Die US-Amerikanerin hat sich als Medienwissenschaftlerin und Forschungsleiterin bei Microsoft einen Namen gemacht, sie hat vor allem zu Privatsphäre und Sichtbarkeit von Jugendlichen in sozialen Medien geforscht. Zudem hat sie in New York das Institut "Data & Society" gegründet.
In ihrem Vortrag mit dem eher sperrigen Titel "How a algorithm world can be undermined" (etwa: "Wie man die Welt der Algorithmen untergraben kann") spannte sie den Bogen zur künstlichen Intelligenz. Sie versuchte zu zeigen, wie KI zum Buzzword der Tech-Welt geworden ist - schließlich wolle ja "niemand in Dummheit investieren" - und wie massiv sie mittlerweile unser Leben und unsere Wahrnehmung der Welt beeinflusst.
Im texanischen Sutherland Springs erschoss ein Weißer im November 2017 zahlreiche Schwarze in einer Kirche. Boyd zeigte in Berlin, wie es Rechtsradikalen gelang, die Google-Suche so zu manipulieren, dass selbst seriöse Medien wie Newsweek die Bluttat als von der Antifa gesteuert meldeten. Trollen war es durch zahlreiche Fake-Accounts auf Reddit und Twitter gelungen, mit ihren Falschnachrichten zu Sutherland Springs bei Google ganz oben in der Trefferliste aufzutauchen und so vermeintliche Relevanz zu erzeugen. Boyd nennt das "epistemologische Kriegsführung". Die Frage ist also, wer herrscht über das Wissen unserer Zeit?
Rassistische Dynamik
Suchmaschinen wie Google, die für die Informationsbeschaffung zu einer der wichtigsten Quellen geworden sind, werden eben nicht allein von den Algorithmen gesteuert, die Programmierer entwickeln. Sie lernen auch durch die Suchanfragen der Nutzer - und geben den Suchenden daran orientierte Ergebnisse aus. Boyd verweist auf Studien aus den USA: Auf Suchanfragen nach Babynamen, die bei Afro-Amerikanern sehr beliebt sind, spielte Google eher Anzeigen aus, die sich an Kriminelle richteten. Bei häufigen Namen für Weiße sei das nicht der Fall gewesen. "Google hat die rassistische Dynamik der US-Gesellschaft gelernt", sagte Boyd.
Aber wer trägt nun die Verantwortung für diese versteckten und offenen Manipulationen im Netz? Wer steuert diese "Bürokratie" (Boyd) und wer wird von ihr gesteuert? Mit einem Foto aus dem Eichmann-Prozess versuchte Boyd in ihrem Vortrag drastisch klar zu machen, dass sich niemand seiner Verantwortung entziehen dürfe. Die "Banalität des Bösen" (Arendt) dürfe im Internet keinen Platz haben.
Niemand sei nur Befehlsempfänger, egal ob Nutzer oder Programmierer. Niemand dürfe bei Fragen nach der Verantwortung allein auf die Technologie verweisen. Die sei nur ein Verstärker.
Technologien und Analyse-Systeme seien in immer mehr Lebensbereichen allgegenwärtig. Letztlich müssten wir alle vor allem lernen, damit umzugehen. Die Regulierung der Plattformen könne eine Möglichkeit sein. Aber wie genau das aussehen könnte, weiß Danah Boyd leider auch nicht - das müssten weitere Diskussionen zeigen.
