Digitalwirtschaft:Wild West ist nun vorbei

Motion blur of Automatic train moving inside tunnel in Tokyo, Japan. (YAY Micro)

Bislang brachten Digitalkonzerne ihre Anwendungen möglichst schnell auf den Markt, die Probleme mussten dann Politik und Gesellschaft ausbaden. Ein Vorstoß des Weltdachverbandes der Elektroingenieure will Designer jetzt stärker in die Verantwortung nehmen.

(Foto: imago images/YAY Micro)

"Move fast and break things" - viele Internetkonzerne funktionieren noch immer nach dem alten Facebook-Motto. Ein neuer Standard soll den Entwicklern nun Ethik beibringen.

Von Andrian Kreye

Am Mittwoch dieser Woche veröffentlichte der Weltdachverband der Elektroingenieure, das Institute of Electrical and Electronics Engineers (IEEE), den Standard IEEE 7000. Das klingt zunächst mal nach einer Nachricht für Nerds und Eingeweihte. Der Standard ist allerdings eine Revolution des Denkens in der digitalen Welt. Weil sie den Entwicklungsprozess um 180 Grad dreht und dadurch die Konzerne und Start-ups stärker in die Verantwortung nimmt.

Will man den Standard auf einen Gedanken reduzieren, geht es darum, gleich zu Beginn der Entwicklung digitaler Produkte dafür zu sorgen, dass es später keine Probleme gibt. Bisher lief es so, dass Konzerne und Start-ups digitale Produkte in Höchstgeschwindigkeit auf den Markt bringen. Facebook hatte das in seinen ersten Jahren mit seinem Motto "Move fast and break things" (Handle schnell und mach dabei etwas kaputt) auf den Punkt gebracht. So funktioniert die Digitalwirtschaft in Großteilen immer noch. Probleme müssen dann die Zivilgesellschaft oder die Politik lösen.

Der IEEE-7000-Standard ist nicht nur ein Vorschlag, wie man das ändert. Es gibt ja schon unzählige Kodexe, Selbstverpflichtungen und ethische Regelwerke, die vor allem die Anwendungen künstlicher Intelligenz regeln und in der Regel nur begrenzt greifen, weil sie nur auf einen Konzern, eine Region, ein Fachgebiet beschränkt und oft nur Checklisten für Allgemeinplätze sind. Das IEEE ist aber nicht nur der weltgrößte technische Berufsverband, sondern auch eine der wenigen Institutionen, die global gültige Standards und Normen herausgeben. Damit W-Lan zum Beispiel in aller Welt gleich läuft, Stecker rund um den Computer einheitlich passen und der Zugriff auf das Internet zumindest theoretisch überall gleich funktioniert.

Was, wenn die Lösung der digitalen Probleme so einfach wäre? Es gibt viele gute Gründe, warum die Technologie-Debatten Anfang der Nullerjahre die politischen Diskurse als gesellschaftlich relevanten Streitraum ablösten. Es lief so einiges schief. Vor allem mit der Einführung niedrigschwelliger künstlicher Intelligenz (KI) in sozialen Medien wie Facebook und Twitter oder in Sortiersystemen von Suchmaschinen, Gesichtserkennungsprogrammen und Behörden wurde klar, dass der Mensch mit der digitalen Technologie Maschinen ausgeliefert ist, die sehr oft die Interessen von Konzernen oder die Vorurteile von Machtstrukturen multiplizieren. Der übliche Weg, das zu korrigieren, war bisher, die Politik in die Pflicht zu nehmen, die zeitlich und fachlich dem technischen Fortschritt hinterherhinkte. Wenn KI nun mit der Marktreife digitaler Alltagsgeräte und Fahrzeuge den Sprung aus dem Cyberspace in die physische Welt vollzieht, ist ein Kontrollmechanismus, der nicht nur schneller, sondern sehr viel grundlegender auf digitale Neuerungen reagiert, zwingend notwendig.

34 Informatiker, Geisteswissenschaftler und Systementwickler haben fünf Jahre an dem neuen Standard gearbeitet

Deswegen ist der IEEE-7000 auch nicht nur ein technischer Standard. Er trägt den etwas umständlichen Titel "Standardmodellverfahren für die Berücksichtigung ethischer Belange bei der Systementwicklung". Fünf Jahre dauerte die Arbeit daran. 34 Informatiker, Geisteswissenschaftler und Systementwickler waren daran beteiligt. Angestoßen und vorangetrieben hat das Projekt die Wirtschaftsinformatikerin Sarah Spiekermann von der Wirtschaftsuniversität Wien. Ihre Arbeit war immer schon von den Geisteswissenschaften geprägt. In ihrem Buch "Digitale Ethik", das vor zwei Jahren erschien, zog sie beispielsweise eine direkte historische Linie von den philosophischen Werken des 17. Jahrhunderts zum Transhumanismus des Silicon Valley. Genau gegen solche Weltbilder, die den Menschen als Fehlerquelle betrachten, argumentiert sie immer wieder an. Und sie entwickelte daraus das Prinzip des "Value Based System Engineering", auf dem sich auch der IEEE-7000-Stanard gründet.

Das funktioniert nicht ganz so einfach wie traditionelle technische Standards. Man kann ja nicht einfach vorgeben, hier, zusätzlich zu den Steckverbindungen und Kabeln, noch ein paar ethische Werte einzubauen. Die Norm ist vielmehr ein Prozess, der von Beginn der Entwicklung an Systementwicklern einen Ablauf zur Hand gibt, der es ihnen erleichtert, einen Wertekatalog zu berücksichtigen, der in der Regel darauf hinauslaufen wird, dass Allgemeinwohl und die Grundrechte der Nutzer bewahrt werden. Denn es sind eben die Systementwickler, die bei solchen Designprozessen von den Geräten über die Programme bis hin zu Automatisierungsprozessen alles im Blick haben. Deswegen hatte sie selbst nicht den Vorsitz der Arbeitsgruppe, sondern arbeitete mit Ali Hessami, lange Jahre Ingenieur für Sicherheit bei der British Rail, und einem Konsortium aus mehr als dreißig Wissenschaftlern und Ingenieuren. Viele hatten langjährige Erfahrung mit der Durchsetzung industrieller Vorschriften und wann ein Compliance-Beauftragter aktiv werden sollte.

Die Handlungsanweisungen zielen auf Kriterien wie Geschäftsmodell, Umwelt und psychische Gesundheit der Nutzer

Prinzipiell gliedert der Standard den Entwicklungsprozess in zehn Schritte, die klare Handlungsanweisungen, aber keine Inhalte vorgeben. Wobei die Stoßrichtung schon sehr deutlich ist, denn die Herausforderungen, denen man mit dem Standard begegnen kann, sind klar.

Dazu gehören nicht nur die Qualität der Software und der Hardware, sondern auch das Geschäftsmodell und die Unternehmenskultur. Hätte man beispielsweise in der Frühphase dafür gesorgt, dass sich soziale Medien nicht durch Anzeigen, sondern Nutzerbeiträge finanzieren, hätte sich die Welt viel Ärger erspart. Auswirkungen auf die Umwelt sind ein Kriterium. Das sieht man derzeit an den Kryptowährungen der so oft gefeierten Blockchain-Technologie, die unfassbar viel Strom verbraucht. Aber auch an den immer zahlreicheren KI-Anwendungen in Haushaltsgeräten und Fahrzeugen, die auf Strukturen laufen, die mit Rohstoffen gefertigt werden, die man wohl bald unter den Ozeanen schürfen muss. Die psychische Gesundheit der Nutzer ist ein Fokus. Suchtverhalten und depressive Auswirkungen durch die Manipulation von Gefühlen und Selbstwert sind akute Massenphänomene.

In der digitalen Welt beginne nun "eine Zeit der Ernsthaftigkeit und Verantwortung", sagt Wirtschaftsinformatikern Sarah Spiekermann

Der Zeitpunkt für den Standard sei gerade jetzt genau richtig, sagt Sarah Spiekermann. "Die Innovation der digitalen Technologien hat die Phase der Spielfreude, der Neuartigkeit und der Experimente hinter sich. Da beginnt nun eine Zeit der Ernsthaftigkeit und Verantwortung. Das ist nicht nur eine Reaktion auf das Ende der digitalen Popkultur und das Ende der neoliberalen Formen des Kapitalismus, sondern auch auf die realen Herausforderungen, die eine reife IT-Industrie zu bewältigen hat."

Sarah Spiekermann bei der europäischen Digitalkonferenz re publia republica in The Station in Ber

Sarah Spiekermann von der Wirtschaftsuniversität Wien hat das Projekt angestoßen und vorangetrieben.

(Foto: via www.imago-images.de/imago images / Mauersberger)

Der Vorteil eines solchen Standards sei vor allem, dass er global gültig sei. Gesetze, also die übliche Antwort der Politik auf digitale Probleme, greifen immer nur national oder regional. Wobei der Weg eines Standards zur Allgemeingültigkeit noch lang ist. Ein Vorteil ist, dass das IEEE mit seinen Hauptsitzen in New York und New Jersey vor allem in den USA anerkannt ist, wo die meisten digitalen Innovationen in die Entwicklung gehen. In Europa gelten zwar vor allem die ISO-Normen und -Standards der International Organisation for Standardization in Genf. Doch auch in Europa können Firmen, Organisationen und Behörden von Zulieferern verlangen, dass ihre Produkte nach dem IEEE 7000-Standardverfahren entwickelt wurden.

Das wäre dann nicht nur ein Fortschritt im Umgang mit digitalen Technologien. Es wäre eine Rückeroberung von Handlungshoheiten, die vom schrittweisen Kontrollverlust in den Bequemlichkeitsblasen der digitalen Welt bedroht sind. Gerade weil Entscheidungsprozesse in Zukunft automatisiert werden. Die werden so banal sein wie die Antwort auf die Frage, welche Zutaten am Abend in den Eintopf kommen, und so weitreichend wie die Vorgabe, welche Therapie gegen ein Leiden eingesetzt wird. Ein Prozess, der nicht nur eine technische, sondern auch eine ethische Qualität bei Maschinen garantiert, könnte dafür sorgen, dass die nächsten Schritte der Digitalisierung echter Fortschritt sind.

© SZ/thba
Zur SZ-Startseite
FILE PHOTO: Smartphone users are silhouetted against a backdrop projected with the Twitter logo

SZ PlusSoziologe Chris Bail über Facebook und Co.
:"Wir überschätzen die Macht dieser Konzerne"

Wie sollte man mit Hass-Kommentaren und extremen Ansichten auf sozialen Netzwerken umgehen? Der US-Soziologe Chris Bail über den Mythos der Filterblase und warum er davon abrät, Social Media ganz zu verlassen.

Lesen Sie mehr zum Thema

Süddeutsche Zeitung
  • Twitter-Seite der SZ
  • Facebook-Seite der SZ
  • Instagram-Seite der SZ
  • Mediadaten
  • Newsletter
  • Eilmeldungen
  • RSS
  • Apps
  • Jobs
  • Datenschutz
  • Kontakt und Impressum
  • AGB