Digitale Welt Vorfahrt für den Code

Was passiert mit einer Gesellschaft, wenn man Gesetze nicht formuliert, sondern programmiert?

Von Adrian Lobe

Wer wissen will, wie Recht und Rechtswirklichkeit auseinanderklaffen, muss das Wiener Übereinkommen über den Straßenverkehr durchlesen, das am 8. November 1968 von der internationalen Staatengemeinschaft verabschiedet wurde und bis heute Gültigkeit hat. "Ein Führer", heißt es da in Artikel 8 in schönstem Verwaltungsdeutsch, "darf sein Fahrzeug oder seine Tiere nicht verlassen, ohne alle zweckdienlichen Vorkehrungen getroffen zu haben, um jeden Unfall, und sofern es sich um ein Kraftfahrzeug handelt, dessen unerlaubte Verwendung zu verhüten."

Weiter wird definiert: "Führer ist jede Person, die ein Kraftfahrzeug oder ein anderes Fahrzeug (Fahrräder eingeschlossen) lenkt oder die auf einer Straße Vieh, einzeln oder in Herden, oder Zug-, Saum- oder Reittiere leitet." Die Vorschrift wirkt etwas gestrig, weil die Verhandlungsführer damals noch nicht ahnen konnten, dass es einmal E-Bikes, E-Scooter oder SUVs geben würde.

Nun macht eine sich verändernde Gesellschaft ein Rechtsregime noch nicht ungültig oder illegitim. Doch die Automatisierung stellt das Recht vor gewaltige Herausforderungen. Wenn künftig autonome Fahrzeuge auf Straßen rollen, müssen sie Recht und Gesetz wie etwa die Straßenverkehrsordnung beachten: Ampeln, Vorfahrtsregeln, Abstandsgebote. Maschinen und nicht mehr allein Menschen sind dann Adressaten des Rechts.

Algorithmen sind Black-Box-Systeme, die keiner demokratischen Überprüfbarkeit unterliegen

Die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) hat neulich einen Bericht ("Governing Transport in the Algorithmic Age") veröffentlicht, in dem die Möglichkeiten einer algorithmischen Regulierung im Verkehrswesen diskutiert werden. Der Report ist das Ergebnis eines Workshops des International Transport Forum (ITF) vom vergangenen Dezember, an dem Verkehrsexperten aus aller Welt, unter anderem von Uber, Toyota und Renault, teilnahmen.

Algorithmen sind schon heute faktisch Regulatoren: Sie setzen dynamische Preise, steuern die Verkehrsströme über Empfehlungssysteme und Routenplaner, entscheiden, welches Fahrzeug wo steht, wo sich Menschen hinbewegen, und, in ethischen Dilemmata, ob das Roboterfahrzeug bei einer drohenden Kollision den Fußgänger oder den Motorradfahrer rammt. Kurzum: Maschinen orchestrieren Mobilität. Oder, wie es Seleta Reynolds, Direktorin der Verkehrsbehörde von Los Angeles, formulierte: "Code ist der neue Beton, die Infrastruktur ist algorithmisch, und die Stadt muss sie unmittelbar liefern."

Der 84 Seiten lange Bericht erschöpft sich aber nicht in der Analyse einer datengetriebenen Verkehrswelt, er fordert Konsequenzen für die Rechtspraxis und nicht weniger als eine Strukturreform: Das gesetzte Recht sollte nicht mehr in Gesetzesform, also in Worte, gegossen werden, sondern in Programmcode, sprich mathematische Formeln. Die Idee: Transportbehörden könnten Bestimmungen, etwa die Vorschrift, dass eine Drohne nicht weiter als 1000 Meter weg von einer Start- und Landebahn fliegen darf, direkt in maschinenlesbarem Code veröffentlichen. Das Gesetz und seine Bestimmungen, heißt es in dem Report, seien nicht mit algorithmischen Entscheidungssystemen kompatibel, daher müssten sie in Computersyntax übersetzt und in algorithmische Modelle transkribiert werden.

Es geht bei dem Vorschlag nicht einfach darum, Gesetzestexte einzuscannen und auf maschinenlesbares Format zu bringen, sondern die Struktur beziehungsweise Syntax von Gesetzen selbst zu verändern, es der Grammatik des Codes anzupassen. "Maschinenlesbares Recht", heißt es in dem Bericht, "würde die Möglichkeit eröffnen, direkt die gewünschten Policy-Outcomes (...) in algorithmische Entscheidungssysteme einzufügen." Beispielsweise könnte man ein Roboterfahrzeug so programmieren, im Stadtverkehr nicht schneller als Tempo 50 zu fahren. Die Regierung würde dann in der Praxis keine Verordnung erlassen, sondern eine Programmiervorschrift formulieren: Wenn innerstädtisches Gebiet erreicht, dann maximale Geschwindigkeit 50 Stundenkilometer. Falls überschritten, Bußgeld. "Compliance by design", nennen das die Autoren. Eine Art programmierte Normbefolgung.

Binär operierende Entscheidungssysteme dulden keine Toleranzbereiche

Die Idee der algorithmischen Regulierung hat der kalifornische Internet-Vordenker Tim O'Reilly bereits 2013 in einem Aufsatz entwickelt. "Wir können uns eine Zukunft vorstellen, in der die Geschwindigkeitsbegrenzung automatisch auf Grundlage des Verkehrs, der Wetterbedingungen oder anderer subjektiver Bedingungen (...) angepasst wird." Einfache Web-Metriken, schrieb O'Reilly, könnten zu einer "massiven Vereinfachung" von Regierungswebseiten und einer Reduzierung der IT-Kosten führen. Was er damit auch meinte, war eine Verschlankung des Staates durch flexible, dynamische Ordnungssysteme. Es war die Utopie vom Gemeinwesen als einem kybernetischen System, das sich automatisch an Umweltbedingungen anpasst.

So weit wie O'Reilly geht der OECD-Bericht nicht, er bringt aber den Einsatz regulatorischer Algorithmen durch Regierungen ins Spiel, etwa Codes, die automatisch oder halb automatisch Gesetzesfunktionen implementieren. In Estland plant das Justizministerium einen "Roboterrichter" zu institutionalisieren, der automatisiert geringfügige Klagen bearbeiten und die Richterschaft entlasten soll. Die Automatisierung des Rechtswesens ist in vollem Gange. Der Bericht redet jedoch keiner computerisierten Schnelljustiz das Wort, sondern problematisiert durchaus die Nebenwirkungen einer algorithmischen Regulierung. Ein Roboterfahrzeug könnte beispielsweise in eine Lage gebracht werden, wo es zwei miteinander konfligierende (Programmier-)Vorschriften befolgen muss - einerseits für den Krankenwagen eine Rettungsgasse bilden, andererseits nicht vor einem Hydranten parken. Das führt in der Praxis zu (Norm-)Kollisionen und Handlungsunfähigkeit.

Binär operierende Entscheidungssysteme dulden keine Toleranzbereiche oder Interpretationsspielräume, und können in ihrer Rigidität einer technoautoritären Gesellschaft Vorschub leisten, in der Rechtssubjekte blind algorithmischen Befehlsketten folgen. Dass solche Steuerungsformen anschlussfähig an rechte Strömungen sind, ist klar. Denn die Idee, den Rechtsstaat mit einem opaken Formelwerk umzubauen, entspringt ja nicht nur den libertären Machbarkeitsvisionen einer kleinen Programmierelite, sondern auch der Geisteshaltung der Demokratieverächter.

Damit wäre man beim zentralen demokratietheoretischen Problem angelangt: Algorithmen sind Black-Box-Systeme, die keiner demokratischen Überprüfbarkeit unterliegen. Die Installation eines "exekutierbaren Rechts" würde diese Arkanformeln legitimieren und ins Zentrum des politischen Systems rücken. Das Parlament als zentraler politischer Körper würde ausgehöhlt, die Macht endgültig an Rechenzentren transferiert. Das Recht wäre in der IoT-Architektur bloß noch eine Information, Datenfutter für Maschinen. Eine algorithmische Regulierung - ob im Straßenverkehr oder anderswo - würde schließlich den Bruch mit einer jahrhundertealten Rechtstradition bedeuten, die trotz der Spröde, die man ihrer Sprache gerne vorwirft, ja auch eine gewisse Ästhetik besitzt: geschliffene Formulierungen, Aphorismen, Sätze für die Ewigkeit.

Programmier-"Sprachen" heißen zwar auch Sprachen, aber es sind keine Sprachen im engeren Sinne, sondern bloß Formeln, die außer Programmierern nur Maschinen verstehen. Dem Programmcode geht jede Schönheit ab. Es ist bloß ein Instrument, das eine Norm exekutiert, aber nicht statuiert. Glaubt man ernsthaft, man könnte den epochalen Grundgesetzartikel "Die Würde des Menschen ist unantastbar" in Einsen und Nullen verwandeln? Wäre dies nicht ein Werterelativismus, wenn Werte zu mathematischen Werten degenerierten, die Banalisierung, ja Negation einer grundrechtlichen Garantie? Man kann Programmierzeilen jederzeit löschen. Der Code steht nicht unter dem Vorbehalt des Gesetzes, sondern der Delete-Taste - und ist mithin der Willkür der Programmierer ausgesetzt.

Die Unvereinbarkeit von materiellem Recht und Programmcode, die die Autoren unterstellen, ist nicht nachvollziehbar, weil auch abstrakt-generelle Regelungen wie ein Gesetz einem deterministischen Bauprinzip (Wenn, dann) folgen, dem Programmcode strukturell also gar nicht so unähnlich sind. Ein Gesetz beschreibt wie ein Algorithmus eine Anweisung für eine Vielzahl von Fällen. Der qualitative Unterschied besteht darin, dass Gesetze demokratisch legitimiert sind und nicht bloß Regeln, die Programmierer setzen. Normen dagegen sind auslegungs- und diskursfähig. Und im Gegensatz zu Programmiervorschriften kann man dagegen auch verstoßen.