Sie weiß, wovon sie redet. Yvonne Hofstetter, 50, leitet ihr eigenes Software-Unternehmen in München. Ihre Kunden sind Konzerne und große Mittelständler. Zugleich ist die Juristin eine bekannte Mahnerin gegen die Entmündigung durch Datenmaschinen. Ihr neues Buch handelt davon, wie "die künstliche Intelligenz die Politik übernimmt und uns entmündigt". Starke Worte.
SZ: Frau Hofstetter, Ihr Buch heißt: "Das Ende der Demokratie". Das ist übertrieben, oder?
Yvonne Hofstetter: Wir leben in einer 140-Zeichen-Gesellschaft. Die Menschen sind sehr kurze Nachrichten gewohnt. Was nicht sofort verfängt, bleibt nicht hängen. Der Buchtitel war deshalb gar nicht so sehr meine Entscheidung als Autorin, sondern die des Verlages.
Was wäre Ihr Buchtitel gewesen?
"Der smarte Staat. Szenario einer gelenkten Demokratie". Damit habe ich mich nicht durchsetzen können. Ist aber okay, der Verlag muss das Buch vermarkten.
Das wäre sperriger gewesen, stimmt. Im Kern geht es Ihnen darum, die Gefahren der Digitalisierung zu beschwören. Ist das nicht so, als hätte man die Entwicklung des Autos verbieten wollen, weil es in der Pferdekutsche so schön war?
Ich will die Digitalisierung nicht verhindern, ich beschäftige mich ja von Berufs wegen jeden Tag damit. Es ist faszinierend, wie Maschinen lernen und übermenschliche Entscheidungen fällen, effizient und kompetent. Aber ich habe zwei Köpfe: einen Technologen-Kopf und einen Juristen-Kopf. Und der Juristen-Kopf gibt keine Ruhe, er macht sich Sorgen.
Dann noch schnell eine Frage an den Technologen-Kopf: Wie nutzen Sie die Digitalisierung als Geschäftsmodell?
Wir bauen Software-Systeme für verschiedene Industrien. Zum Beispiel helfen wir international tätigen Unternehmen, ihre Wechselkurs-Risiken zu managen. Und wir unterstützen ein Shared-Economy-Business in Paris und optimieren die Lieferlogistik von Konsumgüterherstellern, und zwar unternehmensübergreifend. Das reduziert den städtischen Lieferverkehr und minimiert den CO₂-Ausstoß. Mit anderen Worten: Auch wir bauen an der Industrie 4.0.
Illustration: Stefan Dimitrov
Welche Rolle kommt dabei der künstlichen Intelligenz zu?
Eine Maschine ist intelligent, wenn sie lernen kann. Und: wenn sie in der Lage ist, Entscheidungen unter Unsicherheit zu treffen. Das kann unsere Software, wir haben tolle Mathematiker und Forscher auf dem Gebiet der künstlichen Intelligenz im Team. Über künstliche Intelligenz wird ja seit Jahrzehnten geredet, aber mit den heutigen Möglichkeiten, unendlich viele Daten zu verarbeiten, ändert sich alles.
Sie sprechen vom "Internet of Everything", deutsch "Internet der Dinge". Will heißen: Bald wird alles mit allem verknüpft sein, das Smartphone mit dem Auto, dem Kühlschrank, der Heizung. Soweit ist das noch okay, oder?
Es ist bequem, ja. Aber will ich das wirklich? Weiß ich dann noch, was eigentlich vorgeht? Ich bin pro Digitalisierung, aber ausdrücklich für bessere Technologie. Denn das Internet der Dinge kommt, weil Firmen mit unseren Daten Geld verdienen. Übrigens bisher vor allem Firmen aus dem Silicon Valley. Wirtschaftsakteure und ihre Finanzinvestoren preschen vor und erschließen unsere Persönlichkeitsrechte als ihre neue Geldquelle. Und die Politik mischt sich nicht ein. Sie überlässt den Technologiekonzernen die Gestaltung der digitalen Gesellschaft, und das ist schlecht.
Warum?
Die Frage ist doch: Was passiert mit den Daten, die aus dem Smartphone, dem Kühlschrank, dem Rauchmelder erhoben werden. Es entstehen Persönlichkeitsprofile, und die Maschinen schlussfolgern daraus auf unser künftiges Verhalten. Das ist ein enormer Eingriff in die Privatsphäre.
Digitalisierung erleichtert das Leben. Selbstfahrende Autos schonen unsere Nerven, unsere Gesundheit und die Umwelt. Die Verknüpfung von Gesundheitsdaten, die den Arzt schlauer macht, kann Leben retten - was ist daran so schlimm?
Das sind positive Entwicklungen, ja. Gerade auch bei der Industrie 4.0, also der Vernetzung in der Produktion, ist in Zukunft vieles möglich und auch unproblematisch - wenn keine personenbezogenen Daten betroffen sind. Auch viele Anwendungen für die Bürger sind hilfreich. Das Problem ist deren Infrastruktur. Wenn etwa der amerikanische Hersteller meiner Insulinpumpe meine Blutzuckerwerte misst und sie partout nicht herausgibt, wenn mein Arzt sie überprüfen will.
Yvonne Hofstetter, 50, ist seit 1999 in Software-Unternehmen tätig. Seit 2009 ist sie Geschäftsführerin des Big-Data-Spezialisten Teramark Technologies. Als Autorin wurde sie mit dem Bestseller "Sie wissen alles" bekannt.
(Foto: Alessandra Schellnegger)Letztlich aber hat es jeder Einzelne in der Hand, sich in dieses Datenkarussell zu begeben, oder nicht. Man muss kein Smartphone nutzen - haben Sie denn eines?
Sie sprechen das Recht an, digital abstinent zu sein, ohne dadurch Nachteile zu erleiden. Tatsächlich lebe ich selbst ohne Smartphone, ich habe nur mein Handy. Ich nutze weder Google noch Facebook. Das ist eine Haltung, die man nicht von jedem verlangen kann. Meine jungen Freunde erreiche ich nicht, wenn ich keine Whatsapp-Gruppe einrichte, aber dafür muss ich mich digital nackt ausziehen. Digitale Teilhabe muss aber möglich sein, ohne dass meine Grundrechte verletzt werden. Dafür zu sorgen fällt in die Verantwortung des Staates.
Hat Europa mit der EU-Datenschutzgrundverordnung ja auch getan ...
Das war gut, weltweit gibt es nichts Vergleichbares, aber es ist längst nicht genug.
Was fordern Sie konkret?
Wir müssen klären, welche Geschäftsmodelle erlaubt sein sollen. Darf es erlaubt sein, dass man sich sein Haus vollständig verwanzt? Darf es erlaubt sein, dass ein Mensch seine Grundrechte freiwillig aufgibt, indem er die einseitig erklärten Allgemeinen Geschäftsbedingungen von Internetriesen pauschal akzeptieren muss, damit er dazugehören kann? Wir müssen darauf achten, dass die Werte, die wir hier in Europa pflegen - soziale Marktwirtschaft, Grundrechte, Demokratie - nicht von Google, Facebook und den anderen Silicon-Valley-Spielern ausgehebelt werden.
Wir brauchen also weitere Gesetze?
Ja, wobei das nicht so einfach ist. Recht funktioniert, wenn Kausalität gegeben ist. Wir machen ein Gesetz und haben eine klare Erwartung, wie es wirken soll. Aber im Zeitalter der totalen Vernetzung funktioniert das so nicht mehr. Die zunehmende Vernetzung führt zu einer Komplexitätsexplosion. Die Anzahl der Interaktionen, Beziehungen und Abhängigkeiten zwischen Dingen und Menschen nimmt weiter zu, so dass der Grundsatz von Ursache und Wirkung nicht mehr funktioniert. Stattdessen herrscht das Prinzip Feedback.
Und jetzt?
Die hohe Kunst wäre es, die gewünschten Regeln nicht nur in Gesetze zu packen, sondern künstliche Intelligenzen unsere Werte direkt erlernen zu lassen. Den Ordnungsrahmen also gleich mitzuprogrammieren.
Das ist fast unmöglich.
Das ist eine Herausforderung für die besten Mathematiker der Welt. Aber wollen wir den Kopf hängen lassen? Nein, wir müssen angreifen!
Und bis es so weit ist, was empfehlen Sie dem Einzelnen?
Es kann nicht jeder so leben wie ich, ohne Smartphone, ohne Facebook. Aber jeder kann achtsamer sein im Umgang mit den neuen Medien. Ich sage den Menschen: Macht euch klar, dass eure Facebook- Daten durch den Orbit kreisen, dass sie von mächtigen Konzernen ausgewer- tet werden, selbst vom Staat. Irgendwann bekommt man wegen seiner Daten keinen Kredit mehr oder verliert den Job. Deshalb: Seid so datensparsam wie möglich.