Fake-News-Generator Mit Lügen spielen

Enorme Datenmengen: Die Forscher beschreiben, dass sich der Bot mit Informationen von mehr als acht Millionen Webseiten nährt.

(Foto: Franziska Gabbert/dpa)

Auf einer neuen Website können Nutzerinnen und Nutzer aus wenigen Stichworten Falschmeldungen generieren lassen. Eigentlich wollten die Entwickler das Werkzeug unter Verschluss halten, um Missbrauch auszuschließen.

Von Benjamin Emonts

Kanzlerin Angela Merkel möchte der Politik den Rücken kehren. Tippt man dieses Szenario in englischer Sprache in den gerade veröffentlichten Fake-News-Bot ein, so fügt dieser hinzu, dass der Plan ambitionierter sei als die "der meisten deutschen Anführer". Der Plan sei politisch motiviert und folge einer Intention Merkels aus dem Jahr 2017, ins Europäische Parlament einzuziehen. "Das sind keine guten Neuigkeiten für die deutsche Verfassung", heißt es weiter. Merkel wollte ins Europäische Parlament? 2017? Auszuschließen. Aber wäre es nicht irgendwann denkbar?

Allein diese Kombinationsleistung ist schon bemerkenswert. Der Fake-News-Bot GPT-2, den Forscher des kalifornischen Startups OpenAI entwickelt und nun der Öffentlichkeit zugänglich gemacht haben, kann teils echt wirkende Fake News schreiben. Mit überschaubarer menschlicher Starthilfe: Es genügt, einen Satz oder Textschnipsel in die Maske einzugeben - und schon ist das Programm oftmals in der Lage, natürlich und plausibel klingende Texte in passabler englischer Sprache zu formulieren. Die Forscher von Open AI, die mit Millionensummen vom Tesla-CEO Elon Musk und Facebook-Investor Peter Thiel unterstützt werden, haben damit nach eigenen Angaben einen bedeutsamen Entwicklungssprung beim Machine Learning gemacht.

Da Werkzeuge wie dieses denkbar leicht missbraucht werden können, wollten die Entwickler den Bot zunächst unter Verschluss halten - jetzt aber haben sie ihn mit einer abgeschwächten Künstlichen Intelligenz veröffentlicht. Auf der Webseite talktotransformer.com ist das Angebot jederzeit für jedermann abrufbar. Aus nur wenigen Zeilen generiert es innerhalb weniger Sekunden kleine Geschichten. Außerdem kann es Dialoge fortführen, Liedtexte vervollständigen oder To-Do-Listen schreiben. Wie das funktioniert? Nach Beschreibung der Forscher nährt sich der Bot mit Informationen von mehr als acht Millionen Webseiten. Er konzentriert sich dabei überwiegend auf Seiten, die im sozialen Netzwerk Reddit gepostet wurden und dort wiederum auf Links, die von mindestens drei Menschen für wertvoll befunden wurden. Dass Kriminelle das Tool für ihre Zwecke nutzen können, steht für Wissenschaftler außer Frage, viele befürchten zudem, dass die Neuentwicklung ein schlechtes Licht auf die Forschung mit KI werfen könnte. Das US-Technikportal The Verge aber beschwichtigt: Bislang durchdringe das Programm weder die Sprache noch die Welt im Allgemeinen.