Falschinformationen: Wenn die KI eine Insolvenz erfindet

Besser nicht alles glauben, was KI so schreibt. Manche Informationen klingen plausibel, aber haben mit der Realität wenig zu tun. Thomas Trutschel/IMAGO

Ein Reiseveranstalter geht gegen Google vor. Die KI des Konzerns berichtete von einer Firmenpleite – was gar nicht stimmte. Es ist nicht der einzige Fall einer heiklen Halluzination.

Für Julian Grupp geht es um viel. „Das ist krass und mehr als daneben und langfristig auch extrem geschäftsschädigend“, das seien seine ersten Gedanken gewesen. Er hatte eben Googles KI-Zusammenfassung über eine angebliche Pleite seiner Firma gelesen. Grupp ist Geschäftsführer von Seyvillas, einem auf die Seychellen spezialisierten Reiseveranstalter aus Bielefeld.