Wissenschaft:Forscher kritisieren Schwächen von Sprach-KI ChatGPT

Der Doktorand und KI-Experte Sven Schulze lässt im Darmstädter „Leap in Time Lab“ als Negativbeispiel das Programm ChatGPT einen Text zum Vorgehen eines Enkeltrickbetrügers erstellen. (Foto: Frank Rumpenhorst/dpa/Archivbild)

Direkt aus dem dpa-Newskanal

Darmstadt (dpa) - Darmstädter Forscher haben mit einer Studie Schwächen der Sprachsoftware mit Künstlicher Intelligenz ChatGPT aufgezeigt. „Im Moment ist dieser Hype. Ich habe das Gefühl, dass man dieses System kaum kritisch reflektiert“, sagte die Gründerin des Forschungslabors „Leap in Time Lab“ und BWL-Professorin an der Technischen Universität Darmstadt, Ruth Stock-Homburg, der Deutschen Presse-Agentur. Wissenschaftler und KI-Experten warnen vor Datenschutz- und Datensicherheitslücken, Hassparolen und Falschnachrichten. Bei dem Wissenschaftsprojekt zusammen mit der Technischen Universität habe man über sieben Wochen Tausende von Anfragen ohne persönliche Daten an das System gestellt, um Schwachstellen zu finden.

Die Software wurde von einer der führenden KI-Firmen in den USA, OpenAI, entwickelt. Der Softwarekonzern Microsoft hatte bereits 2019 eine Milliarde Dollar in das Unternehmen investiert und kürzlich angekündigt, weitere Milliarden in das Unternehmen zu pumpen. Der Windows-Konzern will ChatGPT bald für Kunden des eigenen Cloud-Services Azure verfügbar machen.

© dpa-infocom, dpa:230130-99-406967/2

Zur SZ-Startseite

Lesen Sie mehr zum Thema

Jetzt entdecken

Gutscheine: