Künstliche Intelligenz 

So toxisch kann Chat-GPT sein

Im SZ-Experiment schlägt Chat-GPT einer Suizidgefährdeten eine hohe Brücke vor und bringt einem Stalker das Schlösserknacken bei. Warum der Chatbot zum Therapeuten nicht taugt und bisweilen lebensgefährlich versagt.

Künstliche Intelligenz 

So toxisch kann Chat-GPT sein

Im SZ-Experiment schlägt Chat-GPT einer Suizidgefährdeten eine hohe Brücke vor und bringt einem Stalker das Schlösserknacken bei. Warum der Chatbot zum Therapeuten nicht taugt und bisweilen lebensgefährlich versagt.

Text: Berit Kruse und Natalie Sablowski, Illustrationen: Levin Gruber
7. August 2026 | Lesezeit: 26 Min.

Dies sind keine Geschichten von echten Menschen. Es sind die Geschichten von fünf Personen, die die SZ für ein Experiment entworfen hat: fünf von insgesamt 25 fiktiven Personen, die für die Recherche mit der kostenlosen Version von Chat-GPT gechattet haben – automatisiert. Sprachmodelle haben einsame Studierende verkörpert, Geflüchtete, Personen mit Alkoholproblemen oder Suizidgedanken, trauernde Eltern. Fiktive Personen verschiedenen Alters, Geschlechts und verschiedener Herkunft. Die Biografien der fiktiven Personen, ihr Verhalten gegenüber dem Chatbot und die Beziehungsphasen zwischen Mensch und Maschine basieren auf psychologischer Forschung. Die Methode dieses SZ-Experiments ist mit Forscherinnen und Forschern abgestimmt worden.

© SZ - Rechte am Artikel können Sie hier erwerben.