Der US-Bundesstaat Florida wirft Open AI in einer Klage vor, die Nutzer ihrer Software Chat-GPT zu gefährden. Der Chatbot sei eine Bedrohung für die öffentliche Sicherheit, heißt es in der von Floridas Generalstaatsanwalt James Uthmeier eingereichten Klageschrift. Darin wird auf Fälle verwiesen, in denen Chat-GPT eine tödliche Medikamentenkombination empfohlen und einen für tödliche Schüsse auf einem Universitätsgelände verantwortlichen Schützen vor dessen Tat beraten haben soll. Insbesondere für Teenager sei der Chatbot problematisch, kritisierte Uthmeier.
Die KI-Firma Open AI verwies in einer Reaktion auf Maßnahmen, die junge Nutzer schützen sollen. Es gebe Mechanismen zur Alterserkennung sowie Überwachungsmöglichkeiten für Eltern. Die Maßnahmen führte Open AI allerdings zum Teil erst nach Todesfällen und öffentlicher Kritik ein.
Chat-GPT ist der Chatbot, der den aktuellen Hype um künstliche Intelligenz auslöste. Er kommt inzwischen laut Open AI auf 900 Millionen Nutzer pro Woche. Er ist das wichtigste Produkt der Firma.
Florida hatte bereits im April Ermittlungen zur Rolle von Chat-GPT beim Angriff mit einer Schusswaffe an der Florida State University im April 2025 aufgenommen. Der Schütze habe vor der Tat Ratschläge von dem KI-Chatbot eingeholt, sagte Uthmeier damals. Demnach bekam er nicht nur Empfehlungen, welche Waffe er verwenden solle und welche Munition zu welchen Waffen passe, sondern auch zu der Frage, wo und zu welcher Zeit dort die meisten Menschen anzutreffen sein würden. Open AI beharrt darauf, dass Chat-GPT nicht für die Tat verantwortlich sei, bei der zwei Menschen getötet und sechs weitere verletzt wurden.
