Thüringer Datenschützer warnt vor Hausaufgaben mit KI

Erfurt (dpa/th) - Thüringens Landesdatenschützer Lutz Hasse mahnt zur Vorsicht, Künstliche Intelligenz (KI) bei Hausaufgaben einzubeziehen. Er könne nicht empfehlen, den Schülern die Arbeit mit KI aufzugeben, wenn diese dafür personenbezogene Daten eingeben müssten, sagte Hasse der Deutschen Presse-Agentur in Erfurt. „Weil nicht klar ist, was mit diesen Daten passiert. Daher würde ich davon abraten“, sagte Hasse.

Seit Ende vergangenen Jahres sorgt vor allem der populäre Chatbot ChatGPT für Aufsehen, hinter dem die Firma OpenAI steht. Hasse sagte, dass die Landesdatenschützer OpenAI einen Katalog mit Datenschutzfragen geschickt hätten und das US-Unternehmen auch geantwortet habe. „Wir haben den Eindruck, dass die bemüht sind, transparent zu kooperieren“, sagte Hasse. Es gebe aber Nachfragen.

„Uns ist der Vorgang der Datenverarbeitung - welche Daten von wem zu welchen Zwecken genutzt werden - noch nicht ganz transparent“, sagte Hasse. Auch seien Fragen der Datenlöschung nicht klar, auf welcher Rechtsgrundlage die Software eingesetzt werde, was mit Daten Dritter passiere und ob beispielsweise Profile mit den Daten der Nutzer angelegt würden. „Ich gehe davon aus, dass sich ein Kommunikationsprozess anschließt, der zielführender ist als mit anderen“, sagte Hasse.

Die Nachfragen der Datenschützer sollen gesammelt und dann wieder an OpenAI geschickt werden. Hasse leitet im Kreis der Landesdatenschützer die Arbeitsgruppe Datenschutz und Bildung.