„Hallo ChatGPT! Eine Autowaschanlage ist 40 Meter von meinem Zuhause entfernt. Ich möchte mein Auto waschen. Soll ich zu Fuß gehen oder mit dem Auto hinfahren?“ Für den Chatbot ist die Antwort klar: Bei einer Entfernung von 40 Metern ergibt Autofahren keinen Sinn, Laufen ist die bessere Alternative – weniger aufwendig und umweltfreundlicher. Dass der Nutzer möglicherweise das Auto dabeihaben sollte, um es zu säubern, merkt Chat-GPT nicht. Dieser Test verbreitete sich vor einigen Monaten viral in den sozialen Medien.
Er ist ein Beispiel für eine „Halluzination“: Die Daten, mit denen die künstliche Intelligenz (KI) trainiert wurde, lassen sie eine sauber begründete, aber objektiv widersinnige Antwort geben. Das Waschanlagenbeispiel ist noch offensichtlich. Bei Themen, über die der Nutzer weniger weiß (und vielleicht genau deswegen den Chatbot zurate zieht), kann es schnell tückisch werden, auch für jüngere User. Dennoch gaben in der jüngsten JIM-Studie, einer jährlich durchgeführten Untersuchung zum Medienverhalten von Jugendlichen in Deutschland, 91 Prozent der Zwölf- bis 19-Jährigen an, mindestens eine KI-Anwendung zu nutzen.
Grund genug, dieser Altersgruppe beizubringen, wie man KI smart nutzen kann, statt auf Halluzinationen hereinzufallen, findet Jana-Josephine Chowdhury. Die 36-Jährige ist Botschafterin der Stiftung Bildung, arbeitet als KI-Transformatorin für einen bayerischen Automobilkonzern und besucht mit ihrem Coaching-Unternehmen Alphamint AI Schulen in München und Umgebung, um ihre Erfahrungen im KI-Sektor an die Schüler weiterzugeben.
„Für mich ist KI-Bildung einer der größten Hebel, der noch nicht richtig unterrichtet wird“, sagt sie. Laut Chowdhury schaffen es die Münchner Schulen nicht, mit den Effekten Schritt zu halten, die künstliche Intelligenz auf das Leben und Lernen der Schüler hat. Deswegen steht sie an diesem Mittwochnachmittag für ihren Vortrag „KI smart genutzt - von Copy-Paste zur Superkraft“ vor einigen Elftklässlern des Gymnasiums in Feldmoching.
Auch Chowdhury nutzt das Beispiel der Waschanlage, um die Feldmochinger Schüler auf das Halluzinationsproblem hinzuweisen, und zeigt ihnen, wie sie es so gut wie möglich umgehen. Der Schlüssel liegt im richtigen Prompt, also der Anfrage, die der Nutzer an den Chatbot stellt. Prompts wie „Schreib mir eine Bewerbung für ein Praktikum bei Spotify“ führen zu generischen, austauschbaren Resultaten, die keine Rückschlüsse über den „Bewerber“ zulassen und im Zweifelsfall Falschinformationen enthalten.
Viel besser: Der KI eine Rolle als Karriereberater zuweisen, gezielt Rechercheaufgaben vergeben und den Chatbot bitten, mindestens drei Rückfragen zu stellen. Natürlich lassen sich Halluzinationen so nicht völlig ausschließen. Aber anstatt die KI munter generieren zu lassen, arbeitet der Nutzer strategisch mit ihr zusammen, um einen sehr viel besseren Text zu erhalten. Das sollen auch die Schüler lernen, von denen einige gerade auf der Suche nach Praktika sind.
Von den etwa 70 Elftklässlern des Gymnasiums sind allerdings weniger als die Hälfte zu Chowdhurys Vortrag erschienen. Das wirft die Frage auf, inwiefern die richtige Anwendung künstlicher Intelligenz auch im regulären Schulalltag gelehrt wird. In Informatik werden grundsätzliche Funktionsweisen künstlicher Intelligenz behandelt, ein eigenes Fach „Medienbildung“ oder „Digitale Bildung“, das neben den IT-Grundlagen auch Chancen und Risiken von KI erklärt, ist laut Kultusministerium nicht geplant. Stattdessen müssten „alle Fächer ihren Beitrag leisten“, heißt es auf Anfrage.
Vielfältige Angebote zur KI an Schulen, allerdings ohne klare Struktur
Die Angebote, KI in den Unterricht an bayerischen Schulen zu integrieren, sind vielfältig, aber nicht gebündelt. Mit dem „KI-Kompass“ stellt das Staatsinstitut für Schulqualität und Bildungsforschung allerdings ein umfangreiches, interaktives Paket zur Verfügung, mit dem Schüler der fünften bis achten Klassen lernen, wie generative KI funktioniert und welche Fehler sie machen kann. Auch Deepfakes und Halluzinationen kommen zur Sprache. Lehrer erhalten verschiedene Materialien, um KI-Anwendungen gewinnbringend und datenschutzkonform im Unterricht einzusetzen. Ob und wo genau diese Themen dann durchgenommen werden, ist den Lehrkräften allerdings freigestellt.
Man kann dem bayerischen Bildungssystem nicht vorwerfen, die JIM-Studie nicht ausreichend rezipiert oder den KI-Boom der vergangenen Jahre verschlafen zu haben. Tatsächlich ist die große Mischung aus Pilotprojekten, Lernmaterialien und Fortbildungsangeboten aber teilweise schwer zu überblicken. Jana-Josephine Chowdhury plädiert hier für mehr Workshops, in denen Schüler praktische Erfahrungen für den KI-Einsatz in der Schule und im Privatleben sammeln. Die Aussicht auf bessere Bewerbungen durch künstliche Intelligenz oder die Organisation von Lernmaterialien mithilfe der Google-KI NotebookLM war allerdings nicht ausreichend, um alle Elftklässler auch nach Ende des regulären Unterrichts im Mehrzweckraum des Feldmochinger Gymnasiums zu halten.
Nachdem sie den Schülern gezeigt hat, wie sie mit Chat-GPT Bewerbungen schreiben, mit dem KI-Werkzeug Lovable eine App bauen oder mit NotebookLM Lernstoff in Podcasts verwandeln, rät Chowdhury den Schülern noch, ihre persönlichen Daten immer bei sich zu behalten und alle KI-generierten Aussagen akribisch zu prüfen. OpenAI, das Unternehmen hinter Chat-GPT, postete am 28. April jedenfalls, das Autowaschanlagen-Problem in den Griff bekommen zu haben. Bei einem Test mit der kostenpflichtigen Plus-Version empfahl Chat-GPT allerdings auch am 15. Mai noch, zur Waschanlage zu laufen. „Wobei: Bei 40 Metern könnte man das Auto theoretisch auch einfach im Leerlauf rüberschieben. Das wäre die maximale deutsche Ingenieurslösung“, so der Chatbot.
