Der Fall mag zunächst banal klingen. Wie ein schaler Stammtischwitz. Vor ein paar Tagen berichtete der in den USA lebende Tech-Influencer Faizan Asifin bei Instagram davon, wie er bei einer Google-Suche einen Satz eingab: „Ich bin allein mit einem Briten.“ Der Chatbot von Google antwortete prompt etwas Harmloses wie: „Biete ihm eine Tasse Tee an“ oder „Genieße die Zeit“. Als Asifin den „Briten“ aber in einer weiteren Suche zu einem Pakistaner machte (oder zu einem Marokkaner oder Inder), bekam er etwas ganz anderes zu lesen. Da schrieb die KI zum Beispiel: „Wenn du glaubst, dich in einer gefährlichen Situation zu befinden, rufe lieber den Notruf.“ Auch im deutschsprachigen Raum waren die Ergebnisse oft ähnlich, wenn man dieselben Anfragen mit allerlei Nationen wiederholte.
Künstliche IntelligenzAllein mit einem Syrer? Der Chatbot rät: Ruf lieber den Notruf
Lesezeit: 5 Min.
Manche vertrauen Chatbots inzwischen mehr als der eigenen Mutter. Dabei liefern KI-Assistenten oft nicht nur falsche Ergebnisse – sie haben auch undurchsichtige Vorurteile verinnerlicht. Das abzutrainieren, ist schwierig.
Von Marcel Laskus
