KI-Halluzination
Eine KI-Halluzination ist, wenn ein KI-Tool etwas Falsches oder Erfundenes mit voller Überzeugung behauptet und einen falschen Fakt, eine erfundene Quelle oder ein nicht existierendes Zitat so darstellt, als wäre es wahr. Für Lernende, die allgemeine Chatbots nutzen, ist das der Hauptgrund, warum Antworten unbemerkt in die Irre führen.
Sprachmodelle sagen wahrscheinlich klingenden Text voraus, keine geprüften Fakten. Wenn ein Modell etwas nicht wirklich weiß, rät es oft, statt die Lücke zuzugeben. So wirkt die Antwort sauber und sicher und ist trotzdem falsch. Genau diese Sicherheit ist die Falle. Eine halluzinierte Erklärung sieht aus wie eine richtige.
Ein verbreiteter Irrtum ist, dass Halluzinationen nur bei seltenen Themen passieren. Sie treten auch beim Grundstoff auf: ein falsches Datum, ein falsch zugeordnetes Zitat, der Verweis auf eine Studie, die es nicht gibt. Ohne überprüfbare Quelle kannst du einen echten Fakt nicht von einer flüssigen Vermutung unterscheiden.
Eine Studentin lässt sich von einem allgemeinen Chatbot vor der Prüfung den Citratzyklus erklären. Der Bot listet selbstbewusst acht Schritte auf, vertauscht aber zwei Zwischenprodukte und erfindet einen Enzymnamen. Sie lernt es so auswendig und verliert in der Klausur Punkte für einen Fehler, den die KI eingebracht hat.