KI-Halluzination
Eine KI-Halluzination ist, wenn ein KI-Tool etwas Falsches oder Erfundenes mit voller Überzeugung behauptet und einen falschen Fakt, eine erfundene Quelle oder ein nicht existierendes Zitat so darstellt, als wäre es wahr. Für Lernende, die allgemeine Chatbots nutzen, ist das der Hauptgrund, warum Antworten unbemerkt in die Irre führen.
Sprachmodelle sagen wahrscheinlich klingenden Text voraus, keine geprüften Fakten. Wenn ein Modell etwas nicht wirklich weiß, rät es oft, statt die Lücke zuzugeben. So wirkt die Antwort sauber und sicher und ist trotzdem falsch. Genau diese Sicherheit ist die Falle. Eine halluzinierte Erklärung sieht aus wie eine richtige.
Ein verbreiteter Irrtum ist, dass Halluzinationen nur bei seltenen Themen passieren. Sie treten auch beim Grundstoff auf: ein falsches Datum, ein falsch zugeordnetes Zitat, der Verweis auf eine Studie, die es nicht gibt. Ohne überprüfbare Quelle kannst du einen echten Fakt nicht von einer flüssigen Vermutung unterscheiden.
Eine Studentin lässt sich von einem allgemeinen Chatbot vor der Prüfung den Citratzyklus erklären. Der Bot listet selbstbewusst acht Schritte auf, vertauscht aber zwei Zwischenprodukte und erfindet einen Enzymnamen. Sie lernt es so auswendig und verliert in der Klausur Punkte für einen Fehler, den die KI eingebracht hat.
Wende es auf deinen eigenen Kurs an
Bo antwortet nur aus dem Material, das du hochlädst, mit Verweis auf die genaue PDF-Seite, die Videosekunde oder die Quelle. Steht etwas nicht in deinem Material, sagt Bo das, statt eine Antwort zu erfinden. Genau das hält Halluzinationen aus deinem Lernen heraus.
Kostenlos startenKostenlos startenWarum erfinden KI-Chatbots Fakten so überzeugend?
Sie sind darauf trainiert, plausiblen Text vorherzusagen, nicht die Wahrheit zu kennen. Fehlt eine echte Antwort, raten sie, statt zuzugeben, dass sie es nicht wissen. Die Ausgabe klingt flüssig und sicher, weil die Trainingsdaten so klingen. Sicherheit ist kein Zeichen für Richtigkeit.
Wie erkenne ich, ob eine KI-Antwort eine Halluzination ist?
Achte auf eine echte, überprüfbare Quelle. Eine halluzinierte Antwort klingt meist sicher, nennt aber keine Quelle, die du öffnen kannst, oder verweist auf etwas, das es nicht gibt. Gleiche jeden Fakt mit deinem echten Kursmaterial ab, bevor du ihm vertraust.