AI-hallucinatie
Een AI-hallucinatie is wanneer een AI-tool iets onwaars of verzonnen beweert terwijl het volkomen zelfverzekerd klinkt, en een fout feit, een valse bronvermelding of een verzonnen bron presenteert alsof het waar is. Voor studenten die algemene chatbots gebruiken om te studeren, is het de belangrijkste reden waarom antwoorden ongemerkt kunnen misleiden.
Grote taalmodellen voorspellen waarschijnlijk klinkende tekst, geen geverifieerde feiten. Als een model iets niet echt weet, gokt het vaak in plaats van het gat toe te geven, dus het antwoord kan verzorgd en zeker overkomen terwijl het fout is. De zelfverzekerdheid is de val. Een gehallucineerde uitleg ziet er precies zo uit als een juiste.
Een veelgemaakte misvatting is dat hallucinaties alleen bij obscure onderwerpen gebeuren. Ze duiken ook op bij basisstof: een fout datum, een verkeerd toegeschreven citaat, een verwijzing naar een artikel dat niet bestaat. Als het antwoord zonder bron komt die je kunt controleren, heb je geen manier om een echt feit van een vlotte gok te onderscheiden.
Een student vraagt een algemene chatbot om voor een examen de stappen van de Krebscyclus uit te leggen. De bot somt zelfverzekerd acht stappen op, maar verwisselt twee tussenproducten en verzint een enzymnaam. De student leert het uit het hoofd en verliest dan punten op het examen door een fout die de AI introduceerde.