Hallucination de l'IA
Une hallucination de l'IA, c'est quand un outil d'IA affirme quelque chose de faux ou d'inventé avec une assurance totale, et présente une information erronée, une fausse citation ou une source inventée comme si elle était vraie. Pour les étudiants qui révisent avec des chatbots généralistes, c'est la principale raison pour laquelle des réponses peuvent tromper sans qu'on le remarque.
Les grands modèles de langage prédisent un texte qui sonne vraisemblable, pas des faits vérifiés. Quand un modèle ne sait pas vraiment quelque chose, il devine souvent au lieu d'admettre le manque, si bien que la réponse peut paraître soignée et sûre tout en étant fausse. L'assurance est le piège. Une explication hallucinée ressemble exactement à une explication correcte.
On croit souvent que les hallucinations n'arrivent que sur des sujets obscurs. Elles apparaissent aussi sur du contenu de base : une date fausse, une citation mal attribuée, une référence à un article qui n'existe pas. Si la réponse n'a aucune source que tu peux vérifier, tu n'as aucun moyen de distinguer un vrai fait d'une supposition fluide.
Un étudiant demande à un chatbot généraliste d'expliquer les étapes du cycle de Krebs avant un examen. Le bot énumère huit étapes avec assurance, mais inverse deux intermédiaires et invente le nom d'une enzyme. L'étudiant l'apprend par cœur, puis perd des points à l'examen pour une erreur introduite par l'IA.