Alucinación de la IA
Una alucinación de la IA ocurre cuando una herramienta de IA afirma algo falso o inventado con total seguridad, y presenta un dato erróneo, una cita falsa o una fuente inexistente como si fuera cierto. Para quienes estudian con chatbots generales, es la principal razón por la que las respuestas engañan sin que se note.
Los modelos de lenguaje predicen texto que suena probable, no hechos verificados. Cuando un modelo no sabe algo de verdad, suele adivinar en lugar de admitir el vacío, así que la respuesta parece pulida y segura aunque esté equivocada. Esa seguridad es la trampa. Una explicación alucinada se ve igual que una correcta.
Un error común es creer que las alucinaciones solo pasan con temas raros. También aparecen en lo básico: una fecha mal, una cita mal atribuida, una referencia a un estudio que no existe. Si la respuesta no trae una fuente que puedas comprobar, no hay forma de distinguir un dato real de una suposición fluida.
Una estudiante le pide a un chatbot general que le explique los pasos del ciclo de Krebs antes del examen. El bot enumera ocho pasos con seguridad, pero intercambia dos intermediarios e inventa el nombre de una enzima. Ella lo memoriza así y pierde puntos en el examen por un error que metió la IA.