Alucinação da IA
Uma alucinação da IA acontece quando uma ferramenta de IA afirma algo falso ou inventado com total confiança, e apresenta um dado errado, uma citação falsa ou uma fonte inexistente como se fosse verdade. Para quem estuda com chatbots gerais, é o principal motivo pelo qual as respostas podem enganar sem que se perceba.
Os grandes modelos de linguagem preveem um texto que soa plausível, não fatos verificados. Quando um modelo não sabe algo de verdade, ele muitas vezes chuta em vez de admitir a falta, então a resposta pode parecer bem-acabada e segura mesmo estando errada. A confiança é a armadilha. Uma explicação alucinada se parece exatamente com uma correta.
Um equívoco comum é achar que as alucinações só acontecem em temas obscuros. Elas também aparecem em conteúdo básico: uma data errada, uma citação mal atribuída, uma referência a um artigo que não existe. Se a resposta não vem com uma fonte que voce possa conferir, voce não tem como distinguir um fato real de um chute fluente.
Um estudante pede a um chatbot geral que explique as etapas do ciclo de Krebs antes de uma prova. O bot lista oito etapas com confiança, mas troca dois intermediários e inventa o nome de uma enzima. O estudante decora assim e depois perde pontos na prova por um erro que a IA introduziu.