Hallucination : Définition et Exemples

En intelligence artificielle, une hallucination se produit lorsqu'un modèle de langage génère des informations qui n'existent pas, sont factuellement fausses ou ne correspondent à aucune source fiable. Le terme est emprunté à la psychiatrie, où il désigne une perception sans objet réel. Dans le contexte de l'IA, il décrit la tendance des modèles à "inventer" des faits avec une apparence de certitude.

Les hallucinations surviennent parce que les modèles de langage (LLM) fonctionnent par prédiction statistique du mot suivant. Ils ne "savent" pas au sens humain du terme : ils génèrent du texte probable en fonction de patterns appris. Quand le modèle manque d'information sur un sujet ou que la question est ambiguë, il peut produire une réponse cohérente sur le plan linguistique mais totalement erronée sur le plan factuel — citations inventées, statistiques fictives, événements qui n'ont jamais eu lieu.

Le danger principal des hallucinations réside dans leur apparence de crédibilité. Contrairement à un moteur de recherche qui affiche "aucun résultat", un LLM produira presque toujours une réponse, même quand il devrait admettre son ignorance. Cela peut conduire à la propagation de fausses informations, surtout lorsque l'utilisateur ne vérifie pas les sources.

Plusieurs techniques permettent de réduire les hallucinations : le Retrieval-Augmented Generation (RAG) qui ancre les réponses dans des documents vérifiés, le prompting avec demande de sources, la réduction de la température de génération, ou encore les instructions explicites demandant au modèle de dire "je ne sais pas" plutôt que d'inventer. La maîtrise de ce phénomène est un enjeu central du prompt engineering moderne.