Agenfy

Définition

Hallucination

Aussi appelé : Confabulation

Une hallucination est une réponse d'un modèle d'IA générative qui paraît plausible et assurée mais qui est fausse, inventée ou non étayée : chiffre erroné, référence juridique inexistante, citation fabriquée. Elle découle du fonctionnement probabiliste des LLM, qui produisent un texte vraisemblable sans vérifier les faits par eux-mêmes.

Pourquoi c'est important en entreprise

C'est le principal risque d'un assistant en production, surtout dans les domaines juridique, financier ou technique. On peut fortement la réduire (RAG, obligation de citer les sources, consignes explicites, évaluation systématique, validation humaine) mais pas la supprimer totalement : le processus doit en tenir compte.

Exemple concret

Un assistant juridique est configuré pour ne répondre qu'à partir des documents retrouvés, citer le passage utilisé et répondre « je ne trouve pas cette information » sinon. Un jeu de questions de test vérifie ce comportement à chaque évolution.

À ne pas confondre avec

Biais
Un biais est une déformation systématique liée aux données ou à la conception ; une hallucination est une invention ponctuelle.
Erreur de source
Si le document fourni est faux ou obsolète, le modèle peut répondre fidèlement… une information fausse. C'est un problème de qualité des données.

Termes liés

Notre accompagnement

Développement IA sur mesure

Assistants métiers, RAG et applications IA intégrées à votre SI

Découvrir l'offre

Définition mise à jour le . Voir tout le glossaire