Les hallucinations de l’IA expliquées : pourquoi les chatbots inventent et comment obtenir des réponses exactes

Que sont les hallucinations de l’IA ?

Une hallucination de l’IA est une réponse d’un chatbot ou d’un autre système d’IA générative qui est fausse, inventée ou incohérente, mais présentée comme si elle était vraie. Le National Institute of Standards and Technology (NIST) américain emploie le terme de confabulation et la définit comme un phénomène par lequel les systèmes d’IA générative produisent et présentent avec assurance un contenu erroné ou faux ^[1]. Le NIST y inclut les résultats qui s’écartent du prompt ou contredisent les affirmations antérieures du système lui-même, et relève qu’on les appelle couramment « hallucinations » ou « fabrications » ^[1].

Les exemples vont de décisions de justice inventées assorties de fausses citations, comme dans un procès américain de 2023 ^[3], à des détails hallucinés et des faits périmés dans des réponses sur l’actualité ^[5]. Le NIST avertit que les systèmes peuvent aussi produire des raisonnements ou des références confabulés qui semblent justifier une réponse, ce qui peut amener les gens à accorder au résultat plus de confiance qu’il ne le mérite ^[1].

Comment les éviter, en bref ?

1. Fournissez au chatbot les documents sources et demandez-lui de répondre uniquement à partir de ces documents ^[7].
2. Autorisez-le explicitement à répondre « je ne sais pas » ^[7].
3. Demandez des citations directes et des références pour chaque affirmation, puis ouvrez vous-même les sources ^[7].
4. Vérifiez tout ce qui est important auprès d’une source indépendante et faisant autorité, car aucune technique ne supprime entièrement le problème ^[7].

Pourquoi les chatbots d’IA inventent-ils des choses ?

Les grands modèles de langage (LLM) génèrent du texte en prédisant les mots suivants les plus probables. Le NIST explique que les confabulations sont une conséquence naturelle de cette conception : les modèles produisent des résultats qui approchent la distribution statistique de leurs données d’entraînement, ce qui peut être exact, mais aussi factuellement faux ou incohérent ^[1]. Selon le NIST, le problème se pose particulièrement pour les réponses ouvertes et longues et pour les questions qui exigent des connaissances spécialisées ^[1].

Pourquoi les modèles ne disent-ils pas simplement « je ne sais pas » ?

Un article de 2025 d’Adam Tauman Kalai et de ses collègues, dont trois travaillent chez OpenAI et un à Georgia Tech, soutient que les hallucinations n’ont rien de mystérieux : elles naissent d’erreurs de classification binaire ^[2]. Si les affirmations fausses ne peuvent pas être distinguées des faits, les pressions statistiques de l’entraînement les produisent naturellement ^[2]. Les auteurs ajoutent que les hallucinations persistent parce que la plupart des bancs d’essai notent les réponses de façon à récompenser une supposition assurée plutôt qu’un honnête « je ne sais pas » : les modèles sont ainsi, selon leurs termes, optimisés pour être de bons candidats aux examens ^[2]. La solution qu’ils proposent consiste à modifier la notation des bancs d’essai les plus utilisés ^[2].

Pourquoi paraissent-ils si sûrs d’eux ?

Une formulation fluide et assurée fait partie de ce que les modèles apprennent à produire. Le NIST relève que les risques apparaissent lorsque les utilisateurs croient un contenu faux, souvent en raison du ton assuré de la réponse ^[1]. L’assurance du ton n’est donc pas une preuve d’exactitude.

À quelle fréquence les chatbots d’IA hallucinent-ils ?

Il n’existe pas de taux d’hallucination unique. Il dépend du modèle, de la tâche, de la langue et de la manière dont les erreurs sont comptées. Des études indépendantes donnent un ordre de grandeur pour des tâches précises.

Les questions d’actualité

Une étude coordonnée par l’Union européenne de radio-télévision (UER) et pilotée par la BBC a réuni 22 médias de service public de 18 pays, travaillant dans 14 langues ^[5]. Des journalistes ont évalué plus de 3000 réponses de ChatGPT, Copilot, Gemini et Perplexity ^[5]. Ils ont constaté que 45 % des réponses comportaient au moins un problème important, que 31 % présentaient de graves problèmes de sources et que 20 % contenaient d’importantes erreurs d’exactitude, notamment des détails hallucinés et des informations périmées ^[5]. Gemini présentait des problèmes importants dans 76 % de ses réponses ^[5]. Selon l’UER, ces distorsions étaient constantes d’une langue et d’un territoire à l’autre, ce qui compte pour les lecteurs qui utilisent l’IA dans d’autres langues que l’anglais ^[5].

Les outils juridiques professionnels

Des chercheurs de Stanford ont testé des outils de recherche juridique fondés sur l’IA de LexisNexis et de Thomson Reuters et ont constaté que chacun hallucinait dans 17 % à 33 % des cas ^[6]. Ces outils utilisent la génération augmentée par récupération (RAG), qui va chercher des documents avant de répondre, et les auteurs ont conclu que les fournisseurs exagéraient lorsqu’ils affirmaient avoir éliminé les hallucinations ^[6].

Ces chiffres décrivent des systèmes précis à des dates précises ; les versions plus récentes peuvent faire mieux ou moins bien. Ils montrent que même des outils spécialisés, ancrés dans des documents, commettent encore des erreurs ^[6].

Que se passe-t-il quand on fait confiance aux hallucinations de l’IA ?

De fausses décisions devant un tribunal américain

Dans l’affaire Mata v. Avianca, un juge fédéral de New York a sanctionné le 22 juin 2023 deux avocats et leur cabinet, qui avaient produit des décisions de justice inexistantes, assorties de fausses citations et références créées par ChatGPT ^[3]. Les avocats ont ensuite reconnu que six des décisions citées avaient été générées par ChatGPT et n’existaient pas ^[3]. Lorsque l’un d’eux avait demandé à ChatGPT si une décision était réelle, celui-ci avait répondu qu’elle « existe bel et bien » et qu’on pouvait la trouver sur Westlaw et LexisNexis ^[3]. Le juge P. Kevin Castel a écrit que l’utilisation d’un outil d’IA fiable n’a rien d’intrinsèquement répréhensible, mais que les règles en vigueur confèrent aux avocats un rôle de garde-fou pour garantir l’exactitude de leurs écritures, et a infligé une amende de 5000 $ ^[3].

Le problème a pris de l’ampleur depuis. Une base de données tenue par le chercheur Damien Charlotin recense les décisions de tribunaux et d’instances juridictionnelles dans lesquelles il a été établi qu’une partie s’était appuyée sur du contenu halluciné ; elle en comptait 2262 lors de sa mise à jour du 2 novembre 2026 ^[4].

La fausse promesse d’un chatbot à un client

Dans une décision de 2024 (Moffatt v. Air Canada, 2024 BCCRT 149), le Civil Resolution Tribunal de la Colombie-Britannique a jugé Air Canada responsable d’une déclaration inexacte faite par négligence, après que le chatbot du site web de la compagnie eut laissé entendre à tort qu’un client pouvait demander a posteriori un tarif de deuil, ce que contredisait une autre page de son site ^[9]. Le tribunal a rejeté l’argument selon lequel le chatbot devait être traité comme une entité distincte, estimant que peu importe que l’information provienne d’une page statique ou d’un chatbot ^[9].

Comment obtenir des réponses plus exactes des chatbots d’IA ?

Le guide pour développeurs d’Anthropic consacré à ses modèles Claude présente des techniques qui s’appliquent à la plupart des chatbots ^[7] :

1. Autorisez l’incertitude. Dites au modèle qu’il peut indiquer qu’il ne sait pas ou qu’il manque d’informations ; selon Anthropic, cela peut réduire considérablement les informations fausses ^[7].
2. Ancrez les réponses dans des citations. Pour les documents longs, demandez au modèle d’extraire d’abord des citations mot pour mot, puis de fonder sa réponse uniquement sur celles-ci ^[7].
3. Exigez des références et des rétractations. Demandez une citation ou une source à l’appui de chaque affirmation, et dites au modèle de retirer toute affirmation qu’il ne peut pas étayer ^[7].
4. Limitez ses connaissances. Demandez-lui de n’utiliser que les documents que vous fournissez, et non ses connaissances générales ^[7].
5. Comparez plusieurs réponses. Posez la même question plusieurs fois ; des incohérences entre les résultats peuvent signaler une hallucination ^[7].
6. Demandez des vérifications complémentaires. Soumettez de nouveau la réponse au modèle et demandez-lui de vérifier ou de développer certaines affirmations précises ^[7].

Les vérifications à faire vous-même

• Ouvrez chaque référence. Vérifiez que la source existe et qu’elle dit bien ce que la réponse affirme ; 31 % des réponses de l’étude de l’UER présentaient de graves problèmes de sources ^[5].
• Ne demandez pas au chatbot de se porter garant de lui-même. C’est précisément ce qu’ont fait les avocats dans l’affaire Mata v. Avianca, et on leur a répondu qu’une fausse décision était réelle ^[3].
• Utilisez des sources primaires pour les faits à fort enjeu, comme les bases de données juridiques officielles, les autorités de régulation ou les professionnels de santé. Le NIST cite la santé comme un domaine où des résumés confabulés pourraient conduire à de mauvais diagnostics ou traitements ^[1].
• Vérifiez la date. Les informations périmées figuraient parmi les importantes erreurs d’exactitude relevées par l’UER ^[5].

Le guide d’Anthropic lui-même souligne que ces techniques réduisent sensiblement les hallucinations sans les éliminer, et conseille de valider les informations essentielles ^[7].

La technologie peut-elle détecter automatiquement les hallucinations ?

Des chercheurs mettent au point des signaux d’alerte automatiques. Une approche, publiée dans Nature en 2024 par Sebastian Farquhar, Jannik Kossen, Lorenz Kuhn et Yarin Gal, de l’université d’Oxford, est appelée entropie sémantique ^[8]. Elle échantillonne plusieurs réponses à une même question, souvent environ cinq, les regroupe selon leur sens et mesure la dispersion de ces sens ; une forte dispersion suggère que le modèle risque de répondre de travers ^[8].

La méthode a ses limites. Ses auteurs indiquent qu’elle ne repère pas les cas où un modèle a été entraîné sur un ensemble de faits erronés ou selon un mode de raisonnement erroné, ceux où l’entraînement ne se transpose pas à un nouveau contexte, ni la tromperie délibérée ^[8]. Un modèle qui répète avec assurance la même mauvaise réponse à chaque fois paraîtra cohérent. C’est pourquoi la technique simple consistant, pour l’utilisateur, à poser deux fois la question, qui suit la même logique, est un indice plutôt qu’une garantie ^[7][8].

La génération augmentée par récupération, qui permet à un modèle de consulter des documents, aide, mais ne guérit pas tout : l’étude de Stanford a relevé des taux d’hallucination à deux chiffres dans des outils juridiques fondés sur la RAG ^[6].

Quelles techniques de prompt fonctionnent le mieux ?

Aucune technique n’est parfaite, et elles fonctionnent mieux combinées. Le tableau ci-dessous compare les approches courantes, ce qu’elles visent et leurs limites. Les techniques qui rattachent les réponses aux documents que vous fournissez s’attaquent à la racine du problème, à savoir que les modèles s’appuient sinon sur des régularités statistiques ^[1][7], tandis que les contrôles de cohérence ne repèrent que certains types d’erreurs ^[8].

Quels sont les avantages et les limites des chatbots d’IA pour obtenir des faits ?

Avantages

• Le NIST relève que la prédiction statistique peut produire des résultats factuellement exacts et cohérents, et pas seulement des erreurs ^[1].
• Lorsqu’on leur fournit des documents sources, les modèles peuvent extraire et citer des passages exacts, ce qui rend leurs réponses vérifiables ^[7].

Limites

• Les erreurs sont fréquentes pour certaines tâches : 45 % des réponses sur l’actualité comportaient un problème important dans l’étude de l’UER ^[5].
• Même des outils juridiques spécialisés hallucinaient dans 17 % à 33 % des cas lors des tests de Stanford ^[6].
• Les erreurs peuvent s’accompagner d’explications et de références convaincantes mais fausses ^[1].
• La responsabilité reste celle de l’utilisateur ou de l’entreprise : des tribunaux ont sanctionné des avocats ^[3], et une instance a jugé une entreprise responsable des déclarations de son chatbot ^[9].

Les hallucinations de l’IA seront-elles un jour résolues ?

La mesure dans laquelle les hallucinations peuvent être réduites reste une question ouverte, mais certaines des explications ci-dessus désignent des causes sur lesquelles on peut agir. Si, comme le soutiennent Kalai et ses collègues, les bancs d’essai récompensent le fait de deviner, modifier leur notation pourrait inciter les modèles à exprimer leur incertitude ^[2]. Des méthodes de détection comme l’entropie sémantique peuvent signaler certaines erreurs probables ^[8]. Le NIST décrit toutefois la confabulation comme une conséquence naturelle de la conception des modèles génératifs ^[1], ce qui laisse penser qu’un certain taux d’erreur subsistera.

Ce qui reste incertain

• Les taux d’erreur réels des modèles actuels. Les études publiées testent des versions et des tâches précises, et les résultats changent à chaque nouvelle version ^[5][6].
• La manière dont les tribunaux traiteront les affaires répétées. La base de données de Charlotin recensait déjà 2262 décisions de ce type au 2 novembre 2026, et chaque nouvelle décision enrichit la jurisprudence ^[4].
• L’adoption à grande échelle de réformes des bancs d’essai, ce que l’article de Kalai qualifie de changement sociotechnique ^[2].

Au 3 novembre 2026, l’hypothèse de travail la plus sûre est que n’importe quel chatbot peut se tromper sur un ton assuré, et que vérifier la source incombe à l’utilisateur.