Qu’est-ce qu’une hallucination de l’IA ?
Une hallucination de l’IA est un contenu produit par un outil d’IA générative, présenté avec assurance, mais faux, inventé ou non étayé par les informations fournies. Le profil du NIST consacré à l’IA générative emploie le terme de confabulation pour désigner le même phénomène : des systèmes génératifs qui produisent et présentent avec assurance des contenus erronés ou faux. Le NIST inclut dans cette définition les réponses qui s’écartent de la consigne ou des autres informations fournies, ou qui contredisent des affirmations faites plus tôt dans la même conversation.
Le mot hallucination est une métaphore, et une métaphore un peu trompeuse. L’outil ne voit pas des choses qui n’existent pas. Il produit un texte statistiquement plausible dans le contexte, et un texte plausible est parfois faux. C’est pourquoi une hallucination ressemble rarement à une erreur. Elle ressemble à une réponse normale, bien rédigée.
Pourquoi ChatGPT a-t-il des hallucinations ?
ChatGPT et les outils similaires produisent des hallucinations parce qu’ils sont conçus pour générer des suites de texte probables, et non pour retrouver des faits vérifiés. Le NIST décrit la confabulation comme une conséquence naturelle de la conception des modèles génératifs : ils reproduisent approximativement la distribution statistique de leurs données d’entraînement. Cela peut produire des résultats exacts, mais aussi des résultats factuellement faux ou incohérents. Le NIST souligne que le problème se pose particulièrement pour les réponses longues et ouvertes, ainsi que pour les questions nécessitant une expertise spécialisée.
Un article de recherche de 2025 signé Kalai, Nachum, Vempala et Zhang apporte un deuxième élément d’explication. Selon les auteurs, les procédures d’entraînement et d’évaluation tendent à récompenser les réponses au hasard plutôt que l’aveu d’incertitude : un modèle qui tente une réponse obtient de meilleurs scores à de nombreux tests qu’un modèle qui dit ne pas savoir. Selon cette analyse, les modèles sont optimisés pour réussir les tests. Quel que soit le mécanisme exact, la leçon pratique pour un salarié reste la même : l’assurance de l’outil ne vous dit rien sur la véracité d’une affirmation.
Les hallucinations sont plus probables lorsque vous posez une question sur un sujet peu connu, récent, très précis ou absent des documents fournis : un chiffre exact, le rôle d’une personne nommément désignée, une citation, une affaire judiciaire, le prix actuel d’un produit. Elles sont moins probables, mais restent possibles, lorsque vous demandez à l’outil de travailler uniquement à partir d’un document que vous avez collé.
À quoi ressemblent les hallucinations de l’IA au travail ?
Au travail, les hallucinations prennent généralement la forme de petits détails précis qui semblent justes. La liste couvre les formes que les salariés rencontrent le plus souvent. Apprendre à les reconnaître permet de les repérer plus facilement.
Sources inventées
Une référence, un titre de rapport, une URL ou une citation qui n’existe pas, ou qui existe mais dit autre chose.
Détails inventés
Une date, un prix, un pourcentage, un nom ou un intitulé de poste qui ne figure nulle part dans les documents que vous avez fournis.
Degré de certitude exagéré
Un résumé qui transforme une possibilité en certitude, ou une date proposée en date confirmée.
Causes non étayées
Une explication de l’évolution d’un chiffre que les données ne permettent pas d’étayer.
Raisonnement fabulé
Un raisonnement clair, étape par étape, qui aboutit à une réponse fausse. Le NIST indique que les modèles fournissent parfois des étapes logiques pour justifier une réponse, même lorsque celle-ci est incorrecte.
Contradiction interne
Une affirmation qui contredit ce que l’outil a dit quelques messages plus tôt.
Que se passe-t-il lorsqu’une hallucination n’est pas détectée ?
L’exemple public le plus connu est l’affaire Mata contre Avianca, jugée par le tribunal fédéral du district sud de New York le 22 juin 2023. Des avocats ont déposé un acte de procédure contenant des décisions de justice inexistantes, avec de fausses citations et de fausses références créées par ChatGPT. Le tribunal a constaté leur mauvaise foi et a condamné solidairement les avocats et leur cabinet à une sanction de 5,000 dollars américains. Il leur a également imposé d’écrire à leur client et aux juges dont les noms avaient été faussement associés aux décisions inventées. Pour fixer la sanction, le tribunal a relevé que le cabinet avait organisé une formation juridique continue obligatoire pour ses avocats et son personnel sur les compétences technologiques et les outils d’IA : une formation après les faits, en somme.
La leçon n’est pas que les avocats sont négligents. C’est qu’une référence inventée ressemble en tout point à une référence réelle, et que la personne qui s’y est fiée a omis la seule étape qui aurait permis de la détecter : ouvrir la source. La plupart des hallucinations au travail sont plus modestes, comme une date de livraison erronée dans un courriel à un client ou une statistique inventée dans une présentation commerciale, mais la défaillance est la même.
Vous souhaitez voir le lien avec un métier ?
Découvrez l’essai en équipe prévu ↗Les hallucinations de l’IA posent-elles encore problème ?
Oui. Les fournisseurs ont ajouté des fonctionnalités utiles, comme la recherche sur le Web avec des sources citées et la possibilité de répondre à partir de fichiers importés, mais aucun ne prétend avoir éliminé les hallucinations. La documentation d’Anthropic sur Claude indique elle-même que les techniques recommandées réduisent les hallucinations sans les éliminer entièrement, et conseille de valider les informations essentielles, en particulier pour les décisions à fort enjeu. Les pages d’aide de Google pour Gemini dans Gmail et Sheets avertissent que les fonctionnalités de Gemini peuvent suggérer des informations inexactes ou inappropriées.
Accueillez avec méfiance toute affirmation selon laquelle un outil ne produit plus d’hallucinations. La meilleure question est de savoir quelles tâches un outil donné accomplit avec une fiabilité suffisante pour votre usage, et avec quelles vérifications.
Comment réduire les hallucinations de l’IA ?
Vous réduisez les hallucinations en limitant ce que l’outil doit inventer : fournissez-lui la source, demandez-lui de s’y tenir exclusivement, autorisez-le à dire qu’il ne sait pas et demandez-lui de justifier chaque affirmation. Les techniques ci-dessous sont issues des recommandations des fournisseurs, notamment de la documentation d’Anthropic sur la réduction des hallucinations, et adaptées aux tâches non techniques. Aucune ne dispense de vérifier.
Exemple de consigne combinant plusieurs techniques : En vous appuyant uniquement sur le texte de la politique ci-dessous, énumérez les trois règles qui s’appliquent aux déplacements du personnel réservés dans les 48 heures précédant le départ. Pour chaque règle, citez la phrase exacte dont elle est tirée. Si la politique ne couvre pas un point, écrivez Non précisé. N’utilisez pas de connaissances générales.
Fournissez la source
Collez ou joignez le document au lieu de demander à l’outil ce qu’il sait. Les tâches fondées sur des documents sources échouent moins souvent que les questions ouvertes.
Limitez la réponse à la source
Précisez explicitement qu’il faut utiliser uniquement les documents fournis, sans faire appel aux connaissances générales.
Autorisez chacun à ne pas savoir
Demandez-lui d’écrire Non précisé ou Je n’ai pas assez d’informations au lieu de combler les lacunes.
Demandez des citations
Pour les documents longs, demandez-lui d’abord d’extraire les phrases exactes, puis de répondre à partir de ces citations.
Demandez à l’IA de vérifier ses affirmations
Après la rédaction, demandez à l’outil de trouver une citation à l’appui de chaque affirmation et de supprimer toute affirmation qu’il ne peut pas étayer.
Posez des questions plus ciblées
Il est plus facile de vérifier une réponse à une question précise à la fois qu’un long texte sur un sujet ouvert.
Comparer les exécutions
Posez deux fois la même question. Si les réponses se contredisent sur un fait, considérez ce fait comme non vérifié.
Comment repérer une hallucination en pratique ?
Prenons Northgate Supply, un distributeur fictif de fournitures dentaires de 25 personnes. Un coordinateur commercial colle les deux pages de la politique de retour de l’entreprise et demande à un assistant : Quel est notre délai de retour pour les produits ouverts, et y a-t-il des frais de remise en stock ? La politique fournie indique que les articles non ouverts peuvent être retournés sous 30 jours, et les articles ouverts uniquement s’ils sont défectueux. Elle ne mentionne aucuns frais de remise en stock.
La première réponse : les produits ouverts peuvent être retournés sous 14 jours, moyennant des frais de remise en stock de 15 pour cent. Ces deux détails sont inventés. La politique ne mentionne ni 14 jours ni de frais. Ils sont plausibles parce que de nombreuses politiques de retour les prévoient : c’est précisément ainsi qu’une réponse statistiquement probable peut être fausse.
Le coordinateur repose la question en appliquant les techniques ci-dessus : utiliser uniquement la politique, citer la phrase et écrire Non précisé si l’information est absente. La deuxième réponse : Articles ouverts : retour possible uniquement en cas de défaut (citation : Les articles ouverts ne peuvent être retournés que si le produit présente un défaut). Frais de remise en stock : Non précisé. Cette réponse peut être vérifiée en quelques secondes dans le document, et la question des frais est transmise à la personne responsable de la politique plutôt que d’être intégrée à un courriel au client.
Que doit faire un salarié après avoir repéré une hallucination ?
Supprimez ou corrigez l’affirmation fausse, puis déterminez si quelqu’un s’y est déjà fié. Si le résultat n’était qu’un brouillon, corrigez-le et poursuivez, en signalant dans votre évaluation que l’outil a inventé ce détail. S’il a déjà été envoyé, partagé ou utilisé pour prendre une décision, prévenez la personne responsable afin qu’elle puisse le rectifier. Ne modifiez pas discrètement un document que d’autres ont déjà lu.
Il est aussi utile d’indiquer à vos collègues quels types de questions ont provoqué l’erreur. Une équipe qui partage des exemples de ce qui a mal tourné apprend plus vite qu’une équipe où chacun découvre séparément le même problème. La méthode pas à pas pour vérifier un brouillon se trouve dans le guide de vérification des faits dans les réponses de l’IA.
Quand une mauvaise réponse de l’IA n’est-elle pas une hallucination ?
Une mauvaise réponse n’est pas toujours une hallucination, et la solution dépend du problème. Si l’outil donne une réponse obsolète parce que les informations ont changé après son entraînement, il faut une source à jour. S’il donne une réponse biaisée ou partiale, le problème relève du cadrage et de l’équité plutôt que de l’invention. S’il interprète une consigne vague et produit un résultat raisonnable mais non souhaité, il faut une consigne plus précise. Et si quelqu’un utilise délibérément l’IA pour tromper, c’est une question de comportement, pas de formation.
Ce guide ne peut pas non plus vous garantir qu’un outil donné est sûr pour une tâche particulière à forts enjeux. Pour les décisions juridiques, médicales, financières ou relatives à l’emploi qui concernent des personnes, faites appel à une personne qualifiée pour la vérification, quelle que soit la manière dont le résultat a été produit.
Sources et périmètre
NIST, AI 600-1 : profil de l’IA générative, juillet 2024 ↗
Anthropic, documentation de Claude : réduire les hallucinations, consulté le 16 octobre 2026 ↗
Mata v. Avianca, Inc., 678 F.Supp.3d 443 (S.D.N.Y., 22 June 2023), copie hébergée par CLLA ↗
Aide Gmail, Collaborer avec Gemini dans Gmail, consulté le 16 October 2026 ↗