Pourquoi une réponse plausible ne suffit-elle pas ?
Une réponse plausible ne suffit pas, car l’IA générative peut produire une affirmation fausse, une référence inventée ou un fait exact utilisé dans le mauvais contexte, le tout sur le même ton assuré. La fluidité du texte rend ces problèmes plus faciles à manquer. Le profil du NIST consacré à l’IA générative identifie les hallucinations comme un risque et recommande notamment d’examiner et de vérifier les sources et les références présentes dans les réponses de l’IA.
Le NIST indique également que les réponses de l’IA peuvent contenir des raisonnements inventés ou des citations qui semblent justifier la réponse, ce qui peut conduire à leur accorder une confiance injustifiée. Un raisonnement bien structuré ne prouve pas que la conclusion est correcte. Le guide sur les hallucinations de l’IA explique pourquoi cela se produit ; ce guide porte sur la procédure de vérification.
Quelles affirmations devez-vous vérifier en premier ?
Vérifiez d’abord les affirmations qui auraient les conséquences les plus graves si elles étaient fausses, ainsi que celles qui risquent le plus d’être inventées. Il est rarement nécessaire de vérifier chaque mot d’un brouillon interne sans grand enjeu, mais vous devez toujours vérifier les chiffres d’une proposition client. Le tableau permet de hiérarchiser les vérifications pour les types d’affirmations courants. Adaptez-le au travail de votre équipe et à vos règles de validation.
| Type d’affirmation | Comment le vérifier | Qui décide si le résultat peut être utilisé |
|---|---|---|
| Chiffres, prix, dates | Recalculer ou remonter au document d’origine | L’auteur, ainsi qu’une seconde personne si le contenu est destiné à l’extérieur de l’entreprise |
| Citations et références | Ouvrez la source et trouvez le passage exact | L’auteur |
| Noms, titres, organisations | Vérifier sur une page officielle ou publiée par la source elle-même | L’auteur |
| Affirmations de causalité | Demandez quels éléments permettraient de le démontrer ; supprimez l’affirmation s’il n’y en a aucun | L’auteur et la personne responsable de la décision |
| Questions juridiques, financières, de sécurité ou d’emploi | Une source primaire et une personne qualifiée pour la vérification | Une personne qualifiée, pas uniquement l’auteur |
Comment examiner une référence citée ?
Ouvrez la source elle-même et trouvez le passage qui étaye l’affirmation. Vérifiez l’auteur ou l’éditeur, la date, le périmètre et les éventuelles réserves. Un lien réel ne suffit pas si la page traite d’une autre population, d’une autre période ou d’une autre question. Consignez la source pour qu’une autre personne puisse refaire la vérification.
Si vous ne trouvez pas le passage qui étaye l’affirmation, ne vous contentez pas de demander au modèle de confirmer sa propre citation. Demandez les éléments manquants, supprimez l’affirmation ou signalez qu’elle reste à vérifier. Un second modèle peut suggérer des questions, mais l’accord entre deux modèles ne constitue pas une vérification indépendante. Tous deux peuvent avoir appris la même erreur plausible.
Comment vérifier les chiffres et le raisonnement ?
Recalculez les chiffres importants à partir des données fournies en utilisant une méthode indépendante, comme une formule, un tableau croisé dynamique ou une calculatrice. Confirmez les unités, la période et la base de comparaison. Un total peut être juste sans que l’explication de son évolution soit étayée : séparez donc les calculs de toute affirmation sur les causes.
Dans un tableau fictif, le chiffre d’affaires passe de 80 à 92 unités et les coûts de 50 à 61 unités. Les variations sont de 12 et 11 unités : la marge passe donc de 30 à 31 unités. Le tableau seul ne permet pas de savoir si cette évolution vient d’un nouveau client, d’un changement de prix ou d’un décalage dans le temps. Un résumé rigoureux indique la variation sans trancher sur sa cause, ou précise les éléments qui permettraient de l’établir. Soyez également attentif à la confusion entre pourcentages et points de pourcentage, fréquente dans les résumés générés.
Vous souhaitez voir le lien avec un métier ?
Découvrez l’essai en équipe prévu ↗Comment vérifier les faits dans un résumé de document produit par l’IA ?
Vérifiez un résumé produit par l’IA aussi bien pour ce qu’il dit que pour ce qu’il omet. Commencez par prendre trois ou quatre affirmations du résumé et retrouvez chacune dans le document original. Lisez ensuite les titres ou les premières lignes de chaque section de l’original et demandez-vous s’il manque un élément important. Enfin, repérez les réserves supprimées : « peut » devient « fera », « dans certains cas » devient « toujours », et « sous réserve d’approbation » disparaît complètement.
Si le résumé doit servir à prendre une décision, demandez à l’outil de fournir des citations pour chaque point avant de rédiger la synthèse. La documentation d’Anthropic pour Claude recommande cette méthode pour les documents longs, ainsi que de demander à l’outil de supprimer toute affirmation qu’il ne peut pas étayer par une citation. Cela accélère la vérification du résumé, même s’il faut toujours confronter les citations à la page d’origine.
À quoi ressemble une vérification complète des faits ?
Voici un brouillon volontairement imparfait pour vous exercer. Une agence fictive, Kestrel Studio, a demandé à un assistant de résumer en un paragraphe le brief produit fourni par un client, pour une présentation commerciale. Le brief indique que l’application de planification du client a été lancée en mars 2025, qu’elle propose une formule gratuite et une formule payante, et qu’une enquête menée auprès de 200 de ses propres utilisateurs a révélé que la plupart l’utilisaient chaque semaine.
Brouillon rédigé par l’IA : Lancée début 2024, l’application est rapidement devenue l’un des outils de planification les plus populaires au Royaume-Uni, une récente enquête indépendante indiquant que 85 pour cent des utilisateurs l’ouvrent chaque jour. Elle propose une offre gratuite et une offre payante.
La vérification, affirmation par affirmation. Date de lancement : les consignes indiquent mars 2025, donc début 2024 est faux. L’un des outils de planification les plus populaires au Royaume-Uni : rien dans les consignes ne l’étaye, donc il faut le supprimer. Étude indépendante récente : les consignes décrivent une enquête menée par le client auprès de ses propres utilisateurs, donc le terme indépendant est faux. 85 pour cent chaque jour : les consignes indiquent que la plupart l’utilisaient chaque semaine ; le chiffre comme la fréquence sont donc inventés. Formules gratuites et payantes : confirmé.
Paragraphe révisé : lancée en mars 2025, l’application propose une formule gratuite et une formule payante. Dans une enquête menée par le client auprès de 200 utilisateurs, la plupart ont déclaré l’utiliser chaque semaine. La note de révision recense quatre corrections et une affirmation supprimée, et le responsable du compte donne son accord avant l’envoi de la présentation au client.
L’IA peut-elle vous aider à vérifier l’exactitude des faits dans ses propres réponses ?
L’IA peut aider à organiser une vérification des faits, mais ne peut pas la mener à bien. Voici des demandes utiles : dressez une liste numérotée de toutes les affirmations factuelles de ce brouillon ; pour chaque affirmation, citez la phrase de la source jointe qui l’étaye ou écrivez Non étayé ; et repérez tout chiffre absent de la source. Ces demandes transforment un paragraphe en liste de points à vérifier.
L’IA ne peut pas assurer une vérification indépendante. Demander au même outil si sa réponse est correcte tend à produire une confirmation rassurante. Poser la même question plusieurs fois et comparer les réponses, une technique décrite dans la documentation d’Anthropic, peut révéler des incohérences, mais des réponses cohérentes peuvent toutes être fausses. La dernière étape consiste toujours à consulter la source ou à refaire le calcul.
Que doit contenir l’historique des vérifications ?
Conservez l’affirmation initiale, la source ou le calcul utilisé pour la vérifier, la correction et toute question encore non résolue. Désignez la personne chargée de décider si le résultat convient à l’usage prévu. Cette trace permet d’examiner la vérification sans prétendre que tous les risques ont disparu.
Garder une trace des relectures ne nécessite pas de logiciel particulier. Une courte note en fin de document ou un fil de commentaires suffit pour la plupart des travaux internes. Pour les livrables destinés aux clients, suivez votre processus habituel de validation ; l’aide de l’IA ne change pas la personne chargée de la validation finale.
Quand cette liste de vérification ne suffit-elle pas ?
Cette liste de vérification est une routine opérationnelle, pas une certification d’exactitude. Elle ne suffit pas pour les conseils juridiques, les déclarations réglementaires, les informations médicales ou de sécurité, les chiffres financiers audités ou les décisions relatives à l’emploi d’une personne. Ces éléments nécessitent une vérification par une personne qualifiée et le recours aux sources primaires, quel que soit l’outil ayant produit le brouillon.
Cela peut aussi aller au-delà de vos besoins. Une séance de réflexion, une liste d’idées pour l’ordre du jour d’une réunion ou un premier brouillon que vous serez seul à lire nécessitent rarement une vérification de chaque affirmation. Adaptez le niveau de vérification aux conséquences d’une erreur.
Sources et périmètre
NIST, AI 600-1 : profil de l’IA générative, juillet 2024 ↗
Anthropic, documentation de Claude : réduire les hallucinations, consulté le 16 octobre 2026 ↗