Como checar os fatos nas respostas da IA

Por que uma resposta plausível não basta?

Uma resposta plausível não basta, porque a IA generativa pode produzir uma afirmação falsa, uma referência inventada ou um fato correto usado no contexto errado, tudo com o mesmo tom confiante. A fluência torna esses problemas mais fáceis de ignorar. O perfil de IA generativa do NIST identifica a confabulação como um risco e inclui a revisão e a verificação de fontes e referências nas respostas da IA entre as ações sugeridas.

O NIST também observa que as respostas da IA podem incluir raciocínios ou citações inventados que parecem justificar a resposta, o que pode levar as pessoas a confiar nela indevidamente. Uma sequência de raciocínio bem organizada não é evidência de que a conclusão esteja correta. O guia sobre alucinações de IA explica por que isso acontece; este guia trata da rotina de verificação.

Quais afirmações você deve verificar primeiro?

Confira primeiro as afirmações que teriam as consequências mais graves se estivessem erradas e as que têm maior probabilidade de serem inventadas. Você raramente precisa verificar cada palavra de um rascunho interno de baixo risco, mas sempre precisa verificar os números de uma proposta para um cliente. A tabela oferece uma triagem prática para tipos comuns de afirmação. Adapte-a ao trabalho e às regras de aprovação da sua equipe.

Como você deve examinar uma citação?

Abra a fonte original e encontre o trecho que sustenta a afirmação. Verifique o autor ou responsável pela publicação, a data, o escopo e eventuais ressalvas. Um link real não basta se a página tratar de outra população, outro período ou outra questão. Registre a fonte para que outra pessoa possa repetir a verificação.

Se você não conseguir encontrar o trecho que sustenta a afirmação, não se limite a pedir ao modelo que confirme a própria citação. Peça a evidência que falta, remova a afirmação ou marque-a como não resolvida. Um segundo modelo pode sugerir perguntas, mas a concordância entre dois modelos não é uma verificação independente. Ambos podem ter aprendido o mesmo erro plausível.

Como conferir os números e o raciocínio?

Recalcule os números importantes a partir dos dados fornecidos usando um método independente, como uma fórmula, uma tabela dinâmica ou uma calculadora. Confirme as unidades, o período e a base de comparação. Um total pode estar correto mesmo que a explicação de por que ele mudou não tenha respaldo; por isso, separe os cálculos de qualquer afirmação sobre a causa.

Em uma tabela fictícia, a receita passa de 80 para 92 unidades e os custos, de 50 para 61 unidades. As variações são de 12 e 11 unidades, então a margem sobe de 30 para 31 unidades. A tabela sozinha não explica se a variação foi causada por um novo cliente, uma mudança de preço ou pelo momento em que os valores foram registrados. Um resumo responsável informa a variação e deixa a causa em aberto, ou indica quais evidências permitiriam determiná-la. Fique atento também à confusão entre porcentagem e pontos percentuais, comum em resumos gerados.

Como verificar os fatos em um resumo de documento feito por IA?

Confira o que um resumo feito por IA diz e o que deixa de fora. Comece selecionando três ou quatro afirmações do resumo e localizando cada uma no original. Depois, leia os títulos ou as primeiras linhas de cada seção do original e pergunte se falta algo importante. Por fim, procure ressalvas omitidas: pode vira vai, em alguns casos vira sempre, sujeito à aprovação desaparece por completo.

Se o resumo for orientar uma decisão, peça à ferramenta que apresente citações para cada ponto antes de resumir. A documentação da Anthropic para o Claude recomenda esse procedimento para documentos longos, além de pedir à ferramenta que remova qualquer afirmação que não consiga sustentar com uma citação. Isso torna a conferência do resumo mais rápida, embora você ainda precise comparar as citações com a página original.

Como é uma checagem completa dos fatos?

Este é um rascunho com falhas propositais para praticar. Uma agência fictícia, Kestrel Studio, pediu a um assistente que resumisse o briefing de produto fornecido por um cliente em um parágrafo para uma apresentação comercial. O briefing diz que o aplicativo de planejamento do cliente foi lançado em março de 2025, tem uma modalidade gratuita e outra paga, e que uma pesquisa com 200 de seus próprios usuários constatou que a maioria o utilizava semanalmente.

Rascunho da IA: lançado no início de 2024, o aplicativo rapidamente se tornou um dos mais populares para planejamento no Reino Unido, com uma pesquisa independente recente mostrando que 85 por cento dos usuários o abrem todos os dias. Ele oferece um plano gratuito e um plano pago.

A verificação, afirmação por afirmação. Data de lançamento: as instruções dizem March 2025, então início de 2024 está errado. Um dos planejadores mais populares do Reino Unido: nada nas instruções sustenta isso, então remova. Pesquisa independente recente: as instruções descrevem uma pesquisa do próprio cliente com seus usuários, então independente é falso. 85 por cento todos os dias: as instruções dizem que a maioria usava semanalmente, então tanto o número quanto a frequência foram inventados. Modalidades gratuitas e pagas: há respaldo.

Parágrafo revisado: Lançado em março de 2025, o aplicativo oferece uma modalidade gratuita e uma paga. Em uma pesquisa do próprio cliente com 200 usuários, a maioria afirmou usá-lo semanalmente. A nota de revisão lista quatro correções e uma afirmação removida, e o responsável pela conta aprova a apresentação antes do envio ao cliente.

A IA pode ajudar você a verificar os fatos das respostas que ela mesma gera?

A IA pode ajudar a organizar uma checagem de fatos, mas não consegue concluí-la. Pedidos úteis incluem: liste todas as afirmações factuais deste rascunho em uma lista numerada; para cada afirmação, cite a frase da fonte anexada que a sustenta ou escreva Sem respaldo; e identifique qualquer número que não esteja na fonte. Esses pedidos transformam um parágrafo em uma lista de verificação.

O que a IA não pode fazer é servir como verificação independente. Perguntar à mesma ferramenta se a resposta dela está correta tende a gerar uma confirmação. Repetir a mesma pergunta várias vezes e comparar as respostas, uma técnica descrita na documentação da Anthropic, pode revelar inconsistências, mas respostas consistentes ainda podem estar todas erradas. A etapa final é sempre abrir a fonte ou refazer o cálculo.

O que o histórico de revisão deve conter?

Guarde a afirmação original, a fonte ou o cálculo usado para verificá-la, a correção e qualquer questão ainda não resolvida. Identifique a pessoa responsável por decidir se o resultado é adequado ao uso pretendido. Esse registro permite examinar a revisão sem fingir que todos os riscos foram eliminados.

Um registro de revisão não precisa de um programa específico. Uma nota curta no final do documento ou uma sequência de comentários basta para a maioria dos trabalhos internos. Para entregas a clientes, siga seu processo normal de aprovação; a ajuda da IA não muda quem dá a aprovação final.

Quando esta lista de verificação não é suficiente?

Esta lista de verificação é uma rotina operacional, não uma certificação de precisão. Ela não basta para aconselhamento jurídico, documentos enviados a órgãos reguladores, informações médicas ou de segurança, dados financeiros auditados ou decisões sobre o emprego de uma pessoa. Esses casos exigem um revisor qualificado e as fontes primárias, independentemente da ferramenta que produziu o rascunho.

Isso também pode ser mais do que você precisa. Uma sessão de ideias, uma lista de sugestões de pauta para reunião ou um rascunho inicial que só você vai ler raramente exigem uma checagem de cada afirmação. Ajuste a profundidade da checagem às consequências de um erro.

Fontes e escopo

NIST, AI 600-1: Perfil de IA generativa, July 2024 ↗

Anthropic, documentação do Claude: reduzir alucinações, acessado em 16 de outubro de 2026 ↗