Cómo verificar la información en los resultados de la IA

¿Por qué no basta con una respuesta plausible?

Una respuesta plausible no basta, porque la IA generativa puede producir una afirmación falsa, una cita inventada o un dato correcto utilizado en el contexto equivocado, todo con el mismo tono de seguridad. La fluidez hace que esos problemas pasen más fácilmente inadvertidos. El perfil de IA generativa de NIST identifica la confabulación como un riesgo e incluye, entre las acciones que propone, revisar y verificar las fuentes y las citas de los resultados de la IA.

NIST también señala que las respuestas de la IA pueden incluir razonamientos o citas inventados que parecen justificar la respuesta, lo que puede llevar a las personas a confiar en ella indebidamente. Un razonamiento bien estructurado no demuestra que la conclusión sea correcta. La guía sobre las alucinaciones de la IA explica por qué ocurre esto; esta guía trata sobre la rutina de verificación.

¿Qué afirmaciones debería verificar primero?

Compruebe primero las afirmaciones que tendrían mayores consecuencias si fueran incorrectas y las que tengan más probabilidades de ser inventadas. Rara vez es necesario verificar cada palabra de un borrador interno de bajo riesgo, pero siempre hay que verificar las cifras de una propuesta para un cliente. La tabla sirve para priorizar la revisión de los tipos de afirmaciones más comunes. Adáptela al trabajo y a las reglas de aprobación de su equipo.

¿Cómo debería examinar una cita?

Abra la fuente original y busque el pasaje que respalda la afirmación. Compruebe el autor o la entidad que la publica, la fecha, el alcance y cualquier salvedad. Un enlace real no basta si la página trata sobre otra población, otro período u otra cuestión. Registre la fuente para que otra persona pueda repetir la comprobación.

Si no encuentra el pasaje que respalda la afirmación, no se limite a pedir al modelo que confirme su propia cita. Pida las pruebas que faltan, elimine la afirmación o márquela como pendiente de resolver. Un segundo modelo puede sugerir preguntas, pero la coincidencia entre dos modelos no constituye una verificación independiente. Ambos pueden haber aprendido el mismo error verosímil.

¿Cómo se verifican las cifras y el razonamiento?

Vuelva a calcular las cifras importantes a partir de los datos proporcionados mediante un método independiente, como una fórmula, una tabla dinámica o una calculadora. Confirme las unidades, el período y la base de comparación. Un total puede ser correcto aunque la explicación de por qué cambió no esté respaldada, así que separe los cálculos de cualquier afirmación sobre la causa.

En una tabla ficticia, los ingresos pasan de 80 a 92 unidades y los costos de 50 a 61 unidades. Las variaciones son de 12 y 11 unidades, por lo que el margen sube de 30 a 31 unidades. La tabla por sí sola no explica si el cambio se debió a un cliente nuevo, una modificación de precios o diferencias temporales. Un resumen responsable indica el cambio y deja abierta la causa, o señala qué pruebas permitirían determinarla. Preste atención también a la confusión entre porcentajes y puntos porcentuales, algo habitual en los resúmenes generados.

¿Cómo se verifican los datos de un resumen de un documento generado por IA?

Revise tanto lo que dice un resumen generado por IA como lo que omite. Empiece por seleccionar tres o cuatro afirmaciones del resumen y localizar cada una en el original. Después, lea los encabezados del original o las primeras líneas de cada sección y pregúntese si falta algo importante. Por último, busque matices que se hayan eliminado: puede se convierte en ocurrirá, en algunos casos se convierte en siempre y sujeto a aprobación desaparece por completo.

Si el resumen va a servir de base para una decisión, pida a la herramienta que extraiga citas para cada punto antes de resumir. La documentación de Anthropic para Claude recomienda ese método para documentos largos, junto con pedir a la herramienta que elimine cualquier afirmación que no pueda respaldar con una cita. Esto agiliza la revisión del resumen, aunque sigue siendo necesario contrastar las citas con la página.

¿Cómo es una verificación completa de los hechos?

Este es un borrador con errores deliberados para practicar. Una agencia ficticia, Kestrel Studio, pidió a un asistente que resumiera en un párrafo, para una presentación comercial, el documento de producto facilitado por un cliente. El documento indica que la aplicación de planificación del cliente se lanzó en marzo de 2025, tiene una modalidad gratuita y otra de pago, y que una encuesta a 200 de sus propios usuarios reveló que la mayoría la usaba semanalmente.

Borrador de IA: Lanzada a principios de 2024, la aplicación se ha convertido rápidamente en una de las herramientas de planificación más populares del Reino Unido. Una encuesta independiente reciente muestra que el 85 por ciento de los usuarios la abre todos los días. Ofrece un plan gratuito y otro de pago.

La comprobación, afirmación por afirmación. Fecha de lanzamiento: las indicaciones dicen marzo de 2025, por lo que principios de 2024 es incorrecto. Uno de los planificadores más populares del Reino Unido: nada en las indicaciones lo respalda, así que elimínelo. Encuesta independiente reciente: las indicaciones describen una encuesta del propio cliente entre sus usuarios, por lo que independiente es falso. 85 por ciento todos los días: las indicaciones dicen que la mayoría lo usaba semanalmente, por lo que tanto la cifra como la frecuencia son inventadas. Modalidades gratuitas y de pago: respaldado.

Párrafo revisado: La aplicación, lanzada en marzo de 2025, ofrece una modalidad gratuita y otra de pago. En una encuesta del propio cliente a 200 usuarios, la mayoría afirmó que la utilizaba semanalmente. La nota de revisión enumera cuatro correcciones y una afirmación eliminada, y el responsable de la cuenta da su aprobación antes de enviar la presentación al cliente.

¿Puede la IA ayudarle a verificar la información que ella misma genera?

La IA puede ayudar a organizar una verificación de hechos, pero no puede completarla. Algunas instrucciones útiles son: enumere todas las afirmaciones de hecho de este borrador; para cada afirmación, cite la frase de la fuente adjunta que la respalda o escriba Sin respaldo; e identifique cualquier cifra que no aparezca en la fuente. Estas instrucciones convierten un párrafo en una lista de comprobación.

Lo que la IA no puede hacer es servir de verificación independiente. Preguntarle a la misma herramienta si su respuesta es correcta suele generar una confirmación tranquilizadora. Repetir la misma pregunta varias veces y comparar las respuestas, una técnica descrita en la documentación de Anthropic, puede revelar incoherencias, pero unas respuestas coherentes entre sí pueden estar todas equivocadas. El último paso siempre es consultar la fuente o volver a calcular la cifra.

¿Qué debe contener el registro de revisiones?

Conserve la afirmación original, la fuente o el cálculo utilizados para comprobarla, la corrección y cualquier cuestión aún sin resolver. Designe a la persona responsable de decidir si el resultado es adecuado para el uso previsto. Ese registro permite examinar la revisión sin dar a entender que todos los riesgos han desaparecido.

Dejar constancia de la revisión no requiere un programa especial. Una nota breve al final del documento o un hilo de comentarios basta para la mayoría de los trabajos internos. Para las entregas a clientes, siga su proceso habitual de aprobación; la asistencia de IA no cambia quién da el visto bueno.

¿Cuándo no basta con esta lista de verificación?

Esta lista de comprobación es una rutina operativa, no una certificación de exactitud. No basta para el asesoramiento jurídico, las presentaciones ante organismos reguladores, la información médica o de seguridad, las cifras financieras auditadas ni las decisiones sobre el empleo de una persona. Estos casos requieren una revisión cualificada y las fuentes primarias, independientemente de la herramienta que haya generado el borrador.

También puede ser más de lo que necesita. Una lluvia de ideas, una lista de propuestas para la agenda de una reunión o un primer borrador que solo usted leerá rara vez requieren comprobar cada afirmación. Ajuste la profundidad de la revisión a las consecuencias de un error.

Fuentes y alcance

NIST, AI 600-1: perfil de IA generativa, julio de 2024 ↗

Anthropic, documentación de Claude: Reducir las alucinaciones, consultado el 16 de octubre de 2026 ↗