Perché una risposta plausibile non basta?
Una risposta plausibile non basta, perché l’IA generativa può produrre un’affermazione falsa, una citazione inventata o un fatto corretto usato nel contesto sbagliato, sempre con lo stesso tono sicuro. La scorrevolezza rende questi problemi più facili da trascurare. Il profilo NIST sull’IA generativa identifica la confabulazione come un rischio e include, tra le azioni suggerite, il controllo e la verifica delle fonti e delle citazioni nei risultati dell’IA.
Il NIST osserva inoltre che le risposte dell'IA possono includere ragionamenti o citazioni inventati che sembrano giustificare la risposta, inducendo le persone a fidarsi senza motivo. Un ragionamento ben strutturato non dimostra che la conclusione sia corretta. La guida alle allucinazioni dell'IA spiega perché succede; questa guida riguarda invece la procedura di verifica.
Quali affermazioni dovresti verificare per prime?
Verifica prima le affermazioni che, se errate, avrebbero le conseguenze più gravi e quelle che hanno maggiori probabilità di essere inventate. Raramente serve verificare ogni parola di una bozza interna a basso rischio, ma occorre sempre verificare le cifre di una proposta al cliente. La tabella aiuta a stabilire le priorità di verifica per i tipi di affermazioni più comuni. Adattala al lavoro e alle regole di approvazione del tuo team.
| Tipo di affermazione | Come verificarlo | Chi decide se è adatto all'uso |
|---|---|---|
| Cifre, prezzi, date | Ricalcola o risali alla registrazione originale | L'autore, più una seconda persona se il contenuto viene condiviso all'esterno dell'azienda |
| Citazioni e riferimenti alle fonti | Apri la fonte e trova il passaggio esatto | L'autore |
| Nomi, titoli, organizzazioni | Consulta una pagina ufficiale o della fonte diretta | L'autore |
| Affermazioni sulle cause | Chiedi quali prove lo dimostrerebbero; elimina se non ce ne sono | L'autore e la persona responsabile della decisione |
| Aspetti legali, finanziari, di sicurezza o relativi al rapporto di lavoro | Fonte primaria e un revisore qualificato | Una persona qualificata, non soltanto l’autore |
Come esaminare una citazione?
Apri la fonte originale e trova il passaggio che sostiene l'affermazione. Controlla l'autore o l'editore, la data, l'ambito e le eventuali precisazioni. Un link reale non basta se la pagina riguarda una popolazione, un periodo o una questione differenti. Annota la fonte affinché un'altra persona possa ripetere la verifica.
Se non riesci a trovare il passaggio a sostegno, non limitarti a chiedere al modello di confermare la propria citazione. Chiedi le prove mancanti, elimina l'affermazione o segnalala come non verificata. Un secondo modello può suggerire domande, ma l'accordo tra due modelli non è una verifica indipendente. Entrambi potrebbero aver appreso lo stesso errore plausibile.
Come si verificano le cifre e il ragionamento?
Ricalcola i numeri importanti a partire dai dati forniti usando un metodo indipendente, come una formula, una tabella pivot o una calcolatrice. Verifica le unità, il periodo e la base di confronto. Un totale può essere corretto anche se la spiegazione del suo cambiamento non è supportata dai dati: separa quindi i calcoli da qualsiasi affermazione sulle cause.
In una tabella fittizia, i ricavi passano da 80 a 92 unità e i costi da 50 a 61 unità. Le variazioni sono di 12 e 11 unità, quindi il margine sale da 30 a 31 unità. La tabella da sola non spiega se la variazione dipenda da un nuovo cliente, da una modifica dei prezzi o da fattori temporali. Un riepilogo responsabile riporta la variazione senza attribuirle una causa, oppure indica quali elementi permetterebbero di determinarla. Fai attenzione anche alla confusione tra percentuali e punti percentuali, frequente nei riepiloghi generati.
Vuoi vedere come si collega a un ruolo?
Scopri la prova per i team prevista ↗Come si verifica l'accuratezza dei fatti nel riepilogo di un documento generato dall'IA?
Controlla un riassunto prodotto dall'IA sia per ciò che dice sia per ciò che omette. Inizia scegliendo tre o quattro affermazioni del riassunto e ritrovandole una per una nell'originale. Poi leggi i titoli o le prime righe di ogni sezione dell'originale e chiediti se manca qualcosa di importante. Infine, cerca le precisazioni eliminate: potrebbe che diventa sarà, in alcuni casi che diventa sempre, previa approvazione che scompare del tutto.
Se il riepilogo servirà a prendere una decisione, chiedi allo strumento di fornire citazioni per ogni punto prima di riassumere. La documentazione di Anthropic per Claude raccomanda questo metodo per i documenti lunghi, insieme alla richiesta di rimuovere qualsiasi affermazione che lo strumento non possa sostenere con una citazione. Questo rende più rapida la verifica del riepilogo, ma devi comunque confrontare le citazioni con la pagina.
Come si svolge una verifica completa dei fatti?
Ecco una bozza volutamente errata su cui esercitarsi. Un'agenzia fittizia, Kestrel Studio, ha chiesto a un assistente di riassumere il brief di prodotto fornito da un cliente in un paragrafo per una presentazione commerciale. Il brief indica che l'app di pianificazione del cliente è stata lanciata a marzo 2025, offre un piano gratuito e uno a pagamento e che, secondo un sondaggio condotto su 200 dei suoi utenti, la maggior parte la usava ogni settimana.
Bozza dell'IA: lanciata all'inizio del 2024, l'app è diventata rapidamente una delle agende più popolari nel Regno Unito; secondo un recente sondaggio indipendente, l'85 per cento degli utenti la apre ogni giorno. Offre un piano gratuito e un piano a pagamento.
La verifica, affermazione per affermazione. Data di lancio: le istruzioni indicano marzo 2025, quindi inizio 2024 è sbagliato. Uno degli strumenti di pianificazione più popolari nel Regno Unito: nulla nelle istruzioni lo conferma, quindi va eliminato. Recente sondaggio indipendente: le istruzioni descrivono un sondaggio condotto dal cliente tra i propri utenti, quindi indipendente è falso. 85 percento ogni giorno: le istruzioni dicono che la maggior parte lo usava settimanalmente, quindi sia il dato sia la frequenza sono inventati. Livelli gratuiti e a pagamento: confermati.
Paragrafo rivisto: Lanciata a marzo 2025, l'app offre un piano gratuito e uno a pagamento. Nel sondaggio condotto dal cliente su 200 utenti, la maggior parte ha dichiarato di usarla ogni settimana. La nota di revisione elenca quattro correzioni e un'affermazione eliminata; il responsabile del cliente dà l'approvazione finale prima che la presentazione venga inviata al cliente.
L'IA può aiutarti a verificare l'esattezza dei contenuti che genera?
L'IA può aiutare a organizzare una verifica dei fatti, ma non può portarla a termine. Tra le richieste utili ci sono: elenca tutte le affermazioni fattuali di questa bozza in un elenco numerato; per ciascuna affermazione, cita la frase della fonte allegata che la supporta oppure scrivi Non supportata; e individua qualsiasi dato numerico che non compare nella fonte. Queste richieste trasformano un paragrafo in una lista di controllo.
L’IA non può fungere da verifica indipendente. Chiedere allo stesso strumento se la sua risposta è corretta tende a produrre rassicurazioni. Ripetere la stessa domanda più volte e confrontare le risposte, una tecnica descritta nella documentazione di Anthropic, può far emergere incongruenze, ma risposte coerenti tra loro possono comunque essere tutte sbagliate. L’ultimo passaggio consiste sempre nel consultare la fonte o ricalcolare il dato.
Cosa dovrebbe contenere il registro delle revisioni?
Conserva l'affermazione originale, la fonte o il calcolo usato per verificarla, la correzione e le eventuali questioni ancora irrisolte. Indica la persona responsabile di decidere se il risultato è adatto all'uso previsto. Questa documentazione rende verificabile la revisione, senza fingere che ogni rischio sia stato eliminato.
Tenere traccia delle revisioni non richiede un software specifico. Per la maggior parte del lavoro interno bastano una breve nota alla fine del documento o una discussione nei commenti. Per i materiali destinati ai clienti, segui il normale processo di approvazione; l'assistenza dell'IA non cambia chi deve dare l'approvazione finale.
Quando questa lista di controllo non basta?
Questa lista di controllo è una procedura operativa, non una certificazione di accuratezza. Non basta per consulenze legali, comunicazioni alle autorità di vigilanza, informazioni mediche o sulla sicurezza, dati finanziari sottoposti a revisione o decisioni sul rapporto di lavoro di una persona. Questi casi richiedono un revisore qualificato e le fonti primarie, a prescindere dallo strumento che ha prodotto la bozza.
Può anche essere più del necessario. Una sessione di brainstorming, un elenco di idee per l'ordine del giorno di una riunione o una prima bozza che leggerai solo tu raramente richiedono una verifica di ogni singola affermazione. Adegua il livello di controllo alle conseguenze di un eventuale errore.
Fonti e ambito
NIST, IA 600-1: Profilo dell'IA generativa, July 2024 ↗
Anthropic, documentazione di Claude: ridurre le allucinazioni, consultata il 16 ottobre 2026 ↗