Che cos'è un'allucinazione dell'IA?
Un’allucinazione dell’IA è un risultato prodotto da uno strumento di IA generativa che viene presentato con sicurezza, ma è falso, inventato o non supportato dai dati forniti. Il profilo NIST sull’IA generativa usa il termine confabulazione per lo stesso fenomeno e lo descrive come la generazione e la presentazione sicura di contenuti errati o falsi da parte di sistemi generativi. NIST include in questa definizione anche i risultati che si discostano dall’istruzione o da altri dati forniti, oppure contraddicono affermazioni fatte in precedenza nella stessa conversazione.
La parola allucinazione è una metafora, peraltro un po' fuorviante. Lo strumento non vede cose che non esistono. Produce testo statisticamente plausibile per il contesto, e a volte un testo plausibile è sbagliato. Ecco perché un'allucinazione raramente sembra un errore. Sembra una risposta normale e ben scritta.
Perché ChatGPT genera allucinazioni?
ChatGPT e strumenti simili producono allucinazioni perché sono progettati per generare continuazioni plausibili di un testo, non per recuperare fatti verificati. Il NIST descrive la confabulazione come una conseguenza naturale del modo in cui sono progettati i modelli generativi: approssimano la distribuzione statistica dei dati su cui sono stati addestrati e, sebbene questo possa produrre risultati accurati, può anche produrre risultati fattualmente errati o incoerenti. Il NIST osserva che il problema è particolarmente rilevante per le risposte lunghe e aperte e per le domande che richiedono competenze specialistiche.
Uno studio del 2025 di Kalai, Nachum, Vempala e Zhang offre una seconda parte della spiegazione. Gli autori sostengono che le procedure di addestramento e valutazione tendono a premiare le risposte tirate a indovinare più delle ammissioni di incertezza, perché in molti test di riferimento un modello che tira a indovinare ottiene un punteggio migliore di uno che dice di non sapere. Secondo questa interpretazione, i modelli sono ottimizzati per superare bene i test. Qualunque sia il meccanismo preciso, la lezione pratica per un dipendente è la stessa: la sicurezza con cui lo strumento risponde non dice nulla sulla veridicità di un'affermazione.
Le allucinazioni sono più probabili quando chiedi informazioni su qualcosa di poco noto, recente, molto specifico o estraneo al materiale che hai fornito: una cifra esatta, il ruolo di una persona specifica, una citazione, un caso giudiziario, il prezzo attuale di un prodotto. Sono meno probabili, anche se restano possibili, quando allo strumento viene chiesto di lavorare soltanto su un documento che hai incollato.
Come si manifestano le allucinazioni dell'IA sul lavoro?
Sul lavoro, le allucinazioni si presentano di solito come piccoli dettagli specifici che sembrano corretti. L'elenco comprende le forme che i dipendenti incontrano più spesso. Imparare a riconoscerle rende più facile individuarle.
Fonti inventate
Una citazione, un titolo di rapporto, un URL o un brano citato che non esiste, oppure esiste ma dice qualcosa di diverso.
Dettagli inventati
Una data, un prezzo, una percentuale, un nome o una qualifica professionale che non compare in nessuna parte del materiale fornito.
Grado di certezza aumentato
Una sintesi che trasforma una possibilità in una certezza o una data proposta in una data confermata.
Cause prive di riscontro
Una spiegazione del motivo per cui un numero è cambiato che non trova riscontro nei dati.
Ragionamento inventato
Un ragionamento ordinato, passo dopo passo, che porta a una risposta sbagliata. NIST osserva che i modelli a volte forniscono passaggi logici a sostegno di una risposta anche quando questa è errata.
Contraddizione interna
Un'affermazione che contraddice qualcosa che lo strumento ha detto pochi messaggi prima.
Cosa succede quando un'allucinazione non viene individuata?
L'esempio pubblico più noto è la causa Mata contro Avianca, decisa dal tribunale distrettuale degli Stati Uniti per il distretto meridionale di New York il 22 giugno 2023. Gli avvocati hanno depositato un atto giudiziario che includeva decisioni inesistenti, con citazioni testuali e riferimenti giurisprudenziali falsi creati da ChatGPT. Il tribunale ha accertato la malafede e ha imposto agli avvocati e al loro studio, in solido, una sanzione di 5,000 dollari statunitensi, obbligandoli inoltre a scrivere al cliente e ai giudici i cui nomi erano stati falsamente associati alle decisioni inventate. Nel valutare la sanzione, il tribunale ha rilevato che lo studio aveva organizzato una formazione giuridica continua obbligatoria per avvocati e personale sulle competenze tecnologiche e sugli strumenti di IA: formazione, in altre parole, a danno ormai fatto.
La lezione non è che gli avvocati siano negligenti. È che una citazione inventata sembra identica a una vera, e chi vi ha fatto affidamento ha saltato l'unico passaggio che avrebbe permesso di scoprirla: aprire la fonte. La maggior parte delle allucinazioni sul lavoro è di minore entità, come una data di consegna sbagliata in un'email a un cliente o una statistica inventata in una presentazione commerciale, ma l'errore è lo stesso.
Vuoi vedere come si collega a un ruolo?
Scopri la prova per i team prevista ↗Le allucinazioni dell'IA sono ancora un problema?
Sì. I fornitori hanno aggiunto funzioni utili, come la ricerca sul web con citazioni e la possibilità di rispondere sulla base di file caricati, ma nessuno dichiara di aver eliminato le allucinazioni. La stessa documentazione di Anthropic per Claude afferma che le tecniche consigliate riducono le allucinazioni senza eliminarle del tutto e raccomanda di verificare le informazioni critiche, soprattutto per decisioni con conseguenze rilevanti. Le pagine di assistenza di Google per Gemini in Gmail e Fogli avvertono che le funzioni di Gemini possono suggerire informazioni inesatte o inappropriate.
Guarda con sospetto qualsiasi affermazione secondo cui uno strumento non produce più allucinazioni. È più utile chiedersi quali attività uno specifico strumento svolga in modo sufficientemente affidabile per il tuo scopo e con quali verifiche.
Come si possono ridurre le allucinazioni dell'IA?
Per ridurre le allucinazioni, limita ciò che lo strumento deve inventare: forniscigli la fonte, digli di usare solo quella, consentigli di dire che non sa e chiedigli di mostrare le prove a sostegno di ogni affermazione. Le tecniche riportate di seguito derivano dalle indicazioni dei fornitori, tra cui la documentazione di Anthropic sulla riduzione delle allucinazioni, adattate al lavoro non tecnico. Nessuna elimina la necessità di verificare.
Esempio di istruzione che combina più tecniche: usando solo il testo della policy riportato di seguito, elenca le tre regole che si applicano ai viaggi del personale prenotati entro 48 ore dalla partenza. Per ogni regola, cita la frase esatta da cui è tratta. Se la policy non tratta un aspetto, scrivi Non specificato. Non usare conoscenze generali.
Fornisci la fonte
Incolla o allega il documento invece di chiedere allo strumento che cosa sa. Le attività basate su materiale di riferimento falliscono meno spesso delle domande aperte.
Limita la risposta alla fonte
Specifica esplicitamente di usare solo il materiale fornito e non le conoscenze generali.
Dai il permesso di non sapere
Chiedigli di scrivere Non specificato oppure Non ho informazioni sufficienti, anziché colmare le lacune.
Chiedi citazioni
Per i documenti lunghi, chiedi prima di estrarre le frasi esatte, poi di rispondere basandosi su quelle citazioni.
Fai verificare all'IA le proprie affermazioni
Dopo aver generato la bozza, chiedi di trovare una citazione a sostegno di ogni affermazione e di eliminare quelle che non possono essere supportate.
Fai domande più circoscritte
Una domanda specifica alla volta è più facile da verificare rispetto a un lungo testo a risposta aperta.
Confronta le esecuzioni
Fai la stessa domanda due volte. Se le risposte discordano su un fatto, considera quel fatto non verificato.
Come si riconosce un'allucinazione in pratica?
Prendiamo Northgate Supply, un distributore immaginario di forniture odontoiatriche con 25 dipendenti. Un coordinatore commerciale incolla il regolamento sui resi dell'azienda, lungo due pagine, e chiede a un assistente: Qual è il termine per restituire i prodotti aperti? Sono previste spese di rimessa a magazzino? Il regolamento fornito specifica che gli articoli non aperti possono essere restituiti entro 30 giorni e quelli aperti solo se difettosi, ma non menziona spese di rimessa a magazzino.
La prima risposta: i prodotti aperti possono essere restituiti entro 14 giorni, con un addebito del 15 percento per il reintegro a magazzino. Entrambi i dettagli sono inventati. La politica non menziona né 14 giorni né un addebito. Sono plausibili perché molte politiche di reso li prevedono: è proprio così che una risposta statisticamente probabile finisce per essere sbagliata.
Il coordinatore ripropone la domanda con le tecniche sopra descritte: usa solo la policy, cita la frase, scrivi Non specificato se l'informazione manca. La seconda risposta: Articoli aperti: restituibili solo se difettosi (citazione: Gli articoli aperti possono essere restituiti solo se il prodotto è difettoso). Costo di riassortimento: Non specificato. Questa risposta si può verificare in pochi secondi confrontandola con il documento e la lacuna sui costi viene sottoposta al responsabile della policy, anziché finire in un'email al cliente.
Cosa dovrebbe fare un dipendente dopo aver individuato un'allucinazione?
Rimuovi o correggi l'affermazione falsa, poi valuta se qualcuno vi abbia già fatto affidamento. Se il risultato era solo una bozza, correggilo e prosegui, annotando nella verifica che lo strumento ha inventato quel dettaglio. Se è già stato inviato, condiviso o usato per prendere una decisione, avvisa la persona responsabile affinché possa correggerlo. Non modificare senza avvisare un documento che altri hanno già letto.
È utile anche spiegare ai colleghi quali tipi di domande hanno prodotto l'errore. Un gruppo che condivide esempi di ciò che non ha funzionato impara più in fretta di uno in cui ogni persona scopre lo stesso problema per conto proprio. Il metodo passo passo per verificare una bozza si trova nella guida alla verifica dei fatti nei contenuti generati dall'IA.
Quando una risposta sbagliata dell’IA non è un’allucinazione?
Non tutte le risposte sbagliate sono allucinazioni, e il rimedio cambia. Se lo strumento dà una risposta superata perché le informazioni sono cambiate dopo il suo addestramento, serve una fonte aggiornata. Se dà una risposta distorta o parziale, il problema riguarda l'impostazione e l'imparzialità, non l'invenzione. Se, seguendo un'istruzione vaga, produce un risultato ragionevole ma indesiderato, serve una richiesta più precisa. E se qualcuno usa deliberatamente l'IA per ingannare, è una questione di condotta, non di formazione.
Questa guida non può neppure dirti se un determinato strumento è sicuro per una specifica attività dalle conseguenze rilevanti. Per decisioni legali, mediche, finanziarie o sul rapporto di lavoro che riguardano singole persone, rivolgiti a un revisore qualificato, indipendentemente da come è stato prodotto il risultato.
Fonti e ambito
NIST, IA 600-1: Profilo dell'IA generativa, July 2024 ↗
Anthropic, documentazione di Claude: ridurre le allucinazioni, consultata il 16 ottobre 2026 ↗
Mata v. Avianca, Inc., 678 F.Supp.3d 443 (S.D.N.Y., 22 June 2023), copia ospitata da CLLA ↗
Guida di Gmail, Collaborare con Gemini in Gmail, consultata il 16 October 2026 ↗