Perché la fase di revisione umana spesso non funziona?
Una fase di revisione umana spesso fallisce perché la persona vede solo il verdetto dell'IA, ha troppi elementi da controllare e non riceve mai indicazioni su cosa cercare: approvare diventa quindi la strada più rapida. È un'approvazione puramente formale, che dà l'apparenza di un controllo senza garantirlo davvero.
Immagina un distributore all'ingrosso fittizio con 25 persone, Oakbridge Supplies. Uno strumento IA confronta le fatture dei fornitori con gli ordini di acquisto e contrassegna ciascuna come 'corrispondente' o 'non corrispondente'. L'impiegata amministrativa, Priya, approva il pagamento delle fatture corrispondenti. Un giovedì la sua coda di lavoro riporta: '212 fatture, 205 corrispondenti, 7 non corrispondenti'. Ogni riga mostra fornitore, importo e un segno di spunta verde. Il mese scorso è stata pagata una fattura di un fornitore per 400 unità quando ne erano state consegnate solo 40, perché lo strumento aveva trovato una corrispondenza nel numero d'ordine e Priya aveva approvato la spunta.
In quali punti del processo dovrebbe intervenire una persona?
Una persona dovrebbe intervenire ogni volta che un risultato dell'IA incide sul denaro, sull'accesso di una persona a qualcosa, su un impegno verso un cliente o su un esito legale o di sicurezza, e prima che tale cambiamento diventi difficile da annullare. I risultati ordinari e reversibili possono invece essere verificati a campione.
L'articolo dell'EU AI Act sulla sorveglianza umana dei sistemi ad alto rischio esprime lo stesso concetto in linguaggio normativo: chi sorveglia un sistema dovrebbe comprenderne i limiti, essere consapevole della tendenza a fidarsi eccessivamente dell'automazione e poter ignorare, annullare o interrompere ciò che il sistema produce. Anche se la normativa non si applica alla tua attività, questi restano validi obiettivi di progettazione.
Quali modalità di revisione con supervisione umana esistono?
Esistono quattro modalità comuni di revisione e quella giusta dipende dal costo di un errore e dal numero di elementi da esaminare.
Approvare prima di agire
Una persona approva ogni risultato prima che venga eseguita qualsiasi azione. Da usare per attività poco frequenti e con costi elevati, come pagamenti superiori a una soglia o rimborsi ai clienti.
Esame delle eccezioni
L'IA gestisce i casi chiari e inoltra quelli incerti o insoliti a una persona. Funziona solo se le regole di inoltro sono state testate e si continuano a controllare anche alcuni casi 'chiari'.
Audit a campione
I risultati vengono inviati e una persona ne controlla un campione casuale in seguito. Da usare per attività reversibili e ad alto volume, come le sintesi interne.
Prima in autonomia
La persona si forma un'opinione prima di vedere il suggerimento dell'IA. È più lento, ma protegge dal rischio di ancorarsi alla risposta dell'IA nelle valutazioni importanti.
Come si presenta un piano di revisione debole rispetto a uno migliorato?
Progettazione debole: ogni fattura arriva a Priya con un segno verde o rosso. Lei approva 205 spunte in 20 minuti. Nulla le spiega perché sia stata assegnata ogni spunta e nulla verifica se stia ancora prestando attenzione.
Processo migliorato: le fatture al di sotto di un importo prestabilito per cui numero d'ordine, quantità e prezzo unitario corrispondono tutti al documento di trasporto vengono pagate automaticamente, e Priya ne controlla dieci a caso ogni settimana. Tutto ciò che supera la soglia, ogni nuovo fornitore e qualsiasi differenza di quantità vengono sottoposti a lei, con i tre campi affiancati e la motivazione dell'IA in una riga, ad esempio 'quantità in fattura 400, consegnata 40'. Una volta al mese, il responsabile finanziario inserisce senza preavviso due errori noti nella coda da esaminare per verificare che vengano individuati. Priya registra anche ogni volta che modifica una decisione dell'IA. Un calo improvviso a zero di questi interventi è considerato un segnale d'allarme, non un successo.
Come si verifica che il controllo sia effettivo e non una semplice approvazione di facciata?
Verifica che il controllo sia effettivo misurandolo: tempo dedicato a ogni elemento, frequenza con cui i revisori correggono l'IA e capacità di individuare errori inseriti appositamente per la prova. Un revisore che non è mai in disaccordo con lo strumento sta controllando risultati molto validi oppure non sta controllando affatto: servono dati per capire quale delle due situazioni si verifica.
Mostra le prove, non solo i giudizi
Affianca i campi della fonte alla risposta dell'IA per rendere rapida la verifica.
Limitare la coda
Se una persona non riesce a esaminare adeguatamente il volume di lavoro, modifica il processo anziché chiederle di impegnarsi di più.
Dare autorità
Chi effettua la revisione deve poter rifiutare o sospendere senza dover chiedere il permesso.
Verifica il ciclo
Inserisci di tanto in tanto errori noti e registra se vengono individuati.
Quali sono gli errori più comuni nella supervisione umana dei sistemi di IA?
L'errore più comune è aggiungere un revisore a un processo senza cambiare nient'altro, per poi considerare la sua approvazione una prova della correttezza del risultato. Altri errori: chiedere a una sola persona di approvare centinaia di elementi al giorno, nascondere le informazioni necessarie dietro clic aggiuntivi, effettuare la revisione dopo che un'azione irreversibile è già stata eseguita e festeggiare il calo del tasso di interventi correttivi senza chiedersi perché. La tendenza a fidarsi dell'automazione colpisce anche le persone attente: per questo la progettazione conta più delle buone intenzioni.
Dove si colloca la supervisione umana nel catalogo di Tosheo.ai?
La supervisione umana nel processo rientra nella categoria IA responsabile e politiche d'uso del corso di alfabetizzazione all'IA, dopo le lezioni sull'etica dell'IA e sui controlli per un uso responsabile dell'IA. Il tema ritorna nelle lezioni sull'IA agentica e sull'automazione, dove gli strumenti agiscono anziché limitarsi a suggerire. L'attività pratica richiede di riprogettare una fase di revisione del proprio lavoro e il riscontro basato sui criteri di valutazione verifica che il momento della revisione, gli elementi da esaminare e l'autorità siano tutti chiari.