Perché un assistente conversazionale dà risposte diverse alla stessa domanda?
Un chatbot dà risposte diverse alla stessa domanda perché genera ogni risposta scegliendo tra le parole che hanno più probabilità di venire dopo, e questa scelta include solitamente una componente casuale. Non sta recuperando un'unica risposta memorizzata.
Immagina uno studio di architettura fittizio con 30 persone, Fairline Architects. Un socio chiede al responsabile dell'ufficio, Rowan, di spiegare tre cose prima che lo studio adotti un assistente IA. Gli appunti di Rowan recitano: 'gli ho chiesto due volte quali fossero le regole sugli interventi edilizi consentiti e ho ricevuto due risposte diverse'; 'ha citato il numero di un documento di orientamento urbanistico che non esiste'; 'lo strumento per le immagini ha creato un bel bozzetto del nuovo studio, ma le finestre non sono allineate'. Il socio vuole sapere se lo strumento è guasto. Non lo è. Sta facendo esattamente ciò per cui è stato costruito.
Come viene addestrato un modello di IA generativa?
Un modello linguistico di grandi dimensioni viene prima addestrato su un'enorme raccolta di testi per prevedere il frammento di testo successivo, poi viene ulteriormente addestrato a seguire istruzioni e fornire risposte utili. Il glossario di Anthropic descrive il preaddestramento come un addestramento su un ampio corpus non etichettato per prevedere la parola successiva dato il contesto precedente, seguito dall'addestramento di affinamento e dall'apprendimento per rinforzo basato sul riscontro umano, in cui le persone classificano risposte di esempio e il modello impara a preferire quelle migliori.
Il modello non conserva una copia di ogni documento. Regola miliardi di valori numerici interni finché le sue previsioni non corrispondono agli schemi presenti nei dati. Il risultato è più simile a una percezione molto dettagliata di come il linguaggio e le idee si combinano di solito che a una biblioteca consultabile.
Cosa sono i token e come li prevede il modello?
I token sono le piccole unità che un modello legge e scrive, spesso una parola o parte di una parola. Il modello scrive prevedendo ripetutamente il token successivo più probabile. Il corso di apprendimento automatico di Google descrive un modello linguistico come un sistema che stima la probabilità che un token o una sequenza di token compaia all'interno di una sequenza più lunga e indica che circa 400 token equivalgono a circa 300 parole inglesi.
A ogni passaggio, il modello assegna un punteggio a molti possibili token successivi. L'applicazione ne sceglie poi uno: a volte il più probabile, spesso uno estratto tra le opzioni probabili. Un'impostazione chiamata temperatura controlla quanto questa scelta possa discostarsi dalle opzioni più probabili: valori più alti producono formulazioni più varie, valori più bassi formulazioni più prevedibili. Anthropic segnala che, anche alla temperatura più bassa, i risultati non sono del tutto deterministici. Questa è la risposta alla prima osservazione di Rowan.
Come funzionano i generatori di immagini con IA?
Molti generatori di immagini basati sull'IA usano un metodo chiamato diffusione: il modello impara a rimuovere il rumore dalle immagini, poi crea una nuova immagine partendo da rumore casuale e perfezionandolo passo dopo passo, guidato dalla tua descrizione testuale. Il corso sulla diffusione di Hugging Face descrive l'addestramento come un processo in cui si aggiunge rumore in quantità diverse e si insegna al modello a correggerlo, e la generazione come un progressivo affinamento del rumore casuale fino a far emergere un'immagine.
Poiché il modello crea pixel plausibili anziché seguire il disegno di un architetto, dettagli come l'allineamento delle finestre, il testo sulle insegne o il numero di dita possono risultare sbagliati. Questa è la terza osservazione di Rowan.
Che cosa significa questo per il modo in cui usi gli strumenti?
Significa che dovresti fornire allo strumento i fatti su cui vuoi che lavori, anziché affidarti alla sua memoria. Istruzione poco efficace: 'Quali sono le regole per realizzare un ampliamento sul retro senza un permesso edilizio?' La risposta è scorrevole, varia da un tentativo all'altro e può mescolare norme di anni o paesi diversi; può anche includere un riferimento a un documento plausibile ma inventato, il che spiega la seconda nota di Rowan.
Prompt migliorato: Rowan incolla la sezione pertinente delle linee guida urbanistiche ufficiali e chiede: 'Usando solo il testo qui sotto, riassumi in una tabella i limiti dimensionali per un ampliamento posteriore a un solo piano. Se un aspetto non è trattato nel testo, scrivi non trattato.' Ora il compito del modello è riformulare e organizzare un testo che può leggere, un’attività che svolge bene, e Rowan può verificare ogni riga confrontandola con la fonte.
Quali sono i limiti dell'IA generativa?
I limiti principali sono che l'IA generativa può affermare falsità con sicurezza, ha conoscenze aggiornate solo fino a una certa data se non è collegata a strumenti di ricerca o documenti, può lavorare solo con ciò che rientra nella sua finestra di contesto e può riflettere i pregiudizi presenti nei dati di addestramento. Nessuno di questi limiti è un errore che si risolve formulando richieste più cortesi: derivano dal funzionamento dei modelli.
Verifica fatti, numeri, nomi e riferimenti confrontandoli con una fonte attendibile e fornisci allo strumento il materiale di riferimento ogni volta che l'accuratezza è importante.
Dove si colloca questa lezione nel catalogo di Tosheo.ai?
Come funziona l'IA generativa fa parte della categoria Fondamenti dell'IA. È una delle prime lezioni sull'IA per principianti e la lezione iniziale del corso sull'IA generativa. Su Tosheo.ai, l'attività pratica ti chiede di prevedere e poi verificare come si comporta uno strumento quando modifichi impostazioni come la temperatura o fornisci un testo di riferimento. Il riscontro basato sui criteri di valutazione verifica che la tua spiegazione sia comprensibile per un collega.