Waarom geeft een chatbot verschillende antwoorden op dezelfde vraag?
Een chatbot geeft verschillende antwoorden op dezelfde vraag omdat hij elk antwoord genereert door te kiezen uit waarschijnlijke volgende woorden. Die keuze bevat meestal een zekere mate van willekeur. Hij haalt niet één opgeslagen antwoord op.
Stelt u zich een fictief architectenbureau met 30 medewerkers voor: Fairline Architects. Een partner vraagt officemanager Rowan om drie dingen uit te leggen voordat het bureau een AI-assistent gaat gebruiken. Rowans aantekeningen luiden: 'twee keer gevraagd naar regels voor vergunningsvrij bouwen, twee verschillende antwoorden gekregen'; 'verwees naar een documentnummer voor planningsrichtlijnen dat niet bestaat'; 'de afbeeldingstool maakte een mooie schets van de nieuwe studio, maar de ramen zitten niet op één lijn'. De partner wil weten of de tool stuk is. Dat is niet zo. De tool doet precies waarvoor hij is gebouwd.
Hoe wordt een generatief AI-model getraind?
Een groot taalmodel wordt eerst getraind op een enorme verzameling tekst om het volgende stukje tekst te voorspellen. Daarna wordt het verder getraind om instructies te volgen en nuttige antwoorden te geven. De begrippenlijst van Anthropic beschrijft voortraining als training op een grote, ongelabelde tekstverzameling om het volgende woord te voorspellen op basis van de voorafgaande context. Daarna volgen verdere afstemming en versterkend leren op basis van menselijke feedback, waarbij mensen voorbeeldantwoorden rangschikken en het model leert de betere antwoorden te verkiezen.
Het model bewaart niet van elk document een kopie. Het past miljarden interne getallen aan totdat zijn voorspellingen overeenkomen met de patronen in de gegevens. Het resultaat lijkt meer op een zeer gedetailleerd begrip van hoe taal en ideeën doorgaans samenhangen dan op een doorzoekbare bibliotheek.
Wat zijn tokens en hoe voorspelt het model ze?
Tokens zijn de kleine eenheden die een model leest en schrijft, vaak een woord of een deel van een woord. Het model schrijft door steeds een waarschijnlijk volgend token te voorspellen. De cursus over machinaal leren van Google beschrijft een taalmodel als een model dat de kans inschat dat een token of reeks tokens binnen een langere reeks voorkomt, en vermeldt dat ongeveer 400 tokens overeenkomen met ongeveer 300 Engelse woorden.
Bij elke stap kent het model scores toe aan veel mogelijke volgende tokens. De toepassing kiest er vervolgens één: soms het meest waarschijnlijke, vaak een token dat wordt getrokken uit de waarschijnlijke opties. Een instelling met de naam temperatuur bepaalt hoe vrij die keuze is: hogere waarden leveren meer variatie in formuleringen op, lagere waarden zorgen voor voorspelbaardere formuleringen. Anthropic merkt op dat resultaten zelfs bij de laagste temperatuur niet volledig deterministisch zijn. Dat is het antwoord op de eerste opmerking van Rowan.
Hoe werken AI-afbeeldingsgeneratoren?
Veel AI-beeldgeneratoren gebruiken een methode die diffusie heet: het model leert ruis uit afbeeldingen te verwijderen en maakt vervolgens een nieuwe afbeelding door te beginnen met willekeurige ruis en die stap voor stap te verfijnen op basis van uw tekstbeschrijving. De diffusiecursus van Hugging Face beschrijft het trainen als het toevoegen van verschillende hoeveelheden ruis en het model leren die te herstellen. Het genereren wordt beschreven als het geleidelijk verfijnen van willekeurige ruis totdat een afbeelding ontstaat.
Omdat het model geloofwaardige pixels vormt in plaats van een bouwtekening te volgen, kunnen details zoals de uitlijning van ramen, tekst op borden of het aantal vingers verkeerd uitpakken. Dat is Rowans derde aantekening.
Wat betekent dit voor hoe u de hulpmiddelen gebruikt?
Het betekent dat u de tool de feiten moet geven waarop die zich moet baseren, in plaats van op het geheugen van de tool te vertrouwen. Zwakke prompt: 'Welke bouwregels gelden er voor een vergunningsvrije uitbouw aan de achterzijde?' Het antwoord leest vlot, verschilt per poging en kan regels uit verschillende jaren of landen door elkaar halen. Het kan ook een aannemelijke maar verzonnen documentverwijzing bevatten, wat de tweede opmerking van Rowan verklaart.
Verbeterde prompt: Rowan plakt het relevante gedeelte uit de officiële richtlijnen voor bouwen en vraagt: 'Vat uitsluitend op basis van de onderstaande tekst de maximale afmetingen voor een uitbouw van één bouwlaag aan de achterzijde samen in een tabel. Als iets niet in de tekst wordt behandeld, vermeld dan: niet behandeld.' Het model hoeft nu alleen tekst die het kan zien te herformuleren en te ordenen, iets waar het goed in is. Rowan kan elke regel controleren aan de hand van de bron.
Wat zijn de beperkingen van generatieve AI?
De belangrijkste beperkingen zijn dat generatieve AI onjuiste dingen met overtuiging kan stellen, dat haar kennis tot een bepaalde datum reikt tenzij ze is gekoppeld aan zoekfuncties of documenten, dat ze alleen kan werken met wat in haar contextvenster past en dat ze vooroordelen uit haar trainingsgegevens kan weerspiegelen. Geen van deze beperkingen is een fout die u oplost door iets beleefder te vragen; ze vloeien voort uit de werking van de modellen.
Controleer feiten, cijfers, namen en verwijzingen aan de hand van een bron die u vertrouwt, en geef de tool bronmateriaal wanneer nauwkeurigheid belangrijk is.
Waar past deze les in het lesaanbod van Tosheo.ai?
Hoe generatieve AI werkt valt onder de categorie AI-basiskennis. Het is een van de eerste lessen over AI voor beginners en de openingsles van de cursus generatieve AI. Bij de praktijkopdracht op Tosheo.ai voorspelt u eerst hoe een tool zich gedraagt wanneer u instellingen zoals temperatuur wijzigt of brontekst toevoegt. Daarna test u uw voorspelling. De feedback op basis van de beoordelingscriteria toetst of uw uitleg begrijpelijk zou zijn voor een collega.