Pourquoi un agent conversationnel donne-t-il des réponses différentes à la même question ?
Un agent conversationnel donne des réponses différentes à une même question parce qu’il génère chaque réponse en choisissant parmi les mots susceptibles de suivre, et que ce choix comporte généralement une part d’aléatoire. Il ne récupère pas une réponse unique stockée à l’avance.
Imaginez un cabinet d’architecture fictif de 30 personnes, Fairline Architects. Un associé demande au responsable administratif, Rowan, d’expliquer trois points avant que le cabinet adopte un assistant IA. Les notes de Rowan indiquent : 'deux questions sur les règles applicables aux travaux dispensés de permis, deux réponses différentes' ; 'référence à un numéro de document d’orientation en urbanisme qui n’existe pas' ; 'l’outil d’image a produit une belle esquisse du nouvel atelier, mais les fenêtres ne sont pas alignées'. L’associé veut savoir si l’outil fonctionne mal. Ce n’est pas le cas. Il fait exactement ce pour quoi il a été conçu.
Comment entraîne-t-on un modèle d’IA générative ?
Un grand modèle de langage est d’abord entraîné sur un immense ensemble de textes pour prédire le fragment de texte suivant, puis entraîné davantage à suivre des instructions et à fournir des réponses utiles. Le glossaire d’Anthropic décrit le préentraînement comme un entraînement sur un vaste corpus non étiqueté visant à prédire le mot suivant à partir du contexte précédent. Viennent ensuite l’ajustement fin et l’apprentissage par renforcement à partir de retours humains : des personnes classent des exemples de réponses et le modèle apprend à privilégier les meilleures.
Le modèle ne conserve pas une copie de chaque document. Il ajuste des milliards de valeurs internes jusqu’à ce que ses prédictions correspondent aux régularités présentes dans les données. Le résultat ressemble davantage à une compréhension très détaillée de la manière dont le langage et les idées s’articulent habituellement qu’à une bibliothèque consultable.
Que sont les jetons et comment le modèle les prédit-il ?
Les jetons sont les petites unités qu’un modèle lit et écrit, souvent un mot ou une partie de mot. Le modèle écrit en prédisant successivement un jeton susceptible de suivre. Le cours de Google sur l’apprentissage automatique décrit un modèle de langage comme un système qui estime la probabilité qu’un jeton ou une séquence de jetons apparaisse dans une séquence plus longue, et indique qu’environ 400 jetons correspondent à environ 300 mots anglais.
À chaque étape, le modèle attribue un score à de nombreux jetons susceptibles de suivre. L’application en choisit ensuite un : parfois le plus probable, souvent un jeton tiré au sort parmi les options probables. Un paramètre appelé température détermine le degré d’audace de ce choix : des valeurs élevées donnent des formulations plus variées, des valeurs faibles des formulations plus prévisibles. Anthropic précise que, même à la température la plus basse, les résultats ne sont pas entièrement déterministes. Voilà la réponse à la première remarque de Rowan.
Comment fonctionnent les générateurs d’images par IA ?
De nombreux générateurs d’images par IA utilisent une méthode appelée diffusion : le modèle apprend à retirer le bruit des images, puis crée une nouvelle image en partant d’un bruit aléatoire qu’il affine étape par étape, en suivant votre description textuelle. Le cours de Hugging Face sur la diffusion décrit l’entraînement comme l’ajout de différentes quantités de bruit et l’apprentissage de sa correction par le modèle, et la génération comme l’affinage progressif d’un bruit aléatoire jusqu’à ce qu’une image apparaisse.
Parce que le modèle génère des pixels plausibles au lieu de suivre un plan d’architecte, certains détails peuvent être incorrects, comme l’alignement des fenêtres, le texte des panneaux ou le nombre de doigts. C’est la troisième remarque de Rowan.
Quelles conséquences cela a-t-il sur votre utilisation des outils ?
Cela signifie que vous devez fournir à l’outil les faits sur lesquels vous souhaitez qu’il s’appuie, plutôt que de vous fier à sa mémoire. Consigne peu précise : 'Quelles sont les règles applicables à une extension à l’arrière d’un bâtiment dispensée de permis de construire ?' La réponse est fluide, varie d’une tentative à l’autre et peut mélanger des règles de différentes années ou de différents pays. Elle peut aussi inclure une référence documentaire plausible mais inventée, ce qui explique la deuxième remarque de Rowan.
Consigne améliorée : Rowan colle la section pertinente du guide officiel d’urbanisme et demande : 'À partir du seul texte ci-dessous, résumez dans un tableau les limites de dimensions applicables à une extension arrière de plain-pied. Si un point n’est pas traité dans le texte, indiquez qu’il n’est pas traité.' Le modèle doit désormais reformuler et organiser un texte auquel il a accès, ce qu’il fait bien, et Rowan peut vérifier chaque ligne dans la source.
Quelles sont les limites de l’IA générative ?
Les principales limites sont les suivantes : l’IA générative peut affirmer avec assurance des choses fausses, ses connaissances s’arrêtent à une date donnée sauf si elle est connectée à une recherche ou à des documents, elle ne peut traiter que ce qui tient dans sa fenêtre de contexte et elle peut reproduire les biais de ses données d’entraînement. Aucune de ces limites n’est un défaut que l’on corrige en formulant sa demande plus poliment ; elles découlent du fonctionnement des modèles.
Vérifiez les faits, les chiffres, les noms et les références à l’aide d’une source fiable, et fournissez des documents sources à l’outil chaque fois que l’exactitude compte.
Où se situe cette leçon dans le catalogue Tosheo.ai ?
La leçon « Comment fonctionne l’IA générative » fait partie de la catégorie « Fondamentaux de l’IA ». C’est l’une des premières leçons d’initiation à l’IA et la première du cours sur l’IA générative. Sur Tosheo.ai, l’exercice pratique vous demande de prédire, puis de tester le comportement d’un outil lorsque vous modifiez des paramètres de type température ou que vous lui fournissez un texte source. Le retour fondé sur la grille d’évaluation vérifie que votre explication serait compréhensible pour un collègue.