Comprendre ce qu'un LLM sait réellement
Un grand modèle de langage n'a ni base de données ni mémoire au sens humain. Ce qu'il retient de son entraînement, ce qu'il sait mal, ce qu'il ignore, et comment en tirer des réponses fiables.
Photo : Nothing Ahead (Pexels)
Demandez à un assistant d'IA qui est la mère de l'acteur Tom Cruise : il répond sans hésiter, Mary Lee Pfeiffer. Demandez-lui maintenant de qui Mary Lee Pfeiffer est la mère : en 2023, le meilleur modèle du moment échouait bien plus souvent. C'est pourtant le même fait, lu dans l'autre sens. Si le modèle « savait » comme vous savez, il répondrait aux deux questions. Cette asymétrie, mesurée par des chercheurs en 2023, dit beaucoup de la nature du savoir d'un grand modèle de langage : ni une base de données, ni une mémoire humaine, mais autre chose, qu'il vaut mieux connaître avant de s'y fier.
Au programme
- 01Ce qu'il a appris : prédire la suite d'un texte
- 02Ce qu'il sait bien, ce qu'il sait mal
- 03Ce qu'il ignore par construction
- 04Deux mémoires à ne pas confondre
- 05En pratique
- 06À retenir
LSI Open · gratuit
Créez votre compte gratuit pour lire cette capsule.
- 2 widgets interactifs
- 5 cartes de révision
- un quiz de 3 questions
Sans carte bancaire. Le compte ouvre tout LSI Open — capsules de culture générale, cours, défis et raids — et votre Proof-of-Skill Passport.
Dans le même thème
CapsuleTous niveaux · 8 minArchiver correctement ses documents numériquesTrier ce qu'il faut garder et combien de temps, nommer et classer pour retrouver en dix secondes, choisir des formats qui resteront lisibles, et faire durer ses archives sur plusieurs supports.Découvrir →compte gratuit
CapsuleTous niveaux · 8 minAutomatiser une petite tâche sans coderChoisir une tâche qui vaut la peine, la décrire en « quand, si, alors », la confier aux outils que vous avez déjà ou à un connecteur, puis la tester et la surveiller pour qu'elle ne tombe pas en panne en silence.Découvrir →compte gratuit
CapsuleTous niveaux · 8 minChoisir le bon outil numérique pour une tâchePartir de la tâche et non de l'outil, trouver la bonne famille de logiciels, peser simplicité, réversibilité, sécurité et coût réel, puis tester avant d'adopter : une méthode pour ne plus subir ses outils.Découvrir →compte gratuitAvec un formateur
Vous voulez aller plus loin ?
Travaillez cette compétence avec un formateur LSI dans un parcours structuré.
Parler à un formateurPour une équipe
Vous représentez une entreprise ?
Déployez ce parcours auprès de votre équipe avec LSI.
Former mon équipe