Comprendre pourquoi une IA hallucine
Des jurisprudences inventées, des dates fausses, des références introuvables : d'où viennent les hallucinations des IA génératives, pourquoi elles sont si convaincantes et dans quelles situations le risque grimpe.
Photo : KATRIN BOLOVTSOVA (Pexels)
En 2023, dans un procès contre la compagnie aérienne Avianca, des avocats new-yorkais déposent un mémoire qui cite six décisions de justice. Aucune n'existe. Elles ont été rédigées par ChatGPT, avec numéros de dossier, citations et références internes ; interrogé pour savoir si elles étaient réelles, l'outil a confirmé. Le juge a infligé 5 000 dollars d'amende. Comment une machine capable d'écrire un mémoire juridique peut-elle inventer des jugements, et pourquoi le fait-elle avec autant d'aplomb ? La réponse tient à ce que ces systèmes font réellement quand ils répondent.
Au programme
- 01Ce qu'on appelle une hallucination
- 02Première cause : le modèle produit du plausible, pas du vrai
- 03Deuxième cause : l'entraînement récompense l'audace
- 04Troisième cause : ce qu'on lui demande
- 05Des cas bien réels
- 06Ce qui réduit le risque, sans l'annuler
- 07À retenir
LSI Open · gratuit
Créez votre compte gratuit pour lire cette capsule.
- 2 widgets interactifs
- 5 cartes de révision
- un quiz de 4 questions
Sans carte bancaire. Le compte ouvre tout LSI Open — capsules de culture générale, cours, défis et raids — et votre Proof-of-Skill Passport.
Dans le même thème
CapsuleTous niveaux · 8 minArchiver correctement ses documents numériquesTrier ce qu'il faut garder et combien de temps, nommer et classer pour retrouver en dix secondes, choisir des formats qui resteront lisibles, et faire durer ses archives sur plusieurs supports.Découvrir →compte gratuit
CapsuleTous niveaux · 8 minAutomatiser une petite tâche sans coderChoisir une tâche qui vaut la peine, la décrire en « quand, si, alors », la confier aux outils que vous avez déjà ou à un connecteur, puis la tester et la surveiller pour qu'elle ne tombe pas en panne en silence.Découvrir →compte gratuit
CapsuleTous niveaux · 8 minChoisir le bon outil numérique pour une tâchePartir de la tâche et non de l'outil, trouver la bonne famille de logiciels, peser simplicité, réversibilité, sécurité et coût réel, puis tester avant d'adopter : une méthode pour ne plus subir ses outils.Découvrir →compte gratuitAvec un formateur
Vous voulez aller plus loin ?
Travaillez cette compétence avec un formateur LSI dans un parcours structuré.
Parler à un formateurPour une équipe
Vous représentez une entreprise ?
Déployez ce parcours auprès de votre équipe avec LSI.
Former mon équipe