Trois lettres suffisent aujourd'hui à débloquer un budget : RAG. La promesse tient en une phrase — l'intelligence artificielle répondra sur vos documents, sans inventer. Elle est vendue comme un correctif technique à un défaut technique, ce qui est rassurant : un défaut technique se corrige avec un achat.
Le problème est que la promesse a été mise à l'épreuve, publiquement, par des chercheurs, sur des produits commercialisés par des éditeurs qui écrivaient noir sur blanc « sans hallucination ». Les résultats sont publiés dans une revue à comité de lecture. Ils sont mauvais. Et l'administration française, qui a déployé un système de ce type dans quarante-huit maisons France Services, a renoncé à le généraliser dans sa forme d'origine.
Cette enquête reprend le dossier par le seul bout qui vaille : ce que la technique fait réellement, ce qu'elle coûte au prix public affiché, et à quel endroit précis elle casse.
L'enquête en 30 secondes
Qu'est-ce que le RAG, sans métaphore ?
Le terme vient d'un article de recherche précis : Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, présenté par Patrick Lewis, Ethan Perez, Aleksandra Piktus et neuf coauteurs de Facebook AI Research, University College London et l'université de New York, à la conférence NeurIPS en 2020. Les auteurs y combinent un moteur de recherche neuronal et un modèle de génération : au lieu de répondre à partir de ses seuls paramètres, le modèle reçoit des documents retrouvés dans un index externe, traités comme une variable latente.
Ce qu'on appelle « RAG » en entreprise en 2026 est une version bien plus rudimentaire, et il faut le dire clairement. Les documents sont découpés en fragments de quelques centaines de mots, chaque fragment est converti en un vecteur numérique par un modèle d'embedding, l'ensemble est rangé dans une base vectorielle. À la question de l'utilisateur, le système convertit la question en vecteur, va chercher les cinq à dix fragments les plus proches, les colle dans l'invite et demande au modèle de répondre à partir de ces extraits.
Deux conséquences suivent, et elles ne sont presque jamais énoncées ensemble. La première : le modèle ne lit jamais votre base documentaire. Il lit cinq paragraphes que le moteur de recherche a choisis pour lui. La qualité de la réponse est donc plafonnée par la qualité de la recherche, pas par celle du modèle. La seconde : rien dans le dispositif n'oblige le modèle à s'en tenir aux extraits. On le lui demande, en français, dans une consigne. C'est une prière, pas un verrou.
Le RAG supprime-t-il vraiment les hallucinations ?
C'est la promesse commerciale la plus explicite du secteur, et c'est la seule à avoir été évaluée par des chercheurs indépendants sur des produits réellement vendus.
En mai 2024, Varun Magesh, Faiz Surani, Matthew Dahl, Mirac Suzgun, Christopher Manning et Daniel Ho, du RegLab et du Human-Centered AI de Stanford, publient la première évaluation empirique préenregistrée d'outils juridiques propriétaires. Le travail est ensuite passé par le comité de lecture du Journal of Empirical Legal Studies, qui le publie en 2025. Les outils testés : Lexis+ AI de LexisNexis, Westlaw AI-Assisted Research et Ask Practical Law AI de Thomson Reuters — tous trois construits sur du RAG, tous trois commercialisés auprès de professionnels du droit.
Les résultats : Lexis+ AI répond correctement à 65 % des requêtes et hallucine dans 17 % des cas ; Westlaw AI-Assisted Research est exact 42 % du temps et hallucine dans 33 % des cas, soit près du double. Les auteurs rappellent que les éditeurs avaient présenté le RAG comme « éliminant » les hallucinations ou garantissant des citations « sans hallucination ». Leur conclusion tient en un mot : surévalué.
Deux précautions honnêtes, parce que le débat a eu lieu. D'abord, ces systèmes font mieux que des assistants généralistes sans documents : le RAG améliore réellement la fiabilité, il ne l'assure pas. Ensuite, les éditeurs ont contesté le protocole — sélection des questions, définition retenue de l'hallucination, versions logicielles testées. Ces objections sont recevables et publiques ; elles ne déplacent pas le point central, qui est qu'aucune contre-évaluation indépendante de même niveau n'a été publiée depuis pour appuyer la promesse initiale.
Fiabilité mesurée de trois outils juridiques construits sur du RAG
Où le RAG casse-t-il, exactement ?
Trois travaux publics permettent de répondre sans généralité vague, et ils désignent trois endroits différents.
La recherche, d'abord. Scott Barnett et ses coauteurs de l'université Deakin ont publié en janvier 2024, à la conférence CAIN de l'IEEE et de l'ACM, un retour d'expérience sur trois systèmes déployés dans la recherche académique, l'éducation et le biomédical. Ils y recensent sept points de défaillance, dont la plupart se situent en amont du modèle : contenu absent de la base, extrait pertinent mais absent du haut du classement, extrait bien classé mais écarté au moment de l'assemblage, format mal extrait du document source. Leur conclusion opérationnelle est plus dure que la liste : la validation d'un système RAG n'est possible qu'en fonctionnement, pas en recette avant mise en service.
Le comportement du modèle face à un mauvais extrait, ensuite. L'article Sufficient Context, présenté par Hailey Joren, Jianyi Zhang, Chun-Sung Ferng, Da-Cheng Juan, Ankur Taly et Cyrus Rashtchian à la conférence ICLR 2025, sépare deux causes d'erreur qu'on confondait : le modèle utilise-t-il mal le contexte, ou le contexte ne contenait-il pas la réponse ? Le résultat le plus contre-intuitif est chiffré : le modèle Gemma donne une réponse fausse dans 10,2 % des cas quand on ne lui fournit aucun contexte, et jusqu'à 66,1 % quand on lui fournit un contexte insuffisant. Autrement dit, un extrait mal retrouvé fait bien plus de dégâts que pas d'extrait du tout. Les grands modèles propriétaires — Gemini, GPT, Claude — excellent quand le contexte suffit, mais préfèrent répondre faux plutôt que s'abstenir quand il ne suffit pas.
La fréquence du phénomène, enfin. Le corpus RAGTruth, publié à la conférence ACL 2024, rassemble près de 18 000 réponses générées par plusieurs modèles dans des conditions de RAG standard, annotées manuellement au mot près sur trois tâches — questions-réponses, génération à partir de données structurées, résumé de presse. Il ne donne pas un taux unique, et c'est précisément son intérêt : les fréquences varient fortement selon le modèle et selon la tâche. Aucun chiffre unique d'hallucination du RAG n'existe, et quiconque en cite un sans préciser tâche, modèle et jeu de test cite un chiffre décoratif.
Combien coûte un RAG, au prix public affiché ?
Prenons un cas concret et calculons avec les tarifs consultables le 5 septembre 2026. Base documentaire de 10 000 pages, environ cinq millions de tokens à raison de cinq cents tokens par page. Dix mille questions posées par mois.
Indexation. Le modèle text-embedding-3-small d'OpenAI est facturé 0,02 dollar le million de tokens. Indexer l'intégralité du corpus revient donc à dix centimes de dollar. La version large, à 0,13 dollar le million, coûte 65 centimes. Réindexer tout le corpus chaque mois coûte 1,20 dollar par an. Ce n'est pas là que se trouve l'argent.
Stockage vectoriel. Pinecone, l'un des fournisseurs les plus utilisés, affiche 0,33 dollar par gigaoctet et par mois, mais impose un minimum de consommation de 50 dollars par mois sur son offre Standard et de 500 dollars sur son offre Enterprise. Les lectures y sont facturées de 16 à 18 dollars le million d'unités. Une base de dix mille pages tient largement dans l'offre gratuite ou dans l'offre à 20 dollars par mois ; le plancher tarifaire, pas le volume, détermine la facture.
Génération. C'est le poste dominant, et il est proportionnel à l'usage. Chaque question injecte environ quatre mille tokens en entrée — cinq à huit extraits, la consigne, la question, parfois l'historique — et produit cinq cents tokens en sortie. Avec GPT-4o, facturé 2,50 dollars le million en entrée et 10 dollars en sortie, cela fait 1,5 cent par question, soit 150 dollars pour dix mille questions mensuelles. Avec GPT-4o mini, à 0,15 et 0,60 dollar, la même charge revient à moins de 10 dollars.
Total honnête : entre soixante et deux cents dollars par mois pour un assistant documentaire sérieux à l'échelle d'une PME. C'est le chiffre qui manque à la plupart des débats, et il ferme une objection courante — le prix de l'infrastructure n'est pas un obstacle.
La facture d'un RAG de 10 000 pages et 10 000 questions par mois
0 cents
Coût d'indexation des 10 000 pages, soit 5 millions de tokens, avec text-embedding-3-small
$0
Génération mensuelle avec GPT-4o pour 10 000 questions
$0
La même génération mensuelle avec GPT-4o mini, seize fois moins cher
$0
Minimum de consommation mensuelle imposé par l'offre Standard de Pinecone, quel que soit le volume réel
Alors pourquoi les projets coûtent-ils si cher ?
Parce que la facture technique n'est pas la dépense. Quatre postes absorbent l'essentiel, et aucun n'apparaît dans un devis d'éditeur.
La curation documentaire. Un RAG répond à partir de ce qu'on lui donne. Si la base contient trois versions d'une même procédure, dont deux périmées, le moteur de recherche remontera la plus proche lexicalement de la question, pas la plus récente. Trier, dater, supprimer les doublons et désigner un propriétaire par document est un travail d'archiviste, chiffré en semaines-hommes, et c'est le seul poste qui détermine vraiment la qualité du résultat.
L'extraction. Les documents d'entreprise sont des PDF scannés, des tableaux fusionnés, des présentations, des courriels. Barnett et ses coauteurs classent les erreurs d'extraction parmi leurs sept points de défaillance : une donnée qui vit dans une cellule de tableau ou une note de bas de page se retrouve, après découpage, dans un fragment où elle ne veut plus rien dire.
L'évaluation. Il faut un jeu de questions dont on connaît la bonne réponse, rejoué à chaque changement de modèle, de découpage ou de corpus. C'est la conséquence directe du résultat de Barnett : puisque la validation n'est possible qu'en fonctionnement, l'évaluation n'est pas une étape du projet, c'est une charge permanente.
La conformité. Envoyer un extrait de dossier client dans une invite est un traitement de données personnelles. La CNIL a finalisé le 22 juillet 2025 ses recommandations sur l'application du RGPD aux systèmes d'IA. Elles n'interdisent pas l'usage ; elles imposent une base légale, une information des personnes et une durée de conservation, y compris pour les données qui transitent par une invite.
Que montre le déploiement public français le mieux documenté ?
L'État français a mené l'expérimentation la plus lisible du pays, et son bilan intermédiaire est public.
Albert est l'ensemble d'outils d'IA générative développé par la Direction interministérielle du numérique. Son API expose explicitement des fonctions de RAG, d'OCR, de classification et de vectorisation de documents, avec un objectif souverain : faire répondre un modèle sur des documents administratifs officiels plutôt que sur ses paramètres.
L'assistant destiné aux conseillers a été expérimenté dans quarante-huit maisons France Services, avec l'ambition d'une généralisation à partir de 2025. En janvier 2026, la DINUM annonce que l'outil ne sera pas généralisé dans sa forme actuelle : dysfonctionnements techniques, réponses erronées et hallucinations relevées sur le terrain, plusieurs organisations syndicales ayant fait remonter les mêmes constats. Le projet n'est pas abandonné : il bascule vers une version reposant sur des modèles Mistral, testée sous le nom d'Assistant IA auprès de dix mille agents publics jusqu'en juin 2026. Un bilan de l'expérimentation est attendu à l'été 2026, avec pour mission explicite de chiffrer le coût d'une généralisation.
Ce dossier vaut mieux que n'importe quelle étude de cas d'éditeur, pour une raison simple : le corpus était propre. Des textes administratifs officiels, publics, versionnés, rédigés pour être compris. Si le RAG était une solution purement technique, c'est exactement là qu'il aurait dû fonctionner du premier coup.
Six ans de RAG, de l'article de recherche au bilan de terrain
L'article fondateur
Patrick Lewis et onze coauteurs présentent à NeurIPS la génération augmentée par récupération : un moteur de recherche neuronal alimente un modèle de génération, les documents retrouvés étant traités comme une variable latente. Le dispositif d'entreprise qui portera ce nom sera bien plus rudimentaire.
À quelles conditions un RAG tient-il en production ?
Les sources publiques ne donnent pas de recette, mais elles interdisent certaines façons de faire. Quatre conditions s'en déduisent directement.
Un corpus qui fait autorité. Une seule version en vigueur par sujet, datée, avec un propriétaire identifié. Sans quoi le résultat de Joren et ses coauteurs s'applique : un extrait insuffisant dégrade la réponse bien plus qu'une absence d'extrait.
Une abstention possible. Le système doit pouvoir répondre qu'il ne sait pas. C'est le comportement que les grands modèles n'ont pas spontanément, et c'est le seul garde-fou qui protège du cas le plus coûteux — une réponse fausse, fluide et plausible.
Une traçabilité au fragment. Chaque affirmation doit renvoyer à l'extrait qui la soutient, consultable en un clic. L'évaluation de Stanford ne compte pas seulement les faits faux : elle compte aussi les citations qui existent mais ne soutiennent pas ce qu'on leur fait dire. Une source affichée n'est pas une source vérifiée.
Une évaluation qui tourne en continu. Un jeu de questions à réponse connue, rejoué à chaque modification. C'est l'unique traduction opérationnelle du constat de Barnett : ce système ne se valide pas avant la mise en service.
Ce que cette enquête n'a pas pu établir
Quatre limites, dites franchement.
Il n'existe aucun taux d'hallucination du RAG en général. Les chiffres cités ici portent sur des produits juridiques précis, sur un jeu de questions précis, à une date précise. Les reprendre pour un assistant documentaire interne n'aurait aucun sens : la difficulté de la recherche juridique n'est pas celle d'une base de procédures.
Le calcul de coût est un ordre de grandeur, pas un devis. Il repose sur des hypothèses assumées — cinq cents tokens par page, quatre mille tokens injectés par question — et sur des tarifs publics qui changent plusieurs fois par an. Il exclut les coûts humains, qui dominent, et qu'aucune source publique ne chiffre pour une PME française.
Aucune donnée publique ne dit combien de projets RAG échouent. Les taux d'abandon qui circulent portent sur les projets d'IA en général, pas sur cette architecture. Les retours d'expérience détaillés sont ceux d'équipes de recherche ou d'administrations, jamais ceux d'entreprises qui ont perdu de l'argent.
Le dossier Albert n'est pas clos. Le bilan attendu à l'été 2026 doit chiffrer le coût d'une généralisation. Au moment de cette publication, ce chiffrage n'est pas public, et le jugement porté ici sur le déploiement français reste donc un jugement d'étape.
FAQ
Le RAG empêche-t-il l'IA d'inventer ?
Non. Il réduit fortement le phénomène, il ne le supprime pas. L'évaluation de Stanford publiée au Journal of Empirical Legal Studies en 2025 mesure 17 % de réponses hallucinées pour Lexis+ AI et 33 % pour Westlaw AI-Assisted Research, deux produits commerciaux construits sur cette architecture. Rien dans le dispositif n'oblige techniquement le modèle à s'en tenir aux extraits fournis : la consigne est une instruction en langage naturel, pas un verrou.
Combien coûte un assistant documentaire en RAG ?
Aux tarifs publics de septembre 2026, indexer 10 000 pages coûte environ dix centimes de dollar, et dix mille questions par mois reviennent à 150 dollars avec GPT-4o ou moins de 10 dollars avec GPT-4o mini, auxquels s'ajoute le stockage vectoriel dont le minimum contractuel pèse souvent plus que le volume réel. L'essentiel de la dépense est ailleurs : trier les documents, corriger l'extraction et maintenir un jeu d'évaluation.
Vaut-il mieux un RAG ou un modèle à très grand contexte ?
Les deux approches ne coûtent pas la même chose : le contexte long facture l'intégralité des tokens injectés à chaque requête, quand le RAG n'en injecte que quelques milliers. Les travaux comparatifs publiés montrent un avantage du contexte long sur les tâches exigeant de raisonner sur un document entier, et un avantage du RAG sur la restitution factuelle avec citation de source et sur le coût.
Faut-il des données propres avant de commencer ?
C'est la condition qui décide du résultat. L'étude Sufficient Context mesure qu'un contexte insuffisant fait passer le taux de réponses fausses d'un modèle testé de 10,2 % à 66,1 % : un mauvais extrait nuit davantage qu'une absence d'extrait. Une base contenant plusieurs versions non datées d'une même procédure produira des réponses fausses avec assurance, et le modèle n'y sera pour rien.
L'enquête en slides
