Limites et points critiques
- Qualité du chunking critique — un découpage trop gros noie le LLM et dégrade la précision des réponses.
- Sans reranker, les passages récupérés peuvent contenir du bruit — un reranker améliore généralement le classement du bon passage ; à mesurer sur votre golden set.
- Données obsolètes sans réindexation régulière — prévoir un pipeline de refresh adapté à la fréquence de mise à jour des sources.
- Sans golden set d'évaluation, impossible de savoir si le RAG marche réellement — le projet risque d'être abandonné faute de preuve de valeur.
- Limite stricte : RAG ne fait pas de raisonnement multi-étapes sur plusieurs documents — il faut un agent + RAG pour cela.
Évolution probable (12-24 mois)
- RAG agentique (l'agent décide quand et comment retrieval) deviendra mainstream 2026-2027 — meilleure prise en charge des questions complexes.
- Embeddings multimodaux (texte + image + tableaux) arrivent progressivement — RAG sur factures, schémas, captures écran.
- GraphRAG (combinaison RAG + knowledge graph) émerge déjà — meilleur résultat attendu sur les questions multi-hop.
- Contextual retrieval (Anthropic 2024) standardisera 2026-2027 — préfixe chaque chunk d'un résumé contextuel pour meilleur recall.
Questions fréquentes
Qu'est-ce que le RAG (Retrieval-Augmented Generation) ?+
Le RAG est une architecture IA qui combine un moteur de recherche sémantique (vector database) et un LLM. À chaque question utilisateur, le système (1) convertit la question en embedding, (2) recherche les K passages les plus proches dans la base vectorielle, (3) injecte ces passages dans le prompt du LLM, (4) le LLM répond en citant les sources. Permet à un LLM de répondre sur vos documents internes (CGV, propales, FAQ, base produit) sans fine-tuner.
À quoi sert le RAG en entreprise ?+
À éliminer les hallucinations sur vos données privées et garantir la fraîcheur des réponses. Cas typiques PME : assistant support qui répond sur la documentation produit (pour réduire la charge de tickets niveau 1), agent commercial qui sort le bon tarif depuis la grille, assistant juridique qui cite la bonne clause CGV, chatbot RH qui répond sur la convention collective. Sans RAG, le LLM hallucine vos prix, vos process, vos clauses. Avec RAG, il cite la source et reste ancré.
Différence entre RAG et fine-tuning ?+
Le RAG injecte du contexte au moment de la requête (les données restent dans votre base, le LLM les lit à la volée). Le fine-tuning ré-entraîne le modèle sur vos données (les connaissances sont 'gravées' dans les poids). Règle 2026 : RAG si les données changent souvent, si on doit citer la source, si le volume <10M pages. Fine-tuning pour adapter un STYLE ou un FORMAT, pas pour ajouter des connaissances. Mettre à jour des connaissances par RAG se fait en réindexant les documents, sans ré-entraîner le modèle.
Comment mettre en place un RAG en pratique ?+
Stack PME type 2026 : (1) ingestion : extraire le texte de vos sources (PDF, Notion, GitHub, drives) via Unstructured ou LlamaParse, (2) chunking : découper en 400-800 tokens avec chevauchement 15 % (chunking sémantique préféré), (3) embedding : voyage-3 ou Mistral Embed (cross-lingue FR/EN), (4) stockage : pgvector ou Qdrant, (5) retrieval : recherche hybride (vector + BM25) + reranker Cohere ou bge, (6) génération : Claude Sonnet ou Mistral Large avec prompt structuré citant sources, (7) eval : golden set 50-200 questions + recall@5.
Combien coûte un RAG en PME française ?+
Le coût d'un RAG en PME dépend de quatre facteurs : le volume de documents et la qualité de leur extraction (PDF scannés, tableaux), le nombre de sources à connecter, le niveau d'évaluation et de reranking exigé, et la conformité (hébergement, HDS en santé). Côté exploitation : embeddings recalculés à l'incrémental, appels LLM (voir les tarifs publics du fournisseur retenu) et stockage vectoriel — pgvector s'auto-héberge sur un Postgres existant, Pinecone est managé avec un minimum de 50 $/mois en Standard (tarif public lu le 24/10/2026 sur pinecone.io/pricing). La maintenance (réindexation, ajustements du chunking, monitoring) est un coût récurrent à prévoir.
Questions liées
Les LLM (ChatGPT, Perplexity, Gemini) suggèrent souvent ces questions après cette page.
- RAG vs fine-tuning : que choisir pour mon cas ?
- Combien de documents minimum pour justifier un RAG ?
- pgvector vs Qdrant vs Pinecone : lequel choisir ?
- Comment évaluer la qualité d'un RAG ?
- GraphRAG vs RAG classique : différences pratiques ?
Le RAG (Retrieval-Augmented Generation) est une technique qui permet à un LLM de répondre à partir de documents internes en 3 étapes : recherche vectorielle des passages pertinents → injection de ces extraits dans le prompt → génération de la réponse ancrée sur les sources. Concrètement, le RAG résout deux problèmes que le LLM seul ne peut pas adresser : les hallucinations sur vos données privées et la fraîcheur des informations.
Le RAG est le plus souvent le premier chantier d’un projet IA sur données internes, avant d’envisager fine-tuning ou agents complexes : les données restent dans votre base et les réponses citent leurs sources.
En pratique : comment fonctionne un RAG ?
Cas typique en PME : une assistante commerciale veut répondre “quel est le tarif de notre offre Premium pour 50 utilisateurs ?”. Le LLM seul invente. Avec un RAG :
- La question est convertie en embedding (vecteur sémantique).
- Le système cherche dans la base vectorielle les 5 passages les plus proches : grille tarifaire, CGV, ancienne propale.
- Ces passages sont injectés dans le prompt envoyé au LLM.
- Le LLM répond en citant les sources, avec le bon prix.
Stack 2026 typique en PME : embeddings via voyage-3 ou Mistral Embed, stockage dans pgvector (Postgres) ou Qdrant, orchestration avec LlamaIndex ou Haystack.
Pourquoi le RAG est-il nécessaire en entreprise ?
Parce que vos documents internes ne sont pas dans l’entraînement du LLM. Sans RAG, le modèle hallucine vos prix, vos process internes, vos clauses CGV. Le RAG résout aussi un problème RGPD : vos données restent dans votre base, on n’envoie au LLM que les extraits utiles à la requête courante.
RAG ou fine-tuning : lequel choisir ?
Le RAG injecte du contexte au moment de la requête. Le fine-tuning ré-entraîne le modèle sur vos données. Règle 2026 :
- Choisir RAG si les données changent souvent, si on doit citer la source, si le volume est < 10 millions de pages.
- Choisir fine-tuning pour adapter un style ou un format, pas pour ajouter des connaissances.
Pour ajouter ou mettre à jour des connaissances, le RAG évite de ré-entraîner le modèle : on réindexe les documents, ce qui est en général plus simple et moins coûteux qu’un fine-tuning.
Les 3 patterns d’erreur RAG les plus fréquents
| Pattern d’erreur | Symptôme | Conséquence | Solution éprouvée |
|---|---|---|---|
| Chunking trop gros | Réponses imprécises, “noyade” du LLM | Précision dégradée | Chunking sémantique 400-800 tokens + chevauchement 15 % |
| Pas de reranker | Le bon document n’est pas dans les premières positions | Moins de réponses justes au premier passage | Cohere Rerank ou bge-reranker-v2 |
| Données non rafraîchies | Réponses obsolètes | Perte de confiance des utilisateurs | Pipeline de réindexation régulier |
| Queries vagues | Embeddings flous, mauvais matching | Top-k inutilisable | Query rewriting LLM (HyDE pattern) |
| Pas d’évaluation | Personne ne sait si ça marche | Projet abandonné faute de preuve de valeur | Suite de 50 questions “golden set” + recall@5 |
Ce qui fait varier le coût d’un RAG en PME
Aucun budget type n’est donné ici : il dépend de facteurs que chaque projet fixe différemment.
- Volume et qualité des documents : plus il y a de pages, de PDF scannés et de tableaux, plus l’ingestion et le nettoyage pèsent.
- Nombre de sources à connecter : chaque source (drive, Notion, GitHub, CRM) demande son connecteur et son rafraîchissement.
- Stockage vectoriel : pgvector s’auto-héberge sur un Postgres existant ; Pinecone est managé, avec un minimum de 50 $/mois en Standard (tarif public lu le 24/10/2026 sur pinecone.io/pricing).
- Appels LLM et embeddings : ils suivent le volume de questions et la taille des extraits injectés ; voir les tarifs publics du fournisseur retenu.
- Maintenance : réindexation, ajustements du chunking et monitoring sont un coût récurrent.
Le retour sur investissement dépend de la tâche remplacée et se mesure sur une baseline avant projet : voir comment mesurer le ROI d’un projet IA. La conformité (HDS en santé) alourdit le projet.
Quand un RAG ne suffit pas — et qu’il faut plus
Le RAG est l’outil par défaut, mais il a 3 limites strictes :
- Raisonnement multi-étapes sur plusieurs documents : un agent IA + RAG est plus adapté.
- Volumétrie > 10 M de pages : il faut typiquement combiner RAG + recherche hybride (BM25 + vector) + reranker.
- Latence très contrainte : le RAG ajoute une étape de recherche avant la génération, ce qui pèse sur le temps de réponse ; un modèle fine-tuné sans récupération peut mieux convenir.
Pour ces cas, voir notre comparatif détaillé sur RAG vs fine-tuning vs agents.
À retenir
- Le RAG résout les hallucinations sans fine-tuner le modèle — il injecte les bonnes sources au moment de la requête
- Premier chantier habituel d’un projet IA sur données internes, avant fine-tuning et agents
- Mise à jour par réindexation : pas de ré-entraînement du modèle pour changer une connaissance
- Stack typique 2026 : embedding (voyage-3 ou Mistral Embed) + vector DB (pgvector, Qdrant) + LLM + reranker
- Limite principale : qualité du chunking + fraîcheur des données — un mauvais découpage dégrade fortement la valeur
Pour aller plus loin
- RAG vs fine-tuning en entreprise — comparatif détaillé en 2026.
- Comparatif RAG, fine-tuning, prompt — quand utiliser quoi.
- Vector databases 2026 — Pinecone vs Qdrant vs pgvector.
- LangChain, LlamaIndex, Haystack — frameworks RAG.