L'une des frustrations les plus fréquentes que nous rencontrons lorsqu'une entreprise commence à utiliser des outils d'intelligence artificielle est la suivante : «l'IA ne sait rien de notre entreprise». Le modèle répond avec des connaissances génériques, invente des procédures qui n'existent pas ou ignore complètement les documents internes que l'équipe a mis des années à élaborer. La solution technique à ce problème a un nom : RAG, acronyme de Retrieval-Augmented Generation (génération augmentée par récupération). Cet article explique exactement ce que c'est, comment cela fonctionne, quand il convient de le déployer et en quoi cela diffère d'autres approches comme le fine-tuning.
Qu'est-ce que le RAG et pourquoi est-ce important pour votre entreprise ?
RAG est une architecture qui combine deux composants : un système de récupération d'informations (un moteur de recherche sémantique sur vos propres documents) et un grand modèle de langage (LLM). Lorsqu'un utilisateur pose une question, le système recherche d'abord dans la base de connaissances interne les passages les plus pertinents, puis les transmet au modèle comme contexte avant de générer la réponse. Le modèle ne «sait» pas de mémoire ce que contiennent ces documents ; il les lit au moment de la requête, tout comme le ferait un consultant ayant accès à votre dossier de procédures.
Le résultat pratique est que l'IA répond avec des informations réelles de votre entreprise : les prix de votre tarif en vigueur, la procédure qualité correcte, la clause exacte du contrat, la donnée à jour de l'ERP. Et elle le fait en citant la source, de sorte que l'utilisateur peut vérifier l'origine de chaque affirmation.
Chez Summum IA, nous déployons des systèmes RAG sur la documentation technique, les bases de connaissances du service client, les référentiels juridiques et tout corpus documentaire de l'entreprise, en intégrant le résultat dans les flux de travail existants.
Comment fonctionne le RAG, étape par étape
Le processus se divise en deux phases bien distinctes : la phase d'indexation (qui s'effectue une seule fois, ou de façon incrémentale lorsque de nouveaux documents arrivent) et la phase de requête (qui s'effectue chaque fois qu'un utilisateur pose une question).
Phase d'indexation : convertir les documents en vecteurs
Les documents de l'entreprise (PDF, fichiers Word, pages intranet, enregistrements ERP, e-mails historiques) sont divisés en fragments de texte de taille gérable, généralement entre 200 et 500 tokens. Chaque fragment est converti en un vecteur d'embeddings : une représentation mathématique du sens sémantique du texte. Ces vecteurs sont stockés dans une base de données vectorielle (Pinecone, Qdrant, Weaviate, pgvector sur PostgreSQL, entre autres).
L'élément clé est que ce processus capture le sens, pas seulement les mots. Si votre manuel indique «période de garantie» et que le client demande «durée de couverture», le système les associera correctement car ils sont sémantiquement équivalents.
Phase de requête : récupérer, enrichir et générer
- La question de l'utilisateur est vectorisée avec le même modèle d'embeddings.
- Les K fragments les plus similaires sont récupérés dans la base vectorielle par similarité cosinus ou d'autres métriques.
- Les fragments récupérés sont inclus dans le prompt envoyé au LLM comme contexte supplémentaire.
- Le modèle génère la réponse en se basant sur ce contexte, et non sur ses paramètres internes.
- La réponse est renvoyée avec les références aux documents sources.
Ce flux complet s'effectue généralement en moins de trois secondes dans des déploiements bien optimisés, ce qui le rend parfaitement viable pour les applications de service client, le support technique ou les assistants internes en temps réel.
RAG vs fine-tuning : que choisir pour une PME ?
La question la plus fréquente lorsqu'il s'agit de personnaliser un modèle d'IA est : «vaut-il mieux le réentraîner sur nos données (fine-tuning) ou mettre en place un système RAG ?». La réponse dépend du cas d'usage, mais pour la grande majorité des entreprises de taille intermédiaire, le RAG est le bon choix.
| Critère | RAG | Fine-tuning |
|---|---|---|
| Coût initial | Moyen (infrastructure vectorielle + intégration) | Élevé (GPU, données étiquetées, processus itératif) |
| Mise à jour des connaissances | Immédiate : il suffit de réindexer le nouveau document | Nécessite de réentraîner le modèle (semaines ou mois) |
| Transparence et traçabilité | Élevée : chaque réponse cite la source | Faible : les connaissances sont opaques dans les poids du modèle |
| Risque d'hallucinations | Faible si les documents sources sont de qualité | Variable ; peut mémoriser les erreurs du corpus |
| Volume de données nécessaire | Faible : tout corpus documentaire convient | Important : plusieurs milliers d'exemples étiquetés au minimum |
| Adapté aux données dynamiques | Oui : prix, stocks, réglementation changeante | Non : les connaissances sont figées au moment de l'entraînement |
| Conformité RGPD / AI Act | Plus simple : les données restent dans le corpus contrôlé | Plus complexe : nécessite un audit du jeu de données d'entraînement |
Le fine-tuning reste utile lorsqu'on souhaite modifier le style du modèle (ton de marque, format de sortie très spécifique) ou lorsqu'on travaille dans un domaine très technique et fermé pour lequel le modèle de base n'a pas suffisamment de représentation. Mais pour «que l'IA connaisse le contenu de notre catalogue», «qu'elle réponde conformément à notre règlement intérieur» ou «qu'elle gère les demandes de support sur la base des tickets résolus», le RAG est plus rapide, moins coûteux et plus auditable.
Cas d'usage courants dans les entreprises de taille intermédiaire
Assistant interne pour les procédures et la qualité
Les entreprises disposant de systèmes de management certifiés (ISO 9001, ISO 14001, ISO 45001) accumulent des centaines de procédures, d'instructions techniques et d'enregistrements. Un système RAG construit sur ce corpus permet à tout collaborateur de demander : «quelle est la procédure de réception des marchandises ?» et de recevoir la réponse avec le numéro de procédure et la version en vigueur. Le temps de recherche passe de plusieurs minutes à quelques secondes, et le risque de suivre une procédure obsolète disparaît.
Chatbot de service client avec connaissance produit
Un distributeur industriel avec des milliers de références peut indexer ses fiches techniques, manuels d'installation et listes de pièces détachées. L'assistant répond à des questions techniques précises («quelle visserie nécessite le modèle X-220 ?») avec des données exactes extraites du document, et non avec des réponses génériques. La satisfaction client s'améliore et l'équipe technique se libère pour les incidents complexes.
Support juridique et conformité interne
Les cabinets d'avocats, les assureurs et les entreprises dotées de départements de conformité peuvent indexer leur bibliothèque de contrats, les décisions de justice pertinentes, la réglementation interne et les politiques d'entreprise. Les collaborateurs interrogent en langage naturel et obtiennent des références exactes avec le numéro de clause ou d'article. Ce cas d'usage requiert une attention particulière à la gestion des accès : tous les collaborateurs ne doivent pas avoir accès à tous les documents, ce qui impose d'intégrer le système RAG aux permissions de l'organisation.
Copilote commercial pour l'équipe de vente
L'équipe commerciale peut consulter l'historique des interactions, les conditions des contrats antérieurs ou les argumentaires produit sans quitter le CRM. En connectant le système RAG au CRM et à l'ERP, un commercial peut demander «quelles remises avons-nous accordées à ce client au cours des 18 derniers mois ?» et recevoir une réponse structurée en quelques secondes.
Exigences techniques et considérations en matière de confidentialité
Avant de déployer un système RAG, plusieurs points ayant une incidence à la fois technique et juridique doivent être clarifiés :
Où les données sont-elles traitées ? Si les documents contiennent des informations personnelles ou confidentielles, il faut décider si le traitement s'effectue dans le cloud (API tierces) ou sur l'infrastructure propre de l'entreprise. Avec l'entrée en vigueur du Règlement européen sur l'IA (AI Act) — entré en vigueur le 1er août 2024, dont les premières obligations (systèmes d'IA interdits et formation à l'IA) s'appliquent depuis février 2025 et les plus substantielles (systèmes à haut risque) depuis août 2026 — les entreprises qui déploient des systèmes d'IA sur des données personnelles doivent documenter la base juridique du traitement conformément au RGPD et évaluer les risques du système d'IA au regard de l'AI Act. Un déploiement RAG bien conçu facilite cette conformité, car les données restent dans la base vectorielle de l'entreprise et le modèle n'accède qu'à des fragments contextuels, pas au document intégral.
Qualité du corpus documentaire. Le RAG amplifie à la fois la qualité et les erreurs de la documentation source. Si les procédures sont obsolètes ou comportent des incohérences, le système les reflétera. Avant d'indexer, il convient d'auditer et de nettoyer le corpus. Cette phase de préparation documentaire est généralement la plus chronophage, mais aussi la plus déterminante pour la qualité du résultat final.
Découpage et chevauchement. La stratégie de division des documents influe directement sur la qualité des récupérations. Des fragments trop courts perdent leur contexte ; des fragments trop longs saturent la fenêtre de contexte du LLM. Les stratégies les plus avancées incluent le découpage sémantique (division par paragraphes ou sections logiques plutôt que par nombre fixe de tokens) et le chevauchement entre fragments pour éviter de couper les idées en deux.
Évaluation continue. Un système RAG ne se déploie pas et ne s'oublie pas. Il nécessite des métriques d'évaluation : taux de récupération correcte, pertinence des fragments récupérés, fidélité de la réponse au contexte. Des frameworks comme RAGAS (publié en 2023 et largement adopté en 2024-2025) proposent des métriques automatisées pour évaluer les systèmes RAG en production.
Intégration dans l'écosystème technologique de l'entreprise
Un système RAG bien intégré n'est pas un outil isolé ; c'est une couche d'intelligence superposée aux sources de données existantes. Les connecteurs les plus courants comprennent :
- SharePoint et OneDrive : indexation automatique des documents d'entreprise avec contrôle des permissions hérité de Microsoft 365.
- Confluence et Notion : bases de connaissances internes des équipes techniques ou produit.
- ERP (Odoo, Sage, Business Central) : données structurées sur les produits, clients et opérations via des connecteurs API ou ETL.
- Messagerie et calendriers : avec les restrictions de confidentialité appropriées, l'historique des communications peut enrichir le contexte pour l'équipe commerciale.
- Bases de données relationnelles : via la traduction de langage naturel en SQL (text-to-SQL), une variante du RAG pour les données structurées.
C'est dans cette intégration que réside la véritable valeur ajoutée pour l'entreprise, et c'est aussi là que se concentre l'essentiel du travail de déploiement. La partie «connecter à un modèle d'IA» est relativement standardisée ; la partie «connecter aux systèmes réels de l'entreprise avec les permissions adéquates» requiert une connaissance de l'écosystème technologique spécifique à chaque organisation. Chez Summum IA, nous abordons ce travail avec un service de déploiement RAG qui comprend l'audit du corpus, la conception de l'architecture, le développement des connecteurs et la mise en production avec des métriques d'évaluation.
Questions fréquentes
Dois-je changer mon modèle d'IA pour utiliser le RAG ?
Non. Le RAG est une architecture qui fonctionne avec n'importe quel modèle de langage, qu'il soit accessible via API (GPT-4o, Claude 3.5, Gemini 1.5, Mistral) ou déployé localement (Llama 3, Mistral, Phi-3). Le choix du modèle dépend de critères de coût, de confidentialité et de qualité, et non de l'architecture RAG en elle-même. Si votre entreprise exige que les données ne quittent pas ses serveurs, il est possible de combiner le RAG avec un LLM déployé sur l'infrastructure propre de l'entreprise.
Combien de temps faut-il pour déployer un système RAG ?
Cela dépend principalement du volume et de la qualité du corpus documentaire ainsi que de la complexité des intégrations. Un système RAG construit sur un corpus bien structuré de 500 à 2 000 documents, avec une interface de requête unique et sans intégrations complexes, peut être opérationnel en quatre à huit semaines. Les projets impliquant plusieurs sources de données, un contrôle granulaire des permissions et une intégration dans des applications existantes nécessitent généralement trois à cinq mois. La phase la plus longue est habituellement la préparation et la validation du corpus, et non le développement technique.
Le système RAG apprend-il des conversations des utilisateurs ?
Dans l'architecture standard, non. Le modèle de langage ne modifie pas ses paramètres à chaque conversation ; il se contente de lire le contexte récupéré et de générer une réponse. Le corpus documentaire n'est mis à jour que lorsque de nouveaux documents ou des documents modifiés sont réindexés. C'est en réalité un avantage : le comportement du système est prévisible et auditable, et il n'y a aucun risque qu'il «apprenne» des réponses incorrectes introduites par des utilisateurs malveillants. Si l'on souhaite intégrer les retours des utilisateurs pour améliorer le système, cela se fait via un processus supervisé de curation des données, et non de façon automatique.
Comment l'AI Act affecte-t-il un système RAG dans mon entreprise ?
L'AI Act classe les systèmes d'IA par niveau de risque. Un système RAG utilisé pour des requêtes internes sur des procédures ou pour le support client dans des secteurs non réglementés relève généralement de la catégorie risque limité ou minimal, avec des obligations de transparence de base (informer l'utilisateur qu'il interagit avec une IA). Cependant, si le système est utilisé dans des processus de sélection du personnel, d'évaluation du crédit, de services d'infrastructure critique ou d'applications de sécurité, il peut entrer dans des catégories à risque élevé avec des obligations substantielles : enregistrement dans la base de données de l'UE, évaluation de la conformité, documentation technique et supervision humaine. Une évaluation au cas par cas est indispensable. Pour la conformité à l'AI Act sur le volet technique du système, Summum IA collabore avec le pôle de conseil juridique du groupe.