RAG ou fine-tuning : que choisir pour vos documents en 2026

Vous voulez qu'un modèle de langage réponde à partir de vos documents : contrats, procédures, catalogue, historique de support. Deux techniques reviennent dans toutes les propositions, le RAG et le fine-tuning, souvent présentées comme interchangeables. Elles ne résolvent pas le même problème. Choisir la mauvaise coûte cher, parce que l'une se corrige en un après-midi et l'autre demande de tout reconstruire. Voici comment trancher sans être ingénieur.

Deux idées simples

Le RAG (génération augmentée par récupération) laisse le modèle tel quel. À chaque question, le système va chercher dans votre base les passages les plus pertinents et les place sous les yeux du modèle, comme on tendrait trois pages d'un classeur à quelqu'un qui doit répondre. Le modèle rédige alors en s'appuyant sur ces pages.

Le fine-tuning (ajustement) modifie le comportement du modèle lui-même en le ré-entraînant sur des exemples : « face à ce type de demande, voici la réponse attendue, dans ce format, avec ce ton ». On ne lui apprend pas un classeur ; on lui apprend une manière de faire.

La nuance qui commande tout : le RAG apporte des connaissances, le fine-tuning façonne un comportement. Un modèle ajusté sur vos documents ne les « connaît » pas de façon fiable et ne sait pas citer d'où vient une information. Un RAG, lui, peut montrer le passage utilisé.

Le tableau de décision

Critère	RAG	Fine-tuning
Objectif principal	Répondre à partir de documents précis	Imposer un style, un format ou une tâche répétitive
Contenu qui change souvent	Adapté : on met à jour les documents	Mal adapté : il faut ré-entraîner
Citer ses sources	Possible par construction	Non
Droits d'accès différents selon les personnes	Gérable au moment de la recherche	Très difficile : le savoir est dans le modèle
Données d'entrée nécessaires	Vos documents, bien organisés	Des centaines d'exemples de qualité, validés
Délai de mise en place	Court à moyen	Moyen à long
Risque principal	Mauvais passages retrouvés	Comportement figé, difficile à corriger

Cinq questions pour décider

1. La bonne réponse se trouve-t-elle dans un document ?

Si oui, vous avez un besoin de connaissance : partez sur du RAG. Si la bonne réponse dépend d'un savoir-faire implicite (« rédiger un compte rendu à notre manière »), le fine-tuning devient une option, mais il faut d'abord vérifier qu'un bon modèle avec des consignes précises et quelques exemples dans la demande ne suffit pas. Dans la majorité des projets de PME, c'est le cas.

2. Vos documents changent-ils ?

Une grille tarifaire qui bouge chaque trimestre, une procédure mise à jour après chaque incident : ces contenus vivent. Avec un RAG, remplacer le document remplace la réponse. Avec un modèle ajusté, il faudrait ré-entraîner, vérifier de nouveau, redéployer, et en attendant il répond avec l'ancien tarif sans le savoir.

3. Faut-il justifier la réponse ?

En droit, en conformité, en support technique, en santé, une réponse sans source est inutilisable : la personne doit pouvoir vérifier. Le RAG permet d'afficher les passages sur lesquels la réponse s'appuie. C'est souvent l'argument décisif.

4. Tout le monde a-t-il le droit de tout lire ?

Si les fiches de paie, les contrats confidentiels et les procédures publiques coexistent, la question des droits est centrale. Un RAG bien conçu filtre ce qu'il retrouve selon la personne qui interroge. Un modèle ajusté sur l'ensemble « sait » tout pour tout le monde, et rien ne garantit qu'il ne le restituera pas à la mauvaise personne. Voyez aussi nos vérifications RGPD avant de brancher un modèle sur vos données.

5. Disposez-vous d'exemples de qualité ?

Un fine-tuning sérieux exige un jeu d'exemples nombreux, cohérents et validés par un expert. Ce travail d'annotation est la vraie dépense, bien avant le calcul. Sans lui, vous figeriez des erreurs dans le modèle. Si vous n'avez que des documents, pas d'exemples, la réponse est RAG.

Le cas particulier des petits corpus

Si l'ensemble des documents utiles tient dans quelques dizaines de pages, une troisième voie existe : les placer directement dans la demande envoyée au modèle, sans moteur de recherche intermédiaire. Elle est plus simple, plus facile à vérifier et souvent suffisante pour un premier usage. Un prestataire qui vous propose d'emblée une architecture complexe pour un corpus de ce volume mérite une question : pourquoi pas la version simple ?

Les pièges du RAG, qu'on ne vous présentera pas toujours

• La qualité dépend des documents, pas du modèle. Trois versions contradictoires d'une procédure produiront des réponses contradictoires. Un nettoyage préalable vaut plus qu'un modèle plus puissant. Le détail est dans l'article sur la préparation des données.
• Le découpage des documents compte. Un tableau coupé en deux morceaux ou une clause séparée de son exception donne une réponse fausse présentée avec assurance.
• Retrouver n'est pas comprendre. Le système peut ramener un passage proche par les mots mais hors sujet. Testez-le avec des questions pièges, y compris celles dont la réponse n'existe pas dans vos documents.
• L'absence de réponse doit être un comportement voulu. « Je n'ai pas trouvé l'information, voici qui contacter » est une bonne sortie. Exigez-la dans votre cahier des charges.
• Les mises à jour doivent être organisées. Qui ajoute un document, qui retire l'obsolète, à quelle fréquence ? Sans propriétaire, la base vieillit.

Les étapes d'un projet RAG, et ce qui prend vraiment du temps

1. Inventaire et nettoyage des documents. Quels documents font foi, lesquels sont des brouillons, des doublons ou des versions périmées ? C'est l'étape la plus sous-estimée et souvent la plus longue, parce qu'elle demande des décisions de votre côté, pas du code.
2. Découpage et indexation. Les documents sont découpés en passages et rangés pour être retrouvés rapidement. Les choix faits ici (taille des passages, conservation des titres et des tableaux) déterminent la qualité des réponses.
3. Règles de recherche. Droits d'accès, filtres par date ou par type de document, priorité aux sources officielles : ce sont des règles métier à écrire noir sur blanc.
4. Consignes de réponse. Citer les passages, refuser de répondre sans source, adopter votre vocabulaire. Ce sont des choix de produit, pas de technique.
5. Évaluation. Rejouer vos cas d'essai, corriger, recommencer. Elle se poursuit après la mise en ligne.
6. Exploitation. Ajout et retrait de documents, suivi des questions restées sans réponse, révision régulière.

Retenez la proportion : dans un projet sain, le travail sur les documents et l'évaluation pèse au moins autant que la construction technique. Un devis qui concentre tout le budget sur « l'intégration du modèle » et rien sur ces deux postes vous prépare une déception.

Où va l'argent

Trois familles de coûts, qu'il faut demander séparément. La préparation (nettoyage, structuration, évaluation) est ponctuelle et dépend de l'état de vos documents. La construction (recherche, interface, intégration à vos outils) est ponctuelle aussi. L'usage revient chaque mois : chaque question consomme du calcul, et d'autant plus que l'on place de passages sous les yeux du modèle ; s'y ajoutent l'hébergement et la maintenance. Pour structurer cette discussion, voyez les postes de coût d'un projet d'IA.

Un test simple pour départager deux propositions

Préparez trente questions et donnez-les telles quelles à chaque prestataire, sans les leur détailler à l'avance :

• vingt questions dont la réponse figure dans vos documents, de difficulté variée (une information simple, une réponse qui demande de croiser deux passages) ;
• cinq questions dont la réponse n'existe pas : le bon comportement est de dire qu'on ne sait pas ;
• cinq questions pièges : une procédure remplacée par une nouvelle version, une question dont la réponse dépend du profil de la personne, une demande formulée avec un vocabulaire différent du vôtre.

Notez chaque réponse selon trois critères : exacte, sourcée, comportement correct en cas d'ignorance. Le meilleur système n'est pas celui qui répond à tout, c'est celui qui se trompe le moins et qui le dit. Ce petit jeu d'essai, que vous construisez en une demi-journée, départage mieux que n'importe quelle présentation commerciale.

Quand le fine-tuning a du sens

Il se justifie dans des situations assez précises : produire toujours le même format structuré à partir de textes variés, tenir une tonalité de marque sur de grands volumes, classer des demandes selon une taxonomie qui vous est propre, ou réduire le coût et la latence d'une tâche très répétitive avec un modèle plus petit. Ce sont des optimisations, qui viennent après une première version fonctionnelle, pas un point de départ.

Et les deux ensemble ?

Rien n'interdit de combiner : un modèle ajusté pour tenir le format et le ton, alimenté par un RAG pour les connaissances à jour. C'est une étape de maturité, à envisager quand la version simple a été mesurée et qu'un écart précis justifie la complexité. Commencer par la combinaison, c'est payer deux chantiers pour un besoin qu'on n'a pas encore vérifié.

Ce que vous devez demander à un prestataire

1. Pourquoi cette technique pour mon besoin, et quelle alternative plus simple avez-vous écartée ?
2. Comment les droits d'accès sont-ils respectés au moment de la recherche ?
3. Comment mettra-t-on à jour les documents, et qui le fera ?
4. Que répond le système quand il ne sait pas ?
5. Sur quels cas d'essai mesurerez-vous la qualité, et pourra-t-on les rejouer à chaque évolution ? C'est le sujet de notre guide sur le test d'un assistant avant la mise en production.

Pour la suite, un cahier des charges bien posé vous permettra de comparer des propositions sur la même base, et le classement des agences IA vous aide à repérer des équipes qui travaillent sur ces sujets près de chez vous.