RAG ou fine-tuning : la réponse est presque toujours RAG
La question revient à chaque premier rendez-vous : « on nous a parlé de fine-tuning, est-ce qu’il faut entraîner un modèle sur nos documents ? » Dans la très grande majorité des cas d’usage documentaires en PME, la réponse est non. Voici pourquoi, et comment reconnaître les situations où c’est l’inverse.
Deux mécanismes qui ne résolvent pas le même problème
Le RAG (Retrieval-Augmented Generation) ne touche pas au modèle. Au moment où l’utilisateur pose sa question, le système va chercher les passages pertinents dans vos documents, puis les fournit au modèle en lui demandant de répondre à partir de ces extraits seulement. Le modèle apporte la capacité à lire et rédiger ; vos documents apportent la connaissance.
Le fine-tuning modifie le modèle lui-même, en le réentraînant sur des exemples. Il sert à installer un comportement : un format de sortie strict, un ton, une façon de classer, une terminologie métier très particulière. Il ne sert pas — contrairement à ce qu’on lit souvent — à « faire apprendre vos documents » au modèle. Les faits injectés par entraînement ressortent de façon imprévisible et sans source vérifiable.
Autrement dit : le RAG répond à « que sait-on ? », le fine-tuning à « comment doit-on répondre ? ».
Les critères de décision
| Critère | RAG | Fine-tuning |
|---|---|---|
| Les documents changent souvent | Adapté : il suffit de réindexer | Inadapté : il faut réentraîner |
| Besoin de citer les sources | Natif | Impossible |
| Comportement ou format très spécifique | Limité | Adapté |
| Coût de mise en place | Faible à moyen | Élevé |
| Compétence interne requise | Modérée | Forte |
| Délai avant premier résultat | Jours | Semaines |
Trois questions suffisent en général à trancher.
Vos documents évoluent-ils ? Si oui — et c’est presque toujours le cas — le RAG s’impose. Un fine-tuning est figé à la date de l’entraînement. Réentraîner à chaque mise à jour documentaire est intenable.
Devez-vous justifier les réponses ? Dans un contexte réglementé, technique ou contractuel, une réponse sans source est inutilisable. Seul le RAG permet d’afficher le passage exact dont la réponse est tirée.
Le problème est-il le savoir ou la forme ? Si le modèle répond juste mais mal — trop long, mauvais format, ton inadapté — commencez par les instructions et quelques exemples dans la requête. Le fine-tuning ne se justifie qu’une fois cette voie épuisée, et sur un volume d’exemples conséquent.
Ce qu’on oublie de chiffrer
Le coût visible du fine-tuning, c’est l’entraînement. Le coût réel, c’est la constitution du jeu de données : plusieurs centaines à plusieurs milliers d’exemples de qualité, produits et validés par vos experts métier. C’est ce poste qui fait exploser les budgets, pas les GPU.
Côté RAG, le coût est plutôt à l’exécution : chaque question déclenche une recherche puis un appel au modèle avec plusieurs milliers de jetons de contexte. Cela se maîtrise — sélection plus fine des passages, mise en cache, modèle plus petit pour les questions simples — mais cela se mesure dès le prototype, pas après la mise en production.
Le troisième choix : ni l’un ni l’autre
Une part significative des demandes que je reçois ne relève d’aucun des deux. Retrouver un document par sa référence, filtrer des dossiers par date et par statut, vérifier qu’un champ obligatoire est rempli : une bonne recherche plein texte et quelques règles font mieux, plus vite et pour beaucoup moins cher.
Le réflexe utile avant de trancher : formuler dix questions réelles que le futur système devra traiter. Si sept d’entre elles se résolvent par un filtre ou une recherche par mots-clés, vous n’avez pas un problème d’IA générative.
En pratique
Commencez par un RAG restreint à un corpus limité et à un groupe d’utilisateurs identifié. Constituez le jeu d’évaluation avant d’écrire le code : trente à cinquante questions avec leurs réponses attendues, validées par vos experts. Mesurez. Vous saurez alors, sur des chiffres, si le problème restant vient de la recherche — dans ce cas, travaillez le découpage et l’indexation — ou de la façon de répondre. Ce n’est que dans ce second cas, et rarement, que le fine-tuning entre dans la discussion.
Pour approfondir la mise en œuvre concrète, voir la page applications IA sur mesure.