RAG ou fine-tuning : la réponse est presque toujours RAG

  • rag
  • fine-tuning
  • llm

La question revient à chaque premier rendez-vous : « on nous a parlé de fine-tuning, est-ce qu’il faut entraîner un modèle sur nos documents ? » Dans la très grande majorité des cas d’usage documentaires en PME, la réponse est non. Voici pourquoi, et comment reconnaître les situations où c’est l’inverse.

Deux mécanismes qui ne résolvent pas le même problème

Le RAG (Retrieval-Augmented Generation) ne touche pas au modèle. Au moment où l’utilisateur pose sa question, le système va chercher les passages pertinents dans vos documents, puis les fournit au modèle en lui demandant de répondre à partir de ces extraits seulement. Le modèle apporte la capacité à lire et rédiger ; vos documents apportent la connaissance.

Le fine-tuning modifie le modèle lui-même, en le réentraînant sur des exemples. Il sert à installer un comportement : un format de sortie strict, un ton, une façon de classer, une terminologie métier très particulière. Il ne sert pas — contrairement à ce qu’on lit souvent — à « faire apprendre vos documents » au modèle. Les faits injectés par entraînement ressortent de façon imprévisible et sans source vérifiable.

Autrement dit : le RAG répond à « que sait-on ? », le fine-tuning à « comment doit-on répondre ? ».

Les critères de décision

Critère RAG Fine-tuning
Les documents changent souvent Adapté : il suffit de réindexer Inadapté : il faut réentraîner
Besoin de citer les sources Natif Impossible
Comportement ou format très spécifique Limité Adapté
Coût de mise en place Faible à moyen Élevé
Compétence interne requise Modérée Forte
Délai avant premier résultat Jours Semaines

Trois questions suffisent en général à trancher.

Vos documents évoluent-ils ? Si oui — et c’est presque toujours le cas — le RAG s’impose. Un fine-tuning est figé à la date de l’entraînement. Réentraîner à chaque mise à jour documentaire est intenable.

Devez-vous justifier les réponses ? Dans un contexte réglementé, technique ou contractuel, une réponse sans source est inutilisable. Seul le RAG permet d’afficher le passage exact dont la réponse est tirée.

Le problème est-il le savoir ou la forme ? Si le modèle répond juste mais mal — trop long, mauvais format, ton inadapté — commencez par les instructions et quelques exemples dans la requête. Le fine-tuning ne se justifie qu’une fois cette voie épuisée, et sur un volume d’exemples conséquent.

Ce qu’on oublie de chiffrer

Le coût visible du fine-tuning, c’est l’entraînement. Le coût réel, c’est la constitution du jeu de données : plusieurs centaines à plusieurs milliers d’exemples de qualité, produits et validés par vos experts métier. C’est ce poste qui fait exploser les budgets, pas les GPU.

Côté RAG, le coût est plutôt à l’exécution : chaque question déclenche une recherche puis un appel au modèle avec plusieurs milliers de jetons de contexte. Cela se maîtrise — sélection plus fine des passages, mise en cache, modèle plus petit pour les questions simples — mais cela se mesure dès le prototype, pas après la mise en production.

Le troisième choix : ni l’un ni l’autre

Une part significative des demandes que je reçois ne relève d’aucun des deux. Retrouver un document par sa référence, filtrer des dossiers par date et par statut, vérifier qu’un champ obligatoire est rempli : une bonne recherche plein texte et quelques règles font mieux, plus vite et pour beaucoup moins cher.

Le réflexe utile avant de trancher : formuler dix questions réelles que le futur système devra traiter. Si sept d’entre elles se résolvent par un filtre ou une recherche par mots-clés, vous n’avez pas un problème d’IA générative.

En pratique

Commencez par un RAG restreint à un corpus limité et à un groupe d’utilisateurs identifié. Constituez le jeu d’évaluation avant d’écrire le code : trente à cinquante questions avec leurs réponses attendues, validées par vos experts. Mesurez. Vous saurez alors, sur des chiffres, si le problème restant vient de la recherche — dans ce cas, travaillez le découpage et l’indexation — ou de la façon de répondre. Ce n’est que dans ce second cas, et rarement, que le fine-tuning entre dans la discussion.

Pour approfondir la mise en œuvre concrète, voir la page applications IA sur mesure.

Une question sur ce sujet ?

Si votre cas ressemble à celui décrit ici et que vous voulez un avis avant de vous lancer, écrivez-moi. Une réponse courte et honnête ne coûte rien.