Combien coûte un assistant IA sur les documents internes d’une entreprise ?

  • rag
  • cout
  • cadrage

Un assistant documentaire coûte trois choses : quelques jours de cadrage avec un jeu d’évaluation, la construction du système sur vos sources, puis l’exploitation, hébergement et inférence compris. Le troisième poste dépend du volume de questions et du choix entre modèle auto-hébergé et API. Aucun chiffre sérieux n’existe avant d’avoir compté documents, utilisateurs et contraintes sur les données.

Pourquoi personne ne peut vous donner un prix au téléphone ?

Parce que trois variables font tout bouger, et qu’aucune n’est connue avant d’avoir regardé.

La première est le corpus : combien de documents, dans quels formats, à quel rythme ils changent. Mille fiches techniques en PDF propre et dix mille courriels avec pièces jointes scannées ne coûtent pas la même chose à extraire, et l’extraction est le poste que tout le monde sous-estime.

La deuxième est l’usage : combien de personnes, combien de questions par jour, avec quelle exigence de délai. C’est elle qui décide de la facture d’inférence.

La troisième est la contrainte sur les données. Si vos documents peuvent transiter par l’API d’un fournisseur, le coût d’exploitation se compte en dizaines d’euros. S’ils ne doivent pas sortir du système d’information, il faut héberger un modèle, et le coût change d’échelle.

Un prix donné sans ces trois réponses est une estimation de ce que le prestataire a envie de vendre, pas de ce que vous allez payer.

Que coûte le cadrage, et pourquoi c’est le poste à ne pas sauter ?

Le cadrage est court : quelques jours pour vérifier la faisabilité sur un échantillon de vos vrais documents, situer le système dans votre SI (sources, droits d’accès, hébergement) et écrire le jeu d’évaluation. Ce dernier point est le seul qui rende les chiffres de la suite discutables.

Un jeu d’évaluation, c’est une liste de questions réelles, la réponse attendue à chacune, et le document qui la contient. Il se construit avec les personnes qui poseront les questions, avant d’écrire une ligne de code. Sur Mnemo, mon moteur de recherche sur mes propres notes, le cadre d’évaluation m’a pris une heure : vingt requêtes en sept catégories, un script qui mesure si le bon passage arrive en tête. Cette heure a fait basculer une décision. En changeant seulement de modèle d’embeddings, la première réponse correcte est passée de 30 % à 90 % des requêtes. Sans le jeu d’évaluation, j’aurais choisi au jugé, et probablement mal.

Petit échantillon, corpus personnel : le chiffre ne se transpose pas chez vous. La méthode, si. Et son coût est dérisoire par rapport à ce qu’elle évite : un système qu’on ne sait pas évaluer est un système qu’on ne sait ni améliorer ni défendre devant une direction.

Que coûte la construction ?

La construction se décompose en étapes dont le poids varie avec le corpus : extraction du texte depuis les formats sources, découpage en passages, calcul des embeddings et indexation, logique de recherche, rédaction de la réponse avec citation des sources, interface, connecteurs vers vos applications, authentification et droits d’accès.

Pour donner un ordre de grandeur honnête, voici le mien. Le cœur RAG de Mnemo, du cadrage à l’indexation automatique des notes modifiées, m’a demandé environ quinze heures de travail réparties sur deux semaines de mai 2026, pour un corpus de 219 notes découpées en 798 passages. C’est un projet personnel, sans connecteur d’entreprise, sans gestion de droits, sans interface pour d’autres utilisateurs que moi. Un projet d’entreprise multiplie ce temps, surtout sur les connecteurs et les droits, qui n’ont rien d’intelligent et prennent une part importante du chantier.

Une erreur que j’ai faite, et qui coûte du temps : j’ai lancé la première indexation complète sur un portable reconverti en serveur, un MacBook Pro de 2019 sous Linux. Le processeur a chauffé, la machine a ralenti, l’indexation a échoué en fin de soirée. Il a fallu installer un contrôle de ventilation, limiter le nombre de fils de calcul et recommencer le lendemain. Une journée perdue sur un problème qui n’a rien à voir avec l’IA. Sur un serveur dimensionné, il n’existe pas. Dimensionner avant d’indexer fait partie de la construction, pas de l’exploitation.

Que coûte l’exploitation : API ou modèle auto-hébergé ?

C’est le poste récurrent, donc celui qui compte sur trois ans. Trois options, qui ne se comparent pas seulement en euros.

API d’un fournisseur Modèle ouvert sur serveur loué Modèle ouvert sur matériel possédé
Coût fixe mensuel Aucun Location du serveur GPU Électricité, amortissement
Coût variable Par million de jetons Aucun tant que le serveur suffit Aucun
Les documents sortent du SI Oui, vers le fournisseur Non, si le serveur est dans votre périmètre Non
Dépendance Forte : prix et modèles changent Moyenne : le modèle vous appartient Faible
Compétences d’exploitation Faibles Supervision d’un serveur et d’un modèle Idem, plus le matériel
Passage à l’échelle Immédiat Par ajout de serveurs Par achat de matériel

Les prix des API ont baissé au point que, pour un usage modéré, l’API est presque toujours l’option la moins chère en trésorerie. On choisit l’auto-hébergement pour la maîtrise des données, la prévisibilité du coût ou l’indépendance, pas pour économiser. Le scénario suivant le montre.

Un scénario chiffré : 50 utilisateurs, 20 questions par jour

Hypothèses, toutes discutables et toutes explicites : 50 utilisateurs, 20 questions par jour ouvré chacun, 21 jours ouvrés, soit 21 000 questions par mois. Chaque question envoie au modèle environ 3 000 jetons (la question, les consignes, quatre passages retrouvés) et en reçoit 300. Cela fait 63 millions de jetons en entrée et 6,3 millions en sortie par mois.

Prix publics relevés le 8 septembre 2026 sur les pages tarifaires des fournisseurs, en dollars par million de jetons, entrée puis sortie :

Modèle Entrée Sortie Coût mensuel du scénario
Mistral Small 4 0,15 $ 0,60 $ environ 13 $
GPT-5.4 mini 0,75 $ 4,50 $ environ 76 $
Mistral Medium 3.5 1,50 $ 7,50 $ environ 142 $
Claude Sonnet 5 2 $ 10 $ environ 189 $
GPT-5.4 2,50 $ 15 $ environ 252 $

L’indexation initiale est négligeable à côté : dix mille documents de 2 000 jetons font 20 millions de jetons d’embeddings, soit 2 $ chez Mistral au tarif d’Embed. Les mécanismes de cache des fournisseurs, qui réduisent jusqu’à 90 % le prix des jetons d’entrée répétés, peuvent encore diviser ces montants.

Même scénario en auto-hébergé sur un serveur loué en France : chez Scaleway, une instance avec un GPU L4 de 24 Go est affichée à 0,79 € de l’heure, soit environ 575 € par mois hors taxe, relevé le même jour sur la page des tarifs GPU. Un tel serveur absorbe sans peine mille questions par jour ouvré. Il coûte donc de deux à plus de quarante fois l’API pour ce volume, selon le modèle choisi. Il devient rationnel quand les documents ne peuvent pas sortir, ou quand le volume grimpe assez pour que le coût variable de l’API le rattrape.

Troisième option, celle de Mnemo : un matériel déjà possédé. Mon MacBook Pro de 2019, un i9 avec 32 Go de mémoire, sert les embeddings et la recherche pour zéro euro d’API, une latence de 140 millisecondes par requête et, selon mon estimation, cinq à douze euros d’électricité par mois. C’est le bon choix pour une personne. Pour cinquante, il faudrait un matériel dimensionné, un onduleur, une sauvegarde et quelqu’un pour le surveiller : autrement dit, un serveur, avec ce que ça coûte.

Quels coûts n’apparaissent dans aucun devis ?

Quatre postes reviennent, et aucun n’est dans la ligne « inférence ».

La réindexation. Vos documents changent ; l’index doit suivre. Sur Mnemo, un service surveille les fichiers et réindexe une note modifiée en cinq secondes. En entreprise, il faut un connecteur par source, et chacun se casse un jour.

La dérive des réponses. Un modèle appelé par API change quand le fournisseur le remplace. Sans jeu d’évaluation rejoué régulièrement, personne ne s’en aperçoit avant les utilisateurs.

Le temps des équipes métier. Valider trente questions et leurs réponses attendues prend quelques heures à des personnes qui ont autre chose à faire. C’est le coût le plus utile du projet, et le moins budgété.

La conformité. Documents contenant des données personnelles, base légale, information des personnes, registre des traitements : ce n’est pas une annexe, c’est du temps de conception, surtout si les documents partent chez un fournisseur hors de l’Union européenne.

Comment obtenir un chiffre fiable pour votre cas ?

En deux temps, et dans cet ordre. D’abord un cadrage court, chiffré à l’avance, qui livre la faisabilité sur vos données, le jeu d’évaluation et l’architecture cible dans votre SI, avec le coût d’exploitation calculé sur vos volumes réels plutôt que sur mon scénario. Ce document reste utile même si vous ne poursuivez pas avec moi. Ensuite, la réalisation, en régie ou au forfait sur la base de ce cadrage.

Je ne chiffre pas un développement qui n’a pas été délimité : ce serait promettre un dépassement à l’un de nous deux. Si vous avez déjà compté vos documents, vos utilisateurs et vos contraintes, décrivez votre cas d’usage : la réponse commence par vous dire si l’assistant en vaut la peine.

Questions fréquentes

Faut-il un GPU pour un assistant documentaire ?

Pas pour commencer. La recherche dans les documents repose sur un modèle d’embeddings de quelques centaines de millions de paramètres, qui tourne sur un processeur ordinaire : c’est ce que fait Mnemo. Le GPU devient utile quand le modèle qui rédige la réponse est hébergé chez vous et doit servir plusieurs utilisateurs en même temps. Tant que ce modèle est appelé par API, aucun GPU n’est nécessaire.

Combien de jetons consomme une question avec ses sources ?

Nettement plus que la question elle-même. Le modèle reçoit la question, les consignes et trois à cinq passages retrouvés dans vos documents : comptez 2 000 à 4 000 jetons en entrée pour 200 à 400 en sortie. Le français consomme environ un tiers de jetons de plus que l’anglais à sens égal. C’est l’entrée qui pèse dans la facture, pas la réponse.

Le fine-tuning coûte-t-il moins cher que le RAG ?

Non, et il ne répond pas au même besoin. Le fine-tuning demande de préparer un jeu d’entraînement, des heures de calcul GPU et un réentraînement à chaque évolution des documents, sans jamais permettre de citer une source. Pour interroger des documents qui changent, le RAG reste moins cher à construire et à maintenir. Le fine-tuning se justifie pour apprendre un style ou un format, pas pour transmettre un contenu.

Peut-on commencer sur une API puis rapatrier le modèle ?

Oui, à condition de l’avoir prévu. L’index de vos documents et la logique de recherche ne dépendent pas du modèle qui rédige. Si le prototype est construit avec un modèle à poids ouverts disponible à la fois par API et en auto-hébergement, le passage de l’un à l’autre est une affaire de configuration et de mesure, pas de réécriture. Le jeu d’évaluation sert alors à vérifier que la qualité ne baisse pas.

Une question sur ce sujet ?

Si votre cas ressemble à celui décrit ici et que vous voulez un avis avant de vous lancer, écrivez-moi. Une réponse courte et honnête ne coûte rien.