Neuf ans de production IT, puis l’IA. Je branche un LLM sur un SI qui existe déjà.

Combien de temps pour un premier prototype ?

Le cadrage prend quelques jours : faisabilité sur vos données réelles, jeu d’évaluation, place du système dans votre SI. Le prototype vient ensuite, branché sur vos vraies sources et confié aux utilisateurs métier. Sa durée dépend des sources à connecter et de leurs droits d’accès : elle est chiffrée à l’issue du cadrage, pas avant.

Est-ce que mes données sortent de mon système d’information ?

Pas si vous ne le voulez pas. La pile RAG que j’utilise (Haystack, Qdrant ou pgvector, BGE-M3, modèle servi en local) s’auto-héberge dans votre infrastructure ou chez un hébergeur européen. Si un modèle externe est retenu, le cadrage précise quelles données transitent, vers quel fournisseur, avec quelle rétention, et les personnes concernées en sont informées avant la mise en service.

RAG ou fine-tuning : lequel choisir pour mes documents ?

Le RAG, pour des documents qui changent : le système cherche dans vos sources au moment de la question, cite ses passages et suit les mises à jour. Le fine-tuning modifie le modèle lui-même ; il lui apprend un style ou un format, pas vos documents. On commence par un RAG évalué, et on n’envisage le fine-tuning que si les mesures le justifient.

L’article qui détaille les critères →

Sur quels formats de documents ça fonctionne ?

PDF, Word, tableurs, pages web, e-mails, wikis, tickets et bases de connaissances accessibles par API. Ce qui compte plus que le format, c’est la qualité de l’extraction : un PDF scanné ou un tableau complexe demandent un traitement particulier, testé au cadrage sur un échantillon de vos vrais fichiers.

Comment mesure-t-on qu’un assistant IA répond juste ?

Avec un jeu d’évaluation écrit avant de construire : des questions réelles, leur réponse attendue et le document qui la contient, validés par les utilisateurs métier. On mesure ensuite si le bon passage est retrouvé (Hit@K, MRR) et si la réponse est fidèle aux sources. Le score de similarité du modèle ne suffit pas : sur mon propre projet, il a baissé pendant que le classement s’améliorait.

Le protocole et ses limites, sur un projet personnel →

Vous intervenez sur site en Île-de-France ou uniquement à distance ?

Les deux. Sur site en Île-de-France, en régie, seul ou intégré à une équipe en place, en direct ou en sous-traitance d’une ESN. À distance partout en France. Le cadrage et les ateliers avec les utilisateurs se font de préférence sur place ; le développement et l’évaluation se prêtent bien à la distance.

Quel budget prévoir pour un premier cas d’usage ?

En deux temps. D’abord un cadrage court, chiffré à l’avance, qui livre la faisabilité sur vos données, le jeu d’évaluation et l’architecture cible dans votre SI : ce document reste utile même si vous ne poursuivez pas avec moi. Ensuite la réalisation, en régie ou au forfait sur la base de ce cadrage. Je ne chiffre pas un développement qui n’a pas été délimité.

Que se passe-t-il après la mise en production ?

Le système entre dans vos règles d’exploitation comme n’importe quelle application : supervision, journalisation, suivi des coûts d’inférence, procédure de reprise, documentation. L’équipe qui en aura la charge est formée pendant la mission, pas après. L’objectif est que vous n’ayez pas besoin de moi pour le faire tourner ; un suivi de la dérive des réponses peut être convenu à part.