Combien coûte l’hébergement d’un LLM en interne ?

Héberger un LLM coûte quatre choses : la mémoire que le modèle exige, la machine qui la fournit, l’électricité qu’elle consomme et les personnes qui la font tourner. Un serveur à un GPU loué revient à quelques centaines d’euros par mois ; possédé, il coûte moins en électricité qu’on ne le croit, et plus en temps humain qu’on ne le budgète.

Cet article s’adresse à ceux qui ont déjà décidé d’héberger. Pour savoir si c’est le bon choix, lisez plutôt comment arbitrer entre modèle ouvert et API ; pour comparer avec le coût d’une API, combien coûte un assistant IA sur les documents internes.

De combien de mémoire un modèle a-t-il besoin ?

C’est la première question, parce que c’est la mémoire qui choisit la machine, pas la vitesse.

La règle de calcul tient en une ligne : en pleine précision, un modèle occupe environ deux octets par paramètre. Un modèle de 8 milliards de paramètres demande donc 16 Go rien que pour ses poids ; un modèle de 24 milliards, 48 Go. La quantification, qui code chaque paramètre sur quatre bits au lieu de seize, divise ce volume par trois à quatre, au prix d’une légère perte de qualité, à mesurer. Il faut ajouter la mémoire du contexte : les passages de documents que le modèle lit à chaque question occupent de la place, d’autant plus que le contexte est long et que les utilisateurs sont nombreux en même temps.

Un exemple vérifié sur une fiche officielle, celle de Mistral Small 3.1, 24 milliards de paramètres : environ 55 Go de mémoire GPU en pleine précision, et le modèle tient dans 32 Go une fois quantifié. Sur mon serveur, un modèle de 8 milliards quantifié pèse 5 Go sur le disque et à peine plus en mémoire.

La conséquence pratique : un modèle de taille moyenne quantifié tient sur une carte de 24 Go avec de la place pour le contexte ; un modèle de 24 milliards en pleine précision demande une carte de 80 Go ou deux cartes. On choisit d’abord la taille de modèle qui répond juste sur son jeu d’évaluation, puis la carte qui la loge.

Quelle machine, et à quel prix ?

Trois paliers, selon ce qu’on veut servir.

Le premier est un poste de travail bien doté en mémoire, pour prototyper et mesurer. Il existe déjà dans la plupart des entreprises, il ne coûte rien de plus, et il est lent. C’est ce que j’ai fait avec un portable de 2019 : assez pour construire un moteur de recherche et l’évaluer, pas assez pour le servir à d’autres.

Le deuxième est un serveur à un GPU de 24 Go, qui sert une équipe sur un modèle de taille moyenne. C’est le palier de la plupart des assistants documentaires. En location en France, une instance avec un GPU L4 de 24 Go est affichée chez Scaleway à 0,79 € de l’heure, soit environ 575 € par mois hors taxe, relevé le 8 septembre 2026 sur la page des tarifs GPU. Le même palier s’achète ; je ne cite pas de prix d’achat, parce qu’ils varient trop et trop vite pour qu’un chiffre écrit ici reste vrai. La méthode, elle, est stable : prix du fournisseur amorti sur trois ans, plus l’hôte, le stockage, la garantie, et une provision de renouvellement. À ce palier, l’achat devient moins cher que la location à partir d’un ou deux ans d’usage continu.

Le troisième est le serveur à plusieurs GPU, ou à cartes de 80 Go, pour les grands modèles en pleine précision ou pour servir des centaines d’utilisateurs. Il change d’échelle sur tous les postes, et il se justifie rarement pour un premier cas d’usage.

Combien d’électricité ?

Moins qu’on ne le craint, et le calcul est simple à refaire.

Les puissances viennent des fiches du constructeur. Une carte L4 consomme au maximum 72 W selon NVIDIA ; une carte H100 en version SXM, jusqu’à 700 W selon sa fiche. Il faut ajouter l’hôte, processeur, mémoire, disques et alimentation, disons 150 W pour un serveur modeste et 300 W pour une machine de calcul. Le prix de l’électricité, pour un ordre de grandeur : le tarif réglementé résidentiel d’EDF, option base, est de 19,85 à 20,01 centimes TTC par kWh selon la puissance souscrite, grille applicable au 1er août 2026. Une entreprise a un autre contrat, mais l’ordre de grandeur tient.

Le calcul, en continu, vingt-quatre heures sur vingt-quatre :

Machine	Puissance retenue	Consommation mensuelle	Coût mensuel à 0,20 € le kWh
Serveur à un L4, pleine charge	72 W + 150 W d’hôte, soit 220 W	environ 160 kWh	environ 32 €
Serveur à un H100 SXM, pleine charge	700 W + 300 W d’hôte, soit 1 kW	environ 720 kWh	environ 144 €
Mon serveur maison, portable de 2019	quelques dizaines de watts en moyenne	25 à 60 kWh, estimés	5 à 12 €, estimés

La dernière ligne est mon estimation, pas une mesure : je n’ai pas de wattmètre sur la machine, et je l’écris. Les deux premières sont des maximums : un serveur d’inférence n’est pas à pleine charge en permanence, et sa consommation réelle est en dessous. Retenez l’ordre de grandeur : à un GPU, l’électricité pèse quelques dizaines d’euros par mois, loin derrière la machine et les personnes. Elle ne devient un poste sérieux qu’avec des cartes de calcul lourdes, ou en nombre.

Qu’est-ce qui coûte quand la machine dort ?

Le taux d’utilisation. Un serveur loué à l’heure tourne à vide la nuit et le week-end, soit les deux tiers du temps pour un usage de bureau, et il est facturé pareil. Un GPU possédé s’amortit qu’il serve ou non. Dans les deux cas, le coût par question dépend du nombre de questions, et c’est ce qui rend l’hébergement intéressant à volume élevé et régulier, coûteux à volume faible ou irrégulier.

Deux leviers existent. Louer à l’usage, en éteignant l’instance hors des heures de service, quand le fournisseur le permet et que le temps de démarrage est acceptable. Ou mutualiser : un serveur qui sert un assistant documentaire le jour peut réindexer les documents et rejouer le jeu d’évaluation la nuit. Une machine qui dort est une machine mal dimensionnée, ou une organisation qui n’a pas encore trouvé quoi lui donner à faire.

Combien de temps humain ?

C’est le poste que personne ne chiffre, et celui qui décide de la réussite.

Ce qu’il contient : installer et mettre à jour le système et les pilotes, télécharger et remplacer les modèles, sauvegarder l’index et la configuration, superviser la machine et le service, reprendre après un incident, rejouer l’évaluation à chaque changement. Rien d’exotique pour une équipe d’exploitation, mais rien de gratuit non plus.

Mon serveur maison donne l’échelle pour une machine, une personne, sans exigence de disponibilité. La mise en place a pris environ sept heures sur deux sessions en mai 2026, dont une bonne part pour un GPU que la pile logicielle officielle ne prenait pas en charge. Quelques jours plus tard, la première indexation complète de mon moteur de recherche a échoué parce que le processeur du portable chauffait et ralentissait ; il a fallu un contrôle de ventilation, une limitation du nombre de fils de calcul, et recommencer le lendemain. Depuis, la machine porte une sonde de santé, des métriques, des instantanés quotidiens et un tableau de bord, parce que je les ai construits. Chacun de ces éléments a coûté des heures, et chacun a évité d’en perdre davantage.

En entreprise, avec une exigence de disponibilité et plusieurs utilisateurs, comptez ce poste en heures par mois, pas en euros, et faites-le estimer par l’équipe qui l’exploitera. Si personne ne peut le nommer, la machine n’a pas de propriétaire, et c’est le signe d’un prototype qui n’ira pas en production.

À quoi ressemble le budget complet pour un serveur à un GPU ?

Ligne par ligne, pour le deuxième palier, un GPU de 24 Go et un modèle de taille moyenne quantifié.

Poste	Loué	Possédé
Machine	environ 575 € HT par mois pour un L4 chez Scaleway, relevé le 8 septembre 2026	prix d’achat amorti sur trois ans, à obtenir du fournisseur
Électricité	comprise	quelques dizaines d’euros par mois à pleine charge
Réseau, sauvegarde, onduleur	réseau compris ; sauvegarde à prévoir	à prévoir, montants modestes
Temps humain	mise à jour du service, modèles, évaluation	idem, plus le matériel, le système et les pilotes
Ce qui manque toujours	le taux d’utilisation réel	le renouvellement à trois ans

Le tableau ne donne pas un total, et c’est voulu : les deux lignes qui manquent, utilisation réelle et temps humain, sont celles qui font varier le total du simple au triple, et elles ne se connaissent qu’en mesurant.

Comment dimensionner sans se tromper ?

En mesurant avant d’acheter. Le prototype sur un matériel existant, lent mais suffisant, donne les trois nombres qui manquent : le volume de questions aux heures de pointe, le délai que les utilisateurs acceptent, et la taille de modèle minimale qui répond juste sur le jeu d’évaluation. Avec ces trois nombres, la mémoire nécessaire se calcule, la carte se choisit, et le budget se lit dans le tableau ci-dessus.

Sans eux, on achète trop grand par prudence ou trop petit par économie, et dans les deux cas on le découvre après. C’est l’un des livrables d’un cadrage : un dimensionnement chiffré à partir de mesures, pas d’une fiche produit. Si vous devez présenter un budget d’hébergement et qu’il vous manque ces nombres, décrivez votre cas d’usage : on commence par les obtenir.