IA locale : on ne la paie pas deux fois, mais trois

Il y a quelques jours, je suis tombé sur un excellent papier de tazmenworld, « Quel matériel et pour quel prix en 2026 pour faire de l’IA en local ». Si vous envisagez de monter une station d’inférence à la maison, lisez-le avant de lire le mien : c’est le guide d’achat le plus honnête que j’aie vu cette année. Il démonte l’argument marketing du « local, c’est gratuit » avec une idée simple et juste : vous payez deux fois, une fois la machine, une fois les watts. Tableaux de conso à l’appui, facture EDF sur douze mois en prime, et une conclusion à contre-courant que je signe des deux mains : à ces prix de mémoire, le calcul le plus malin n’est pas forcément d’acheter aujourd’hui.

Je ne vais pas refaire ce travail, il est déjà fait. Je vais ajouter la ligne qui manque au tableau. Parce que la machine locale ne se paie pas deux fois. Elle se paie trois fois. Et la troisième facture est la seule qui ne se libelle pas en euros.

Ce que le guide dit très bien, et où il s’arrête

Le raisonnement de l’article est un arbitrage de coût propre : d’un côté le cloud qui facture au token, de l’autre le local qui facture au watt, et entre les deux un compteur qui tourne dans les deux cas. Conclusion logique : si votre usage est modéré, tenez avec les API deux ans, le temps que la flambée mémoire retombe, plutôt que d’immobiliser plusieurs milliers d’euros dans une config achetée au pic.

Économiquement, c’est imparable. Mais l’arbitrage se fait sur deux colonnes, prix des tokens contre prix des watts, et il oublie que le choix « API pendant deux ans » n’est pas une parenthèse neutre. C’est un engagement. Pendant ces deux ans, vous ne louez pas du calcul, vous confiez vos données, vos prompts et bientôt vos agents à une poignée d’acteurs soumis à une juridiction qui n’est pas la vôtre. Ça aussi, c’est une facture. Elle n’arrive simplement pas par mail à la fin du mois.

La troisième facture : la juridiction

J’ai déjà tout dit ici dans IA souveraine, donc je résume. Le Cloud Act de 2018 permet aux autorités américaines d’exiger d’une entreprise américaine la transmission de données hébergées n’importe où sur la planète, y compris en Europe. OpenAI, Anthropic, Google, Microsoft y sont tous soumis, peu importe où sont physiquement leurs serveurs. Quand vous « tenez avec les API », c’est ce contrat-là que vous signez, en silence, par défaut.

Le local ne vous rend pas plus puissant. Il vous rend souverain. C’est une propriété qui ne s’achète pas en téraflops et qui n’apparaît dans aucun tableau VRAM. C’est précisément le point que je développais dans Les boucles d’IA : on vous vend la boucle agentique comme le grand virage, et il l’est, mais l’entonnoir finit toujours sur un produit propriétaire à qui vous remettez les clés et le droit d’agir en votre nom. Le coût des tokens, vous le voyez. Le coût de souveraineté, personne ne vous le facture, et c’est bien le problème.

Donc oui à l’arbitrage de l’article, mais avec la troisième colonne posée sur la table. « Attendre deux ans » a un sens comptable. Il a aussi un prix politique, et ce prix-là ne baisse pas quand la DRAM se détend.

Le watt n’est pas apatride

L’article compare deux factures comme si un watt valait un token. Sauf qu’un watt a une nationalité, et un token aussi.

Le mix électrique français tourne autour de 20 grammes de CO₂ par kWh sur 2025, d’après le bilan de RTE. La moyenne européenne est aux alentours de 180. Soit un facteur neuf. Et un token servi depuis un data center implanté là où les hyperscalers les concentrent, l’Irlande par exemple, sort d’un mix bien plus chargé en gaz que votre prise de courant clermontoise. Autrement dit : le watt que vous brûlez chez vous, sur du nucléaire et de l’hydraulique, est l’un des plus propres du continent. Le token que vous déportez ne l’est pas.

Ça renverse une partie de l’argument « rien n’est gratuit ». C’est vrai, rien n’est gratuit, la facture EDF de l’auteur le prouve noir sur blanc. Mais à consommation de calcul égale, faire tourner son GPU en France n’est pas seulement un transfert de la facture API vers la facture EDF. C’est aussi, sur le plan carbone, le moins mauvais des deux endroits où dépenser cette énergie. J’avais creusé cette mécanique côté logiciel dans Vibe coding : on tolère des couches d’abstraction qui brûlent vingt fois trop de watts pendant que les data centers doublent leur consommation. Le local sobre, sur un réseau décarboné, n’est pas le problème écologique de l’IA. Il en est presque l’exception.

La pénurie mémoire n’est pas une météo, c’est une éviction

C’est là que je veux vraiment ajouter ma pierre, parce que l’article décrit parfaitement le mécanisme de la flambée mémoire mais s’arrête au constat de prix. Or ce qu’il décrit n’est pas un orage qu’on attend de voir passer. C’est une éviction.

Rappel des faits, et ils sont sévères. Trois fabricants contrôlent plus de 95 % de la DRAM mondiale. Ils ont réorienté leurs capacités vers la HBM, cette mémoire qui équipe les accélérateurs IA des data centers, parce que la marge y est bien plus grasse. La HBM devrait absorber environ un quart de la production de wafers DRAM en 2026, et elle est déjà vendue en totalité pour l’année. Produire un bit de HBM consomme à peu près trois fois la capacité d’un bit de DRAM classique. Micron a carrément fermé sa marque grand public Crucial pour réserver ses lignes au serveur. Les hyperscalers ont verrouillé l’offre future avec des contrats pluriannuels, sur fond de 650 milliards de dollars de capex data center attendus en 2026. Et le patron d’Intel résume la suite d’une phrase : pas de détente avant 2028.

Soyons clairs sur le moteur, parce que c’est là que beaucoup se trompent. Ce n’est pas un complot pour vous priver de calcul. C’est pire : c’est parfaitement rationnel. Des entreprises cotées font face à une demande explosive et à des marges bien plus élevées sur le serveur que sur le grand public, alors elles allouent leurs wafers là où est l’argent. N’importe quel dirigeant ferait pareil. Et ce diagnostic, loin d’affaiblir l’inquiétude, la rend plus solide : un complot, ça se déjoue ; une structure d’incitations, non. Tant que le serveur paiera mieux, la mémoire grand public restera la variable d’ajustement. Vous n’êtes pas la cible. Vous êtes le dommage collatéral, et c’est une moins bonne nouvelle, parce que personne dans cette chaîne n’a intérêt à corriger le tir pour vous.

Du coup, le conseil « attendez deux ans et passez par les API » prend un goût particulier. Vous attendez quoi, au juste ? Que l’oligopole décide spontanément de gagner moins d’argent ? Pendant ces deux ans, vous financez au token l’infrastructure même dont la priorisation vous évince du marché de la mémoire. Je ne dis pas que l’arbitrage est faux. Je dis qu’il faut le voir pour ce qu’il est : un pari sur une détente que rien, dans la structure du marché, ne garantit avant 2027 ou 2028.

Le logiciel rattrape ce que le silicium renchérit

Heureusement, il y a une bonne nouvelle, et elle aussi manque au guide. Pendant que la mémoire renchérit, le besoin en mémoire, lui, baisse. La VRAM nécessaire pour faire tourner un modèle donné est une cible mouvante, et elle descend.

C’est tout l’enjeu de la quantification et de la compression du cache. J’en parlais avec TurboQuant : on descend à trois bits par valeur sur le KV-cache sans réentraînement, avec un rappel quasi parfait sur de longs contextes. Multipliez par les progrès continus côté GGUF et llama.cpp, et le modèle qui réclamait 24 Go hier en réclame moins demain. Une RTX 3090 d’occasion vieillit donc nettement mieux que ne le suggère la courbe des prix mémoire, parce que la charge qu’on lui demande de tenir s’allège à chaque trimestre.

Et c’est aussi là que se loge la vraie souveraineté technique : pas dans le silicium, mais dans le runtime open. llama.cpp, vLLM, Ollama ne dépendent d’aucun fournisseur. Le matériel se renchérit, soit, mais la couche qui le pilote, elle, ne peut pas vous être retirée par une mise à jour de CGU. C’est exactement l’inverse du piège Blackwell que l’article documente bien, où une carte vendue pour l’IA reste un an et demi mal supportée par la stack stable. Le bon réflexe souverain, ce n’est pas la carte la plus tape-à-l’œil, c’est celle dont l’écosystème logiciel ne dépend de personne.

Les limites qu’il faut dire

Je défends le local, mais pas en militant aveugle, alors disons les choses qui fâchent.

D’abord, le local a ses propres factures cachées, au-delà des watts que l’article chiffre déjà. Une tour qui calcule, ça fait du bruit, ça chauffe une pièce, ça réclame de la maintenance, et ça immobilise un capital qui dort quand vous ne l’utilisez pas. Et la quantification a beau faire des miracles, les très gros modèles restent gourmands : il existe un plancher de VRAM qu’aucune astuce logicielle ne franchira. Pour un usage léger ou intermittent, faites le calcul froidement : l’API reste souvent le choix le plus rationnel, économiquement comme écologiquement. Posséder une machine qu’on allume trois heures par semaine, ce n’est pas de la souveraineté, c’est du gâchis.

Ensuite, et c’est la limite la plus inconfortable, l’exécution locale ne vous rend pas maître des modèles. Les meilleurs poids ouverts, Llama, Qwen, DeepSeek, sortent très majoritairement de laboratoires américains ou chinois. Vous maîtrisez votre matériel, votre runtime et vos données, c’est déjà beaucoup, mais vous restez tributaire de leur décision de publier ces poids, et de continuer à le faire. La souveraineté locale s’arrête à la frontière des weights. On peut repousser cette frontière, par le fine-tuning, la distillation, le soutien aux modèles européens quand ils tiennent la route, mais on ne l’efface pas. Autant le savoir avant de pavoiser.

Cela dit, ne renversons pas l’argument trop loin, car cette dépendance-là n’a rien à voir avec celle de l’API. Une fois les poids sur votre disque, le cordon est coupé. Personne ne peut appuyer sur un bouton pour vous déconnecter, changer le comportement du modèle pendant la nuit, durcir son alignement ou censurer vos sorties après coup. Le modèle est peut-être étranger par sa naissance, mais son exécution est chez vous, figée, immunisée contre la mise à jour silencieuse et la décision commerciale. Vous dépendez d’un laboratoire pour le prochain modèle. Vous ne dépendez de personne pour celui qui tourne déjà. C’est toute la différence entre louer et posséder, et c’est précisément celle que le local met de votre côté.

La vraie grille n’est pas « quel GPU »

L’article finit sur une grille « quel matériel pour quel besoin ». Très utile. Mais en amont, il manque la grille qui décide tout le reste : quel usage justifie de rapatrier, et lequel peut rester dehors sans état d’âme.

Posez-vous une seule question, celle de la dépendance, pas celle de la performance. Ce qui touche des données client soumises au Cloud Act, ce qui fait agir un agent en votre nom, ce qui indexe du sensible dans un RAG : ça va en local, quel que soit le prix de la mémoire, parce que le coût d’une fuite de souveraineté n’a pas de commune mesure avec celui d’une carte d’occasion. Le reste, le brouillon jetable, la reformulation anodine, le test sans enjeu : laissez-le sur API, ça ne mérite pas que vous immobilisiez 3 000 euros. La décision n’a jamais été « local ou cloud ». Elle est « quoi en local ». Et cette grille-là ne se lit pas dans une colonne de tok/s.

Mon avis

Le guide de tazmenworld a raison sur toute la ligne de ce qu’il prétend couvrir. Vous payez la machine, vous payez les watts, et parfois la décision la plus lucide est d’attendre. Allez le lire, c’est de la vraie information, chiffrée et vécue, ce qui est rare.

Mais l’arbitrage qu’il propose est un arbitrage de comptable, et la question n’a jamais été comptable. Elle est politique. La troisième facture, celle de la juridiction, ne se règle pas en euros et ne baissera pas quand la DRAM se détendra. Le watt français est l’un des plus propres du continent, ce qui retourne l’argument écologique en faveur du local sobre. Et surtout, la flambée mémoire n’est pas un orage à laisser passer : c’est la matière première de votre autonomie que les data centers sont en train de préempter pour deux ans, pendant qu’on vous conseille gentiment de patienter en payant au token.

Alors si vous le pouvez, achetez d’occasion maintenant, une 3090 ou une 4090 déjà en circulation, dont la mémoire a été fabriquée et payée au prix d’avant la flambée. Pas par nostalgie du bricolage. Parce que dans un monde où la mémoire s’en va d’abord là où la marge est la plus grasse, c’est-à-dire loin de vous, posséder la sienne est déjà un acte de résistance.