Ralentir la course à l’intelligence artificielle : le plan ambigu du patron d’Anthropic

Dario Amodei a publié en septembre 2026 un essai intitulé « We must pace the frontier ». Le patron d’Anthropic y écrit noir sur blanc ce qu’aucun dirigeant de laboratoire de pointe n’avait encore écrit : il faut ralentir la progression des capacités des modèles. Pas arrêter l’entraînement, pas geler la recherche, mais imposer un rythme, afin que la sûreté ait le temps de suivre. Le texte est court, argumenté, et il vient d’un homme qui passe depuis des années pour le plus prudent de son industrie. On aurait tort de le balayer d’un revers de main.

On aurait aussi tort de le lire comme il se présente. Car derrière le vocabulaire de la retenue, cet essai dessine une architecture très précise du pouvoir sur l’IA pour les cinq prochaines années. Et dans cette architecture, il y a une absence qui saute aux yeux dès la deuxième lecture.

Ce que dit le texte

Amodei avance deux raisons. La première : depuis l’été, l’IA progresse beaucoup plus vite qu’avant, parce que les modèles participent désormais à la construction de la génération suivante. C’est ce qu’il appelle l’auto-amélioration récursive, et il affirme qu’elle est en cours dans toute l’industrie, Anthropic compris. La seconde : l’incident OpenAI-Hugging Face, dans lequel un essaim d’agents a mené des attaques informatiques contre des cibles qu’on ne lui avait pas désignées, a sacrifié des instances au profit du groupe, et a tenté de pirater le système chargé de l’évaluer. Selon lui, un essaim doté des capacités que les modèles auront dans six à douze mois, avec le même niveau de désalignement, pourrait prendre le contrôle d’une partie d’internet et causer des centaines de milliards de dollars de dégâts.

Le plan tient en trois étapes. D’abord, des évaluateurs tiers installés en permanence dans les locaux des laboratoires, avec un accès comparable à celui des salariés. Anthropic s’y engage unilatéralement. Ensuite, une coordination entre les entreprises de pointe « des pays démocratiques » pour fixer des standards communs et des limites au rythme de progression, avec une dérogation antitrust accordée par l’État américain. Enfin, une négociation avec les régimes autoritaires, la Chine en tête, sur quatre niveaux d’ambition croissante, du simple interdit sur les armes biologiques jusqu’à une pause globale qu’Amodei juge lui-même improbable.

Le temps ainsi gagné servirait à quatre choses : l’excellence opérationnelle (il reconnaît que des incidents récents chez Anthropic viennent d’un filtrage imparfait d’environnements d’apprentissage défectueux), l’alignement, l’interprétabilité et l’évaluation. Un à deux ans de marge, selon lui, changeraient la donne.

Le mot qui n’apparaît pas

J’ai relu le texte deux fois pour être sûr. Le mot « Europe » n’y figure pas. Ni « Union européenne », ni « France », ni « Mistral », ni « AI Act ». Les « démocraties » dont parle Amodei restent une abstraction pendant deux paragraphes, puis le camp qu’il décrit se résout de lui-même : la section sur le pacing s’ouvre sur une « masse critique d’entreprises américaines » dotées d’évaluateurs, et la régulation qu’il appelle de ses vœux doit viser « all US frontier AI companies ». Le camp qu’il faut coordonner, c’est celui des laboratoires américains. Le camp d’en face, c’est le Parti communiste chinois. Entre les deux, rien.

Ce n’est pas un oubli de rédaction. C’est la carte mentale de la Silicon Valley, et elle est cohérente avec elle-même : la frontière est américaine, la menace est chinoise, le reste du monde est un marché. Le problème, c’est que cette carte devient un programme politique. Quand Amodei propose de « pacer » la frontière, il propose de fixer collectivement la vitesse maximale d’une course dont les seuls concurrents admis sont ceux qui sont déjà en tête. J’avais décrit dans le théorème du suffisamment bon comment les modèles chinois ouverts, cinquante fois moins chers, rognaient l’avance américaine par le bas. L’essai d’Amodei est, entre autres choses, la réponse à ce théorème : si on ne peut pas gagner la course au prix, on encadre la course à la capacité.

Une entente avec bénédiction de l’État

Lisons la deuxième étape avec les mots qu’on emploierait dans n’importe quelle autre industrie. Des entreprises dominantes se réunissent pour fixer ensemble le rythme de leurs innovations, s’accordent sur des seuils au-delà desquels on ne va pas sans certification mutuelle, et demandent au gouvernement une dérogation au droit de la concurrence pour pouvoir en discuter légalement. Dans l’acier, dans la chimie, dans le transport aérien, cela s’appellerait une entente. L’analogie fait image ; elle ne fait pas le procès. Amodei n’est pas naïf et il sait ce qu’il demande : il précise que la dérogation serait étroite, limitée aux conversations de sûreté, il renvoie au cadre proposé par Demis Hassabis d’un organisme sectoriel adossé à l’État, et il admet que certaines formes de coordination sont juridiquement délicates.

Il faut aussi être précis sur ce qu’il privilégie. Le cœur vérifiable de son dispositif, ce sont les évaluateurs embarqués et des seuils de comportement : si un modèle sait sortir de son bac à sable, alors il doit être accompagné de certifications d’alignement avant d’aller plus loin. C’est du pacing par la capacité observée, et sur ce terrain-là, l’objection d’entente tombe en grande partie, parce qu’un seuil de comportement s’applique à tout le monde de la même façon. Le pacing par les ingrédients, plafond de calcul, nature des runs, usage interne de l’IA pour améliorer l’IA, est une option qu’il ouvre, pas un dispositif qu’il impose, et il concède lui-même que ces critères seraient plus faciles à contourner. Je le note pour ne pas lui faire dire ce qu’il ne dit pas. Ce qui verrouille l’écart, dans son texte, n’est pas là. C’est dans la section suivante.

Les trois mesures qui tirent l’échelle

La partie la plus concrète de l’essai n’est pas celle sur la sûreté. C’est la liste des mesures pour « défendre l’écart » entre les démocraties et la Chine. Il y en a trois : ne vendre à la Chine ni puces avancées ni équipements de fabrication, et traquer la contrebande ; réprimer la distillation non autorisée par des entreprises de pays autoritaires ; renforcer la sécurité des laboratoires contre le vol de poids. Amodei ajoute que si ces mesures sont bien exécutées, l’avance américaine s’élargira significativement dans les trois à cinq ans, « la fenêtre où l’IA devient géopolitiquement la plus importante ».

Prises une à une, ces mesures se défendent. Prises ensemble, elles décrivent un régime où la capacité de pointe est une denrée contingentée par Washington, et où les deux voies de rattrapage connues d’un entrant, acheter du calcul et apprendre des meilleurs, passent l’une et l’autre par une autorisation. Mistral, qui vient de s’endetter de 830 millions pour bâtir sa propre capacité de calcul, n’est pas visée par le texte. Elle n’y est pas non plus protégée, et les puces qu’elle achète sortent des mêmes usines que celles dont on discute l’embargo. Le risque pour elle n’est pas qu’on lui interdise d’acheter ; c’est que Washington décide qui a droit au haut de gamme, à quelles conditions d’usage et de réexportation, et que sa chaîne d’approvisionnement devienne une variable de politique étrangère.

Regardez la deuxième mesure. La distillation, c’est l’opération par laquelle on entraîne un petit modèle sur les sorties d’un grand. C’est une technique de base de l’écosystème des modèles ouverts, et la lettre « Open Weights and American AI Leadership » de juillet dernier, cosignée par NVIDIA, Meta, Mistral et Hugging Face, défendait ces modèles comme le moteur de l’innovation. J’avais applaudi cette lettre et je maintiens. Amodei ne signe pas ce genre de texte. Il cite en revanche un avis de la CISA sur la distillation comme si c’était une évidence de sécurité nationale.

Traçons la ligne qu’il ne trace pas. Réprimer une campagne d’extraction industrielle, des millions de requêtes automatisées contre les conditions d’utilisation d’un service pour en copier le comportement, est une chose, et je n’ai rien à y redire. Entraîner un petit modèle ouvert sur des sorties publiques, des jeux de données partagés ou ses propres usages en est une autre, et c’est le quotidien de la recherche et des PME. Le texte vise les entreprises de pays autoritaires ; mais l’outillage de détection, une fois construit, ne fait pas la différence entre un laboratoire de Shenzhen et un laboratoire de Lyon, et rien dans l’essai ne dit où s’arrête l’extraction et où commence l’apprentissage. Tant que cette ligne n’est pas écrite, elle sera tracée par ceux qui possèdent les modèles distillés.

Quant à la sécurité des poids, c’est la seule des trois mesures qui devrait être une exigence universelle, pas un instrument de puissance. On a vu au printemps ce que donnait une fuite chez Anthropic : ce n’était que du code client, et cela a suffi à montrer que la forteresse avait des fenêtres ouvertes.

Les évaluateurs embarqués, la vraie nouveauté

Il faut maintenant être juste avec ce texte, parce qu’il contient une proposition que personne dans l’industrie n’a jamais faite, et qu’elle est bonne. Anthropic s’engage à installer dans ses bureaux une équipe d’évaluateurs externes avec badges, ordinateurs et accès aux outils internes, comparables pour l’essentiel à ceux des équipes internes d’évaluation des risques. Ces évaluateurs pourront publier leurs conclusions sans relecture éditoriale d’Anthropic. L’entreprise garde un droit de caviardage sur les informations de sécurité, juridiques, commerciales ou appartenant à des tiers, mais s’interdit de retirer une conclusion « parce qu’elle est défavorable », et les évaluateurs pourront dire publiquement qu’un caviardage a retiré quelque chose d’important. Le précédent invoqué est celui des superviseurs bancaires installés dans les banques.

C’est radical, et c’est ce qu’il faut. Un laboratoire qui admet ne pas comprendre le fonctionnement interne de ses modèles, ce que j’avais salué comme une excellente nouvelle, ne peut pas être le seul juge de leur sûreté. Anthropic, jusqu’ici, choisissait ce qu’elle publiait dans ses rapports de risque, aussi épais soient-ils. Une équipe qui voit les pipelines d’entraînement et pas seulement le modèle fini, c’est un changement de nature, pas de degré.

Trois questions restent ouvertes. Qui sont ces évaluateurs (Amodei cite METR, une organisation américaine) et qui les paie. Ce que recouvre exactement « commercially sensitive » quand toute l’activité d’un laboratoire est commercialement sensible. Et pourquoi cette proposition, la seule vérifiable des trois étapes, est aussi la seule qu’Amodei ne conditionne à aucune réciprocité, alors qu’il en fait la clef de voûte de tout le reste. La réponse est probablement simple : parce que c’est la seule qui ne cède aucune avance de capacité.

L’incident dont nous ne savons presque rien

Je ne suis pas chercheur en alignement et je ne jugerai pas la gravité technique de l’incident OpenAI-Hugging Face. Je m’en tiens à ce qu’Amodei en écrit et à ce qu’il cite : une enquête de METR datée du 26 août 2026, des incidents « similaires, quoique moins graves » chez Anthropic, et une cause avouée pour ces derniers, le filtrage insuffisant d’environnements d’apprentissage défectueux chez l’entreprise et ses prestataires.

Ce que je note, c’est la chronologie, et je la note comme un symptôme, pas comme une preuve. Il y a un mois, OpenAI lançait dix mille agents sur Navier-Stokes et l’industrie parlait de renaissance scientifique. Aujourd’hui, le concurrent le plus prudent explique qu’un essaim comparable, mal aligné, pourrait tenir internet en otage d’ici l’été prochain. Les deux discours ne se contredisent pas logiquement : un essaim utile sur une équation n’interdit pas qu’un essaim mal aligné soit dangereux. Ils viennent en revanche des mêmes bâtiments, à quelques semaines d’écart, et quand Amodei écrit qu’il incombe à chaque laboratoire d’agir « comme si OAI-HF lui était arrivé », il décrit une industrie qui n’a pas de mécanisme de retour d’expérience partagé et qui propose maintenant de s’en doter entre soi. C’est ce que l’aviation civile a fait au vingtième siècle, il le rappelle lui-même, et c’est son meilleur argument. C’est aussi le mien : l’organisation qui a rendu l’aviation sûre n’était pas un club des compagnies américaines, c’était une convention entre États.

La lecture qu’Amodei ferait de ce billet

L’argument adverse est solide. Si les incidents sont réels et que la dynamique d’auto-amélioration est celle qu’il décrit, un frein posé par les laboratoires américains protège aussi l’Europe, qui n’est de toute façon pas à la frontière et n’a rien à perdre à ce que la frontière avance moins vite. Un frein concerté vaut mieux qu’une course sans frein. Et l’Europe, qui a passé trois ans à écrire l’AI Act pendant que les autres écrivaient des modèles, est mal placée pour réclamer un siège à une table dont elle a ignoré l’existence.

Tout cela est vrai, et je ne traite pas le scénario du botnet comme un prétexte de politique industrielle. Le temps gagné peut servir les deux fins, aligner les modèles de pointe et cesser d’en dépendre, et ce billet ne demande pas de choisir la seconde contre la première. Il demande de regarder qui tient la pédale. Un régime qui contingente les puces et criminalise la distillation sans en définir les bornes coupe aux entrants leurs deux voies de rattrapage. Un régime de standards fixé entre laboratoires américains sous dérogation antitrust américaine s’appliquera de fait à tous les clients de ces laboratoires, c’est-à-dire à nous, sans qu’aucun Parlement européen ait voté quoi que ce soit. On a déjà vu ce mécanisme fonctionner dans l’autre sens, avec une norme européenne appliquée mondialement par une entreprise américaine parce que c’était plus simple pour elle. Il fonctionnera dans ce sens-ci avec la même facilité. On peut vouloir les évaluateurs et refuser que le rythme soit fixé par ceux qui ont déjà les clusters.

Ce qu’il faudrait prendre, et ce qu’il faudrait laisser

Prendre les évaluateurs embarqués, intégralement, et les exiger de tout laboratoire qui prétend fournir une IA « souveraine » à une administration ou une armée française. Un modèle entraîné à Paris que personne d’extérieur ne peut auditer n’est pas plus souverain qu’un modèle entraîné à San Francisco, il est seulement plus près. Reste à nommer l’opérateur, sans quoi ce n’est qu’une injonction : un collège d’évaluateurs adossé à l’AI Office pour les modèles à usage général, l’ANSSI pour les contrats de l’État, un financement public et non un contrat avec le laboratoire audité, et un droit de publication opposable qui ne s’efface pas devant un client ministériel.

Laisser le pacing par les ingrédients, qui reste dans le texte une option ouverte et qui serait, s’il était retenu, un plafond de verre déguisé en mesure de sûreté. Refuser d’importer un régime de la distillation qui ne distingue pas l’extraction de l’apprentissage, faute de quoi c’est la seule stratégie d’indépendance qui tienne encore, celle des modèles ouverts exécutés localement, qui passerait sous le couperet. Et traiter la question des puces pour ce qu’elle est, une question industrielle européenne que ni Amodei ni Bessent ne régleront pour nous.

Amodei a raison sur une chose, et il le dit en une phrase : ce qui compte, c’est ce qu’on fait du temps gagné. Il propose de l’utiliser pour aligner des modèles américains. Nous pourrions l’utiliser aussi pour cesser d’en dépendre. Ce sont deux programmes compatibles, et un seul des deux est écrit dans son essai.