Intelligence artificielle : pourquoi la métaphore du marteau est une imposture

On nous ressort en boucle le même discours lénifiant : l’intelligence artificielle ne serait qu’un outil de plus dans notre boîte à outils. Comme un marteau, comme un tournevis. Certes puissant, certes complexe, mais fondamentalement neutre. Un instrument dont nous gardons le contrôle total puisque c’est nous qui tenons le manche, nous qui appuyons sur le bouton.

Ce discours est devenu hégémonique. Une partie de ceux qui le tiennent y croient sincèrement – ingénieurs voulant rassurer, communicants cherchant à domestiquer rhétoriquement une technologie effrayante, journalistes tentant de vulgariser. Mais pour d’autres acteurs – certains dirigeants d’entreprises, investisseurs, décideurs politiques –, c’est une stratégie parfaitement consciente pour neutraliser toute critique avant même qu’elle ne s’exprime. Sincère ou cynique, le résultat est le même : cette rhétorique fonctionne remarquablement bien.

Le mythe de la neutralité technique : un vieux mensonge recyclé

Cette fable de l’outil neutre dont seul l’usage déterminerait la valeur n’a rien de nouveau. On nous la sert depuis la révolution industrielle. Quand les manufactures détruisaient les métiers artisanaux et empoisonnaient les rivières, on nous expliquait déjà que le problème n’était pas la machine à vapeur, mais l’usage qu’on en faisait. Quand les ouvriers crevaient à la tâche dans des conditions abjectes, ce n’était pas la faute du système industriel, juste une question de « régulation » et de « formation ».

Cette posture intellectuelle a un avantage politique majeur : elle permet de préserver le dogme du progrès technique tout en offrant un exutoire aux mécontents. Il suffit de promettre qu’on va « mieux encadrer », « sensibiliser les utilisateurs », « créer une charte éthique ». Mais surtout, surtout, ne jamais remettre en question la pertinence même de certaines innovations.

Deux siècles plus tard, on nous rejoue exactement la même partition avec l’IA. Et on est censés gober ça sans broncher.

Le sophisme du marteau : une confusion aux conséquences désastreuses

Comparer ChatGPT à un marteau, c’est soit faire preuve d’une incompréhension abyssale, soit prendre délibérément les gens pour des cons. Selon les cas, c’est l’un, l’autre, ou un mélange des deux.

Mettre sur le même plan un outil manuel vieux de plusieurs millénaires et un système d’intelligence artificielle générative n’est pas une simplification pédagogique. C’est une confusion intellectuelle aux conséquences désastreuses. Sous prétexte que les deux seraient des « outils », on voudrait nous faire croire qu’ils relèvent de la même analyse, posent les mêmes questions, appellent les mêmes réponses.

Un marteau ? Tout le monde comprend comment il fonctionne. Sa mécanique est transparente, son rayon d’action limité par la force de votre bras, son usage entièrement déterminé par votre volonté directe. Il reste inerte quand vous le posez. Il ne fait rien sans vous.

Une IA générative ? Personne – et j’insiste, personne – ne comprend vraiment comment elle fonctionne. Même ses concepteurs sont incapables d’expliquer précisément pourquoi elle produit tel output plutôt qu’un autre. Elle agit simultanément sur des millions d’utilisateurs à travers le monde. Elle génère des résultats selon des logiques émergentes qui échappent au contrôle. Elle s’inscrit dans des boucles de rétroaction avec les systèmes sociaux dont personne ne maîtrise les effets.

Mais oui, bien sûr, c’est exactement pareil qu’un marteau.

Quand l’humanité se dépasse elle-même

Günther Anders avait un concept lumineux pour décrire notre situation : le décalage prométhéen. L’idée est simple et terrifiante : nous sommes désormais capables de créer des choses que nous ne sommes plus capables de comprendre, de contrôler, d’assumer moralement.

Nous fabriquons des systèmes qui nous dépassent. Les modèles d’IA les plus avancés contiennent des centaines de milliards de paramètres, manifestent des capacités que leurs créateurs n’avaient pas anticipées, produisent des effets dont nous ne mesurons pas les conséquences.

Nous sommes devenus, selon la formule d’Anders, « plus petits que nous-mêmes ». Et face à cette situation vertigineuse, on nous propose la solution du marteau. C’est d’un ridicule absolu.

« On n’a qu’à débrancher » : l’argument des naïfs ou des cyniques

Ah, le fameux bouton d’arrêt d’urgence ! Si ça dérape, on débranche, et hop, problème réglé. Cette réponse est soit d’une naïveté confondante, soit d’une malhonnêteté achevée.

Débrancher quoi, exactement ? Les IA sont déjà partout. Dans les moteurs de recherche qui structurent notre accès à l’information. Dans les outils de productivité que des millions d’entreprises utilisent quotidiennement. Dans les systèmes de recommandation qui orientent nos décisions. Dans les plateformes qui modèrent nos conversations. Les « débrancher » signifierait paralyser l’économie numérique mondiale.

Et qui va appuyer sur ce bouton fantasmé ? Les entreprises qui ont investi des centaines de milliards de dollars ? Les États qui sont pris dans une course géopolitique où ralentir signifie se faire dominer ? Les actionnaires qui exigent de la croissance et du retour sur investissement ?

Soyons sérieux deux secondes. Ce bouton n’existe pas. Il n’existera jamais. Parce que la logique qui a présidé au développement de l’IA n’est pas celle du choix rationnel et collectif, mais celle de la compétition économique et géopolitique sans merci.

La course à l’abîme n’est pas un choix

Voilà le cœur du problème que la métaphore du marteau dissimule soigneusement : nous ne choisissons pas cette course. Nous y sommes contraints par une structure d’incitations qui s’impose à tous les acteurs.

Un État qui déciderait de ralentir ses développements en IA se retrouverait en position de faiblesse stratégique. Une entreprise qui renoncerait à l’IA verrait ses concurrents la dévorer. Un PDG qui proposerait la prudence serait remplacé par son conseil d’administration. Un dirigeant politique qui prônerait la temporisation serait accusé de « rater le train de l’innovation ».

C’est le dilemme du prisonnier à l’échelle planétaire. Chaque acteur rationnel est poussé à accélérer même s’il serait collectivement préférable de ralentir. La main invisible du marché et la concurrence internationale ne produisent pas ici un optimum – elles produisent une fuite en avant suicidaire.

Et pendant ce temps, on nous explique que « c’est nous qui tenons le manche ». Quelle blague.

La superintelligence : le saut dans le vide qu’on nous impose

Cette course ne vise même pas à améliorer graduellement les capacités actuelles. L’objectif explicite est de créer une AGI – une intelligence artificielle générale – puis une superintelligence qui surpasserait les capacités humaines dans tous les domaines.

Relisez cette phrase lentement. Tous les domaines. Résolution de problèmes mathématiques, conception technologique, stratégie politique, manipulation psychologique, optimisation économique. Un système cognitivement supérieur à l’humanité entière.

C’est la rupture civilisationnelle la plus radicale de l’histoire de notre espèce. Et elle est pilotée par une poignée d’entreprises privées californiennes motivées par le profit et la compétition, sans aucun contrôle démocratique digne de ce nom.

Même les créateurs ont peur

Ce qui devrait nous glacer le sang, c’est que les architectes mêmes de ces technologies tirent la sonnette d’alarme. Geoffrey Hinton, le « parrain de l’IA profonde », a quitté Google pour pouvoir alerter librement. Yoshua Bengio multiplie les tribunes pour appeler à une régulation stricte. Dario Amodei, PDG d’Anthropic, estime à 25% la probabilité que les choses « tournent très, très mal ».

Un quart de chance de catastrophe majeure. Vous monteriez dans un avion avec 25% de chances de crash ? Moi non plus. Pourtant on nous demande de monter collectivement dans cet avion-là.

Et le plus beau ? Ces mêmes dirigeants qui expriment leurs inquiétudes continuent à pousser le développement toujours plus loin, toujours plus vite. Ce n’est pas de l’hypocrisie – c’est le symptôme d’un système où même les acteurs lucides sont prisonniers d’une logique qui les dépasse.

Ce qui est en jeu dépasse largement « l’usage »

L’escroquerie intellectuelle de la métaphore instrumentale, c’est qu’elle ramène tout à la question de l’usage individuel. Comment nous allons utiliser l’outil. À quelles fins. Dans quel cadre éthique.

Mais ce n’est pas ça, le problème central. Le problème, c’est que l’IA générative ne se contente pas d’offrir de nouvelles possibilités d’action. Elle reconfigure les conditions mêmes dans lesquelles nous pensons, décidons et agissons.

Elle crée de nouvelles dépendances. Elle institue de nouvelles asymétries de pouvoir massives entre ceux qui contrôlent les infrastructures d’entraînement et les simples utilisateurs. Elle génère de nouvelles vulnérabilités systémiques : manipulation de l’information à une échelle jamais vue, amplification des biais à la vitesse de la lumière, homogénéisation culturelle, destruction accélérée de nombreux métiers.

Ces systèmes s’autonomisent – pas au sens où ils deviendraient conscients, mais au sens où leur logique propre s’impose progressivement à nous. Nous nous adaptons à eux, nous intériorisons leurs contraintes, nous reformatons nos pratiques selon leurs affordances. L’outil censé nous servir nous formate.

Arrêtons de nous raconter des histoires

Tant qu’on continuera à décrire l’IA comme un « simple outil » comparable à un marteau, on passera complètement à côté de ce qui se joue. On se mentira collectivement pour éviter d’affronter des questions inconfortables.

La vraie question n’est pas « Comment bien utiliser l’IA ? » C’est « Quel monde l’IA fait-elle advenir et voulons-nous vraiment y vivre ? »

Ce n’est pas « Qui tient le manche ? » C’est « Qui décide de cette course folle et selon quels critères ? »

Ce n’est pas « Peut-on débrancher si nécessaire ? » C’est « Les structures de pouvoir actuelles permettent-elles encore un tel choix collectif ou avons-nous déjà franchi le point de non-retour ? »

Je ne suis pas technophobe. Je ne fantasme pas un retour à l’âge de pierre. Mais je refuse de gober passivement le discours rassurant qu’on nous sert. Parce que derrière ce discours, il y a une réalité brutale : nous sommes embarqués dans une expérimentation civilisationnelle sans précédent, pilotée par une poignée d’entreprises privées, sans aucun mécanisme de décision collective qui tienne la route, et sans qu’on nous ait vraiment demandé notre avis.

Et ne comptez pas sur les institutions pour nous sauver. Nos parlements votent des lois qu’ils ne comprennent pas. Nos « autorités de régulation » sont systématiquement capturées par les acteurs qu’elles sont censées contrôler. Nos commissions « éthiques » servent surtout à blanchir des décisions déjà prises en leur donnant un vernis de légitimité démocratique. L’Union européenne nous pondra bien un « AI Act » de 500 pages que personne ne lira et que les géants de la tech contourneront avant même sa mise en application.

La métaphore du marteau n’est pas juste une erreur d’analyse – c’est devenu, consciemment ou non, une stratégie pour neutraliser la critique et nous faire avaler la pilule. Qu’elle soit le produit de la naïveté ou du cynisme importe peu : ses effets sont les mêmes. Il est temps de la rejeter avec la lucidité qu’elle mérite.