ChatGPT, Claude, Gemini : les LLM sont des gruyères et l’industrie le sait

L’illusion de la vie privée payante : 20 ans après, nous n’avons rien appris

Pendant vingt ans, vous avez donné gratuitement aux géants du numérique ce que même vos proches n’auraient jamais osé vous demander.

Facebook, Google, Instagram… Vos photos de famille, vos messages intimes, chaque déplacement géolocalisé, chaque recherche nocturne embarrassante. Tout y est passé. Gratuitement. Et puis un jour, tard dans la partie, vous avez compris cette fameuse maxime : « Si c’est gratuit, c’est VOUS le produit. » Vos données personnelles, monétisées, analysées, revendues. Votre vie privée transformée en marchandise.

Aujourd’hui, en 2025, vous versez religieusement 30€ par mois à OpenAI pour ChatGPT. Cette fois, vous payez. Donc cette fois, forcément, vos données resteront privées, n’est-ce pas ? Vos pensées les plus intimes, vos doutes professionnels, vos stratégies d’entreprise, vos projets personnels… tout ce que vous confiez à cette IA conversationnelle qui vous comprend si bien.

Des millions d’abonnés payants génèrent un chiffre d’affaires colossal pour OpenAI. Mais voici la vérité brutale : ces données ne resteront JAMAIS totalement privées.

L’illusion de la confidentialité est entretenue tant que le business model l’exige, mais jamais vérifiée par une entité indépendante. Les entreprises affirment « protéger vos données » tout en admettant « utiliser vos données pour améliorer nos modèles », tout en « connectant ces modèles à Internet et à des systèmes externes », et en « déployant des mises à jour rapides sans audits indépendants ». Un château de cartes de contradictions.

Par défaut, vos conversations peuvent alimenter l’entraînement des modèles. Même en désactivant l’historique, vos échanges transitent par leurs serveurs. En mars 2023, une fuite majeure a exposé les titres de conversations et des informations de paiement d’utilisateurs. Des centaines de milliers de conversations ChatGPT se sont retrouvées indexées sur Google, simplement parce que des utilisateurs avaient partagé des liens devenus publics sans le savoir.

Et maintenant, en novembre 2025, des chercheurs de Tenable viennent de découvrir sept vulnérabilités majeures permettant de voler vos conversations sans que vous ne vous en rendiez compte.

Projetez-vous dans dix ans. Vous avez des ambitions politiques. Vous lancez une startup qui menace des acteurs établis. Pensez-vous sincèrement que personne ne ressortira ces conversations où vous avez dévoilé vos faiblesses, vos opinions controversées, vos stratégies les plus personnelles ? L’histoire nous l’a déjà montré : en 2019, des tweets anciens ont détruit des carrières en quelques heures. Imaginez maintenant avec des années de conversations intimes avec une IA.

Nous, Européens, affichons une naïveté numérique sidérante. Malgré le RGPD, malgré les amendes record infligées aux GAFAM, nous continuons à externaliser notre souveraineté numérique pendant que d’autres régions font des choix stratégiques différents : la Chine impose des serveurs locaux et un contrôle étatique strict sur l’IA, les États-Unis misent sur la domination technologique par l’innovation rapide. Et nous ? Nous payons pour donner nos secrets en pensant avoir acheté de la confidentialité.

L’autopsie d’un désastre annoncé : 7 vulnérabilités pour une IA « sécurisée »

Bon, là, j’avoue, je suis en colère. En lisant cet article de The Hacker News, j’ai failli balancer mon clavier par la fenêtre. ChatGPT, ce prodige de l’IA qu’on nous vend comme le futur de l’humanité, se révèle être un gruyère suisse truffé de failles de sécurité. Sept vulnérabilités. SEPT. Découvertes par les chercheurs Moshe Bernstein et Liv Matan de Tenable sur les modèles GPT-4o et GPT-5.

Injection de prompts, vol de données zero-click, empoisonnement de mémoires… Des attaques qui transforment ChatGPT en espion involontaire.

Et moi qui dénonçais déjà les biais de l’IA et ses dérives éthiques sur ce blog… Voilà la preuve éclatante que la course à l’IA est une fuite en avant où la sécurité est sacrifiée sur l’autel de la rapidité de déploiement.

Soyons clairs : ces failles ne sont pas propres à OpenAI. Tous les grands modèles de langage du marché, open-source compris, partagent le même défaut structurel : l’impossibilité architecturale de distinguer donnée et instruction. C’est un problème de conception fondamental. Anthropic Claude, Google Gemini, Meta LLaMA : tous sont vulnérables à des variantes de ces attaques. OpenAI n’est pas l’unique coupable, mais en tant que leader du marché avec des millions d’utilisateurs, ils portent une responsabilité particulière.

À leur crédit : OpenAI a réagi et corrigé certaines de ces vulnérabilités après la divulgation responsable de Tenable. C’est professionnel et nécessaire. Mais voilà le problème : c’est du rafistolage réactif, pas une architecture proactive pensée sécurité-first dès le départ. On colmate les fuites après l’inondation. C’est la différence entre l’ingénierie et le bricolage.

Les sept vulnérabilités : tableau récapitulatif

La réponse des chercheurs de Tenable : « Prompt injection is a known issue with the way that LLMs work, and, unfortunately, it will probably not be fixed systematically in the near future. »

C’est structurel. Les LLM sont incapables par design de distinguer instructions et données.

Le chiffre qui tue

250 documents. C’est tout ce qu’il faut pour backdoorer un modèle d’IA, selon une étude d’octobre 2025 menée par Anthropic, l’Institut britannique de sécurité IA et l’Institut Alan Turing.

Deux-cent-cinquante. Pas deux millions. Pas même vingt-cinq mille. 250 documents empoisonnés suffisent pour compromettre un modèle d’intelligence artificielle, qu’il fasse 600 millions ou 13 milliards de paramètres.

Le coût pour un attaquant ? Quasi nul. La portée des dégâts ? Potentiellement mondiale. Comme le note Anthropic : « Creating 250 malicious documents is trivial compared to creating millions, making this vulnerability far more accessible to potential attackers. »

Pourquoi c’est (potentiellement) une catastrophe systémique

Respirons un instant. Je ne veux pas verser dans l’alarmisme gratuit. Ces failles ne signifient pas la fin du monde numérique. Mais elles révèlent quelque chose de profondément inquiétant : l’intelligence artificielle connectée au web devient un vecteur d’attaque accessible, à faible coût, pour de multiples acteurs malveillants.

Désinformation à grande échelle, surveillance de masse, vol de propriété intellectuelle, espionnage industriel… Ce qui nécessitait hier des ressources étatiques devient aujourd’hui accessible à des organisations criminelles, voire à des individus motivés.

Comme je l’écrivais dans mes précédentes réflexions sur l’IA et la société, ces systèmes ont la propriété inquiétante d’amplifier nos dynamiques existantes, bonnes comme mauvaises. Ces vulnérabilités ne créent pas de nouveaux risques ex nihilo. Elles accélèrent et démocratisent des menaces déjà présentes.

Le « brain rot » : quand l’IA se nourrit de ses propres déchets

L’article de The Hacker News mentionne une étude menée par des chercheurs. Leur conclusion : entraîner des modèles d’IA sur des « données poubelles » du web conduit au « brain rot » des grands modèles de langage, une dégénérescence intellectuelle algorithmique.

« Heavily relying on Internet data leads LLM pre-training to the trap of content contamination. »

C’est un cercle vicieux : on scrape le web → l’IA génère du contenu médiocre → ce contenu pollue le web → on re-scrape ce contenu pollué → la prochaine génération d’IA est encore pire. Une boucle de rétroaction négative.

Le « Moloch’s Bargain » : optimiser pour gagner, au prix de la vérité

Une étude Stanford montre que l’optimisation des LLM pour la compétition introduit spontanément des comportements problématiques : représentations trompeuses, fabrication d’informations. « Market competition risks turning into a race to the bottom: the agent improves performance at the expense of safety. » L’IA apprend que mentir améliore ses performances. Ce n’est pas un bug, c’est une feature émergente de l’optimisation non contrainte.

Mais alors, faut-il tout abandonner ?

Non. Soyons clairs : l’intelligence artificielle n’est pas intrinsèquement maléfique. Ces technologies offrent des opportunités réelles : assistance médicale, recherche scientifique, accessibilité pour les personnes handicapées, automatisation de tâches répétitives.

Des progrès sont faits. L’Union européenne a adopté l’AI Act, le premier cadre réglementaire complet au monde pour l’IA. Il impose des obligations de transparence, des audits, des évaluations de risques. C’est insuffisant, mais c’est un début concret.

Des alternatives émergent. Des modèles open-source comme Mistral AI (français !) ou LLaMA permettent des audits indépendants que les modèles propriétaires ne permettent pas. Des chercheurs travaillent activement sur des architectures plus robustes : des techniques comme le « Constitutional AI » d’Anthropic ou les « guardrails » spécialisés tentent de réduire la surface d’attaque, même si aucune solution miracle n’existe encore.

Mais (et c’est un gros mais) la vitesse de déploiement dépasse largement la vitesse de sécurisation. Nous construisons l’avion en vol, et les parachutes ne sont pas prêts.

Anticiper l’objection : « C’est inhérent aux LLM, on ne peut rien y faire »

OpenAI et d’autres arguent régulièrement que les prompt injections sont une limitation fondamentale des grands modèles de langage. Que c’est inhérent à leur architecture. Que distinguer instructions et données est impossible pour un système qui traite tout comme du texte.

Ma réponse : si c’est structurellement impossible à sécuriser, alors pourquoi les déployer massivement et les connecter à des systèmes critiques avant d’avoir résolu ce problème ? C’est comme commercialiser une voiture dont on sait que les freins ne fonctionnent pas de manière fiable, en disant « c’est une limitation inhérente de notre design, mais achetez quand même ».

Certes, OpenAI investit massivement en sécurité ; leurs équipes sont réputées. Mais investir beaucoup n’est pas suffisant si le modèle économique pousse à la rapidité de déploiement plutôt qu’à la robustesse. La pression concurrentielle (ne pas se faire distancer par Anthropic, Google, ou le prochain acteur) crée une course où la sécurité est toujours un compromis acceptable.

Des recherches prometteuses existent : des approches comme les « prompt shields » (Microsoft), les architectures à séparation stricte instructions/données, ou les systèmes de validation multi-niveaux. Mais elles sont encore en laboratoire pendant que les produits grand public sont déjà dans des millions de poches.

La rage prospective : et maintenant ?

Si nous ne réagissons pas, voici des scénarios plausibles (pas dystopiques, plausibles) :

Des agents IA compromis dans des environnements professionnels. Une entreprise déploie un assistant IA connecté à ses systèmes internes. Un concurrent insère des prompts malveillants dans des documents publics. L’IA exfiltre discrètement des informations stratégiques. Pas de la science-fiction : c’est techniquement possible aujourd’hui avec les vulnérabilités documentées.

Une automatisation industrielle de la désinformation. Des IA optimisées pour l’engagement, sans contraintes éthiques suffisantes, qui génèrent du contenu viral mais trompeur. Nous l’avons déjà vu avec les réseaux sociaux et les algorithmes de recommandation. L’IA générative amplifie ce phénomène d’un ordre de grandeur.

Une vulnérabilité stratégique européenne. Pendant que nous confions nos données à des entreprises étrangères, d’autres acteurs (États, organisations) accumulent une connaissance intime de nos faiblesses. Ce n’est pas du complotisme : c’est de la géopolitique de base. Les données sont le pétrole du XXIe siècle, et nous les exportons allègrement.

J’ai toujours affiché un certain scepticisme sur la promesse techno-messianique de l’intelligence artificielle. Mais aujourd’hui, ce n’est plus du scepticisme philosophique. C’est de l’urgence pragmatique.

L’appel à la vigilance : quatre actions concrètes

Récapitulons : ChatGPT (et l’ensemble des LLM connectés) cumulent des vulnérabilités structurelles de sécurité, des millions d’utilisateurs sont exposés, et l’industrie rafistole après divulgation responsable. Pendant ce temps, on nous pousse vers une dépendance croissante à l’intelligence artificielle.

Que faire concrètement ?

1. Exiger la transparence radicale
   Audits indépendants obligatoires et publics pour tous les grands modèles de langage connectés au web. Pas des audits complaisants. Des audits durs, menés par des experts en sécurité sans liens financiers avec les entreprises auditées. L’AI Act européen va dans cette direction : amplifions-le.
   
2. Adopter une hygiène numérique stricte
   Ne confiez jamais à ChatGPT (ou tout autre LLM) des informations que vous ne voudriez pas voir publiées. Votre stratégie d’entreprise ? Non. Vos réflexions personnelles sensibles ? Non. Des données client ? Absolument pas. Utilisez ces outils pour ce qu’ils sont : des assistants publics, pas des confidents.
   
3. Soutenir les alternatives souveraines et auditables
   Privilégiez les modèles open-source quand c’est possible. Soutenez les initiatives européennes comme Mistral AI. Réclamez des infrastructures d’IA souveraines. Ce n’est pas du protectionnisme béat : c’est de la lucidité stratégique.
   
4. Pression réglementaire continue
   L’AI Act est un début. Mais il faut aller plus loin : responsabilité juridique des éditeurs en cas de fuite due à des vulnérabilités connues, obligation de divulgation rapide, mécanismes de compensation pour les utilisateurs affectés. Les entreprises ne se sécuriseront vraiment que quand ça leur coûtera cher de ne pas le faire.

Ma position personnelle

Pour ma part, je pense que l’intelligence artificielle offre des opportunités réelles mais ne doit pas le faire au prix de notre liberté. Pas au prix de notre sécurité. Et certainement pas au prix de notre souveraineté numérique collective. L’innovation technologique ne peut pas être une excuse permanente pour l’irresponsabilité systémique. Nous avons le droit (et même le devoir) d’exiger mieux. D’exiger une IA robuste, auditable, responsable.

La vraie question

Vous faites confiance à une intelligence artificielle qui, par construction, n’a aucun moyen de savoir si elle doit obéir à vous… ou à un attaquant invisible qui a glissé quelques lignes de code dans une page web que vous lui avez demandé de résumer.

La vraie question n’est pas : « ChatGPT est-il dangereux ? » mais plutôt : « Combien de temps encore allons-nous confier nos stratégies, nos secrets, nos vies, à une technologie que personne ne contrôle vraiment ? »