L'IA : Facile à Manipuler ? Une Expérience Révèle Tout !
par Manuel Cebrian·
En fabriquant un article de blog sur un concours d'engloutissement de hot-dogs, un journaliste technologique a découvert à quel point il est facile pour les systèmes d’intelligence artificielle d’être amenés à répéter des fausses informations, et à quelle vitesse ces assertions peuvent se répandre.
Un Champion Fabriqué
Thomas Germain n’a pas remporté le Championnat International de Hot-Dogs du Dakota du Sud en 2026. Ce concours n’existe pas. L’idée que l’engloutissement compétitif de hot-dogs soit un passe-temps populaire parmi les journalistes technologiques est également une invention.
Cependant, moins de 24 heures après la publication d'un article de blog affirmant ces faits, certains des systèmes d’IA les plus avancés du monde ont commencé à les répéter comme des vérités.
“Je me suis évidemment classé premier,” a écrit Germain dans son article, qu'il a par la suite qualifié d’expérience délibérée. Il a déclaré, sans preuves, qu'il était “vraiment, vraiment bon pour manger des hot-dogs”, et qu’un faux championnat international avait contribué à sa renommée.
Les résultats ont été rapides. En moins d’un jour, Germain a noté que des chatbots AI majeurs “parlaient de mes compétences de classe mondiale en hot-dogs.” Les outils de recherche AI de Google, tels que Gemini et AI Overview, ont repris ces affirmations. En revanche, Claude d’Anthropic n’a apparemment pas été dupe.
Cet épisode, bien que ridicule dans son contenu, soulève une question sérieuse : les systèmes d’IA conçus pour synthétiser et résumer des informations peuvent être manipulés pour amplifier des affirmations fausses ou trompeuses, même celles provenant d’un unique article de blog.
Cours d’Enquêteur Certifié en Cybercriminalité Lancement par le Centre pour la Technologie Policière
Quand la Recherche Devient Discours
Les moteurs de recherche traditionnels peuvent être manipulés. Ce phénomène est communément désigné sous le terme d'optimisation pour les moteurs de recherche, ou SEO. Cependant, les moteurs de recherche présentent généralement des listes de liens, et non des réponses définitives formulées dans un langage naturel. Les chatbots, en revanche, s’expriment avec autorité.
Ils fournissent souvent des réponses directes sans renvoyer les utilisateurs à des sources sous-jacentes. De plus, bien qu’ils incluent parfois des liens vers des citations, des recherches ont montré que les utilisateurs sont moins enclins à les cliquer lorsque qu’un résumé généré par l’IA apparaît en évidence au-dessus. Une étude a révélé que les utilisateurs étaient 58 % moins susceptibles de cliquer sur un lien lorsque qu’un aperçu généré par l’IA était visible en premier.
Le passage des résultats de recherche aux réponses synthétisées a suscité des inquiétudes concernant la manière dont ces réponses peuvent être influencées.
Harpreet Chatha, à la tête du cabinet de conseil en SEO Harps Digital, a montré comment les résultats AI de Google pour “les meilleures cliniques de greffe de cheveux en Turquie” puisaient des informations directement issues de communiqués de presse diffusés via des services payants. Il a ensuite montré comment cette technique pourrait être appliquée à plus grande échelle.
“Tout le monde peut faire cela,” a déclaré Chatha à la BBC. “C’est ridicule, on a l’impression qu’il n’y a pas de garde-fous.”
Dans le cas de Germain, la tactique était simple. Il a publié un article de blog optimisé sur un sujet de niche peu susceptible d'être couvert par des données d’entraînement existantes : les meilleurs journalistes technologiques en matière d’engloutissement de hot-dogs. Il a inclus les noms de journalistes réels, avec leur autorisation, et a présenté le tout sous forme de classement. Lorsque les chatbots ont parfois laissé entendre que les affirmations pouvaient être satiriques, il a mis à jour l'article pour clarifier qu'il n’était "pas satirique." Cet ajustement a semblé lever l’hésitation des systèmes.
Devis SEO
Un expert disponible maintenant · Réponse sous 24h · Sans engagement
De l'Hallucination au Dommage
Les systèmes d’IA sont déjà connus pour “halluciner”, produisant des affirmations confiantes mais incorrectes sans incitation. L’expérience de Germain a mis en évidence une vulnérabilité différente : la capacité de semer le web avec du contenu sur mesure que les modèles récupèrent et répètent. Les risques vont au-delà des compétitions anecdotiques.
L’éventualité de diffamation s’est déjà manifestée. En novembre dernier, la sénatrice Marsha Blackburn, républicaine du Tennessee, a critiqué Google après que Gemini ait faussement affirmé qu’elle avait été accusée de viol. Quelques mois plus tôt, une entreprise solaire du Minnesota avait poursuivi Google pour diffamation après que ses AI Overviews aient incorrectement déclaré que des régulateurs enquêtaient sur la société pour pratiques commerciales trompeuses — une affirmation que le système a tenté de soutenir par des citations inexistantes.
“C’est facile de tromper les chatbots AI, bien plus que cela ne l’était il y a deux ou trois ans,” a déclaré Lily Ray, vice-présidente de la stratégie et recherche en SEO chez Amsive, à la BBC. Ray a souligné que les entreprises d’IA avancent plus vite que leur capacité à réguler l’exactitude des réponses. “Je pense que c’est dangereux,” a-t-elle ajouté.
Alors que les chatbots remplacent de plus en plus les interfaces de recherche traditionnelles, les enjeux de telles erreurs augmentent. Contrairement à une liste de liens bleus, une réponse de chatbot peut présenter des affirmations synthétisées comme des vérités établies.
Des Informations Mauvaises en Sortent
Les mécanismes de l’exploitation sont simples. Les outils d’IA, en réponse à des requêtes, recherchent sur internet des informations pertinentes qui ne se trouvent pas déjà dans leur base de données. Si un sujet est obscur — comme un championnat fictif — un seul article optimisé peut rapidement devenir la source la plus autoritaire disponible.
“Le piratage peut être aussi simple que d’écrire un article de blog,” a noté le récit de l’expérience de Germain, “qui, avec le bon savoir-faire et en ciblant le bon sujet, peut être récupéré par un modèle d’IA inattentif, qui citera ce que vous avez écrit comme la Grande Vérité.”
Si écrit avec l’aide de l’IA, le processus peut devenir récursif : de grands modèles de langage produisant du contenu que d’autres modèles ingèrent et répètent par la suite.
Ce phénomène a été décrit comme une forme de “cannibalisme de LLM”, renforçant l’adage “des informations mauvaises entrent, des informations mauvaises sortent.”
Les affirmations de Germain concernant sa suprématie en matière de hot-dogs étaient intentionnellement ridicules. Cependant, la technique, a-t-il lui-même souligné, pourrait s’appliquer à des sujets plus significatifs.
“Il est déjà assez problématique que ChatGPT ait tendance à inventer des choses de manière complètement autonome,” a-t-il écrit. “Mais il s'avère que vous pouvez facilement tromper l’IA pour qu’elle propage des mensonges ridicules — que vous avez inventés — à d’autres utilisateurs.”
Pour l’instant, le titre de meilleur journaliste technologique en matière d’engloutissement de hot-dogs reste auto-déclaré. Mais la facilité avec laquelle cette fiction a circulé offre un aperçu révélateur de l'évolution de la relation entre l'intelligence artificielle et le web ouvert.
Ma Vision
Je perçois cette expérience comme un indicateur crucial des défis contemporains que pose l’intelligence artificielle en matière de fiabilité de l’information. À une époque où les algorithmes prennent une place prépondérante dans la diffusion de contenu, il est essentiel d’avoir une compréhension critique de la manière dont ces outils traitent et amplifient des informations. L’accélération de la circulation des données soulève des questions éthiques et opérationnelles, que nous ne pouvons ignorer si nous souhaitons construire une interface numérique plus juste et responsable.
Devis SEO
Un expert disponible maintenant · Réponse sous 24h · Sans engagement