Comment la propagande russe s'infiltre dans les réponses de ChatGPT, Gemini ou Claude

Des chercheurs alertent sur un phénomène préoccupant : les chatbots d'intelligence artificielle les plus utilisés, dont ChatGPT, Gemini, Claude, Mistral et Grok, relaieraient parfois de la désinformation russe. Selon un rapport du think tank britannique Demos, ces outils ont diffusé de fausses affirmations, parfois extrêmes, notamment à propos du président ukrainien Volodymyr Zelensky.

Les chercheurs décrivent une manipulation croissante des réponses générées par ces IA, orchestrée par des États ou des acteurs privés. Ils parlent d'une « nouvelle frontière de la guerre de l'information », alors que ces chatbots sont de plus en plus consultés au quotidien comme sources d'information. Cette technique, appelée optimisation pour les moteurs génératifs, viserait directement à influencer le contenu produit par les intelligences artificielles.

Un écosystème de faux sites conçu pour tromper les IA

Le rapport pointe en particulier le rôle de la « Foundation to Battle Injustice », une organisation présentée comme une ONG mais liée à la propagande russe et fondée par Evgueni Prigojine, ancien chef du groupe Wagner. Certaines intelligences artificielles auraient repris ses contenus comme des sources crédibles. Selon Demos, cette fondation aurait mis en place un écosystème de trois sites : un faux site d'ONG destiné à paraître fiable, un pseudo-média produisant du contenu en masse pour gagner en visibilité, et une fausse revue de politique étrangère imitant les codes occidentaux. L'ensemble ne viserait pas des lecteurs humains, mais serait pensé pour être absorbé par les chatbots afin d'orienter leurs réponses.

Ces inquiétudes ne sont pas nouvelles. En novembre dernier, l'Institut pour le dialogue stratégique (ISD) avait déjà signalé que plusieurs grands chatbots relayaient involontairement des éléments de propagande russe lorsqu'ils étaient interrogés sur la guerre en Ukraine. À l'époque, environ 20 % des réponses analysées citaient des sources pro-Kremlin ou sanctionnées par l'Union européenne, comme RT, Sputnik ou la Strategic Culture Foundation.

Selon les chercheurs, ce phénomène s'explique en partie par des lacunes dans l'information disponible en ligne. Sur certains sujets sensibles où les sources fiables se font rares, les réseaux de propagande peuvent occuper plus facilement l'espace numérique et devenir des références involontaires pour les IA. Un risque jugé d'autant plus sérieux que les chatbots remplacent progressivement les moteurs de recherche traditionnels pour de nombreux utilisateurs.

L'ISD appelait ainsi à mieux encadrer la façon dont les chatbots référencent les médias sanctionnés et les sources manipulées, tout en reconnaissant la difficulté pour les grands modèles de langage à bloquer totalement l'accès à ces contenus. De son côté, OpenAI avait indiqué renforcer ses outils de détection et de filtrage des sources manipulées.