Des opérateurs russophones ont détourné ChatGPT pour donner une façade académique à un faux centre de réflexion, l’International Burke Institute, avant qu’OpenAI ne bannisse leurs comptes hier. Sous cette couverture, le réseau diffusait des articles et des commentaires en plusieurs langues sur Substack, Telegram, X, Facebook et LinkedIn.
Comme le rapporte Open AI, l’institut se prétendant centre de réflexion basé en Israël, avec un site en ligne depuis février 2025 et des articles publiés sur les réseaux sociaux à partir de septembre jusqu’en mai dernier, mais ça n’était qu’une façade en carton-pâte, car les opérateurs recyclaient surtout du contenu existant.
Sur 36 textes examinés par OpenAI, 34 provenaient de contenus déjà publiés ailleurs sur Internet, republiés sous de fausses signatures, certaines empruntées à des experts morts avant la création de l'’institut.
Pour leurs commentaires sur les réseaux sociaux, les opérateurs rédigeaient leurs brouillons en russe, contournaient depuis la Russie l’interdiction d’accès à ChatGPT grâce à des VPN, puis faisaient traduire leurs textes par l’outil avant de les publier.
La solution tout-en-un pour protéger votre entreprise
Votre petite entreprise a de grandes ambitions. Protégez-là contre les pirates. Et développez sereinement votre activité !
L’institut place le Vatican devant l’Espagne dans un faux index de souveraineté
Les comptes ChatGPT du réseau servaient surtout à habiller le dispositif, avec des posts pour annoncer les articles de l’institut, des réponses aux publications déjà en ligne d’autres comptes, et des logos pour la douzaine de canaux Telegram associés. L’institut a aussi mis en ligne un autre outil, en anglais, le Burke Sovereignty Index, censé évaluer la souveraineté des États.
Selon Tech Radar, ce classement plaçait le Vatican devant l’Espagne et créditait certaines analyses d’experts déjà décédés au moment de la publication. Favorable à la Russie, il présentait aussi la France comme un pays « ouvert comme un coffre-fort à capital historique, et aujourd'hui vendu en pièces détachées ». Le réseau critiquait, dans des messages Telegram séparés, la politique allemande envers l’Ukraine et l’Union européenne.
Cette fabrication de contenu n’est pas la même que celle déjà repérée par les chercheurs de NewsGuard. Le réseau de propagande Pravda, actif depuis 2022, cherche plutôt à contaminer les données d’entraînement des intelligences artificielles, une pratique que l’organisme appelle le « LLM grooming ».
OpenAI retrouve l’origine slave des messages grâce à une erreur de traduction
Dans l’un de ces messages sur la coalition gouvernementale allemande, les rédacteurs ont employé l’expression « Svetofor coalition » plutôt que le mot allemand consacré, Ampelkoalition. OpenAI a repéré, dans cette maladresse, l’origine du texte, car « svetofor » signifie feu tricolore en langues slaves, signe d’une rédaction initiale antérieure à sa traduction vers l’allemand et à sa mise en forme par ChatGPT. Le réseau relayait ce type de contenu via ses canaux Telegram dans plusieurs pays, avec 10 000 à 20 000 abonnés chacun, aux États-Unis, en France, en Pologne et en Turquie, jusqu’à ce qu’OpenAI bannisse l’ensemble des comptes ChatGPT liés au réseau.
Cette vigilance de l’entreprise ne date pas d’hier. Depuis mai 2024, OpenAI a publié plusieurs rapports sur ce type de détournement, en commençant par cinq opérations, dont deux russes, aux côtés du réseau chinois Spamouflage et de l’entreprise israélienne STOIC, pour produire des commentaires multilingues et traduire des articles de propagande sur l’invasion de l’Ukraine, le conflit à Gaza, les élections indiennes ou la politique intérieure européenne et américaine.
Trois mois plus tard, l'entreprise a détecté Storm-2035, un réseau iranien actif depuis 2020, dont les articles étaient diffusés par cinq faux sites d’information rédigés avec ChatGPT. Malgré cette expérience accumulée, l'entreprise a de nouveau démasqué un réseau russophone à cause d'une maladresse de traduction.
Les canaux Telegram de l’International Burke Institute affichaient pourtant plus d’abonnés que ses propres comptes officiels sur les plateformes occidentales, dont les publications individuelles ne recueillaient, la plupart du temps, qu’une poignée de vues.
OpenAI n’a établi, dans son rapport, aucun lien entre ce réseau et d’autres opérations de désinformation russes déjà connues et étudiées par les chercheurs.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Participer à la discussion
Partagez votre avis avec la communauté Clubic.