L'IA générative inquiète la France : le gouvernement a décidé de renforcer sa lutte contre la manipulation de l'information et les ingérences étrangères en ligne, avec un focus particulier sur les menaces liées aux nouveaux outils d'intelligence artificielle.
Il ne vous a pas échappé que les outils d'intelligence artificielle générative ont pu se démocratiser à vitesse grand V, avec les risques que tout cela comporte. Le ministère chargé de l'Intelligence artificielle et du Numérique a annoncé intensifier sa vigilance.
La ministre du secteur, Clara Chappaz, alerte ce mardi 7 janvier 2025 sur l'utilisation malveillante croissante de ces technologies pour manipuler l'opinion publique via les réseaux sociaux. Un combat qui s'organise notamment autour de Viginum, le service spécialisé dans la détection des ingérences numériques étrangères.
Pour lutter contre l'IA générative, nouvelle arme de désinformation massive
Dans un contexte numérique de plus en plus tendu, les menaces d'ingérence étrangère se multiplient. On assiste notamment à la création de faux contenus parfois très crédibles, grâce aux outils d'IA en open source. Ces derniers représentent désormais un risque majeur pour la démocratie, à cause par exemple de la diffusion massive de contenus manipulés sur différentes plateformes.
L'animation de comptes inauthentiques par des outils d'IA devient également préoccupante. Ces robots, capables de reproduire des comportements humains de manière troublante, participent activement à la manipulation de l'opinion publique sur les réseaux sociaux. Forcément, les autorités, désireuses de protéger l'authenticité des débats en ligne, s'en inquiètent.
Clara Chappaz, ministre chargée de l'Intelligence artificielle et du Numérique, insiste sur l'urgence de la situation : « Là où les menaces se présentent, chaque année, sous des formes de plus en plus difficiles à déceler, nous continuons d'adapter nos moyens de défense. » Une adaptation qui passe notamment par la régulation des plateformes.
Le gouvernement français a à sa disposition le DSA, le règlement européen sur les services numériques, pour encadrer ces nouvelles menaces. On rappelle qu'il implique que les grandes plateformes en ligne doivent désormais respecter des obligations strictes en matière de modération et de suppression des contenus de désinformation, tout en limitant leur viralité potentielle.
Viginum, le fer de lance de la lutte contre les ingérences numériques
Pour se donner une chance de réussir, le gouvernement mise sur Viginum, le service de vigilance et de protection contre les ingérences numériques étrangères. Créé en juillet 2021, il œuvre activement à la détection des manipulations de l'information. Ce service spécialisé, unique au monde, combine analyse géopolitique, science des données et investigation numérique pour protéger le débat public des ingérences étrangères.
Son expertise s'est notamment illustrée dans le cadre des Jeux olympiques et paralympiques de Paris 2024. Le service dit avoir identifié 43 manœuvres informationnelles ciblant l'événement, dont une vidéo hostile réalisée par IA comparant la Seine au Gange, le fleuve indien très pollué, largement diffusée sur les plateformes de streaming.
Le secrétaire général de la défense nationale, Stéphane Bouillon, souligne que « la manipulation de l'information orchestrée par des États ou des groupes d'opinion étrangers vise à déstabiliser nos démocraties en travestissant la vérité et en instrumentalisant les faits. »
Au-delà de la détection, Viginum développe ses propres outils d'IA pour contrer ces menaces. L'État compte sur l'approche proactive, qui fait de ce service un pôle d'excellence français, et espère qu'il sera pleinement capable non seulement d'identifier les manipulations de l'information, mais aussi de les combattre avec leurs propres armes.
Tu veux lancer un Troll, c’est raté
