Confronté à l'explosion d'études scientifiques dopées à l'intelligence artificielle et aux rétractations en série, le CNRS tire la sonnette d'alarme. L'organisme français riposte pour préserver l'intégrité de la recherche et freiner une dérive éditoriale devenue incontrôlable.
C'est une véritable crise qui secoue actuellement le monde de la recherche et fragilise l'intégrité des publications scientifiques mondiales. Vous pensiez que l’intelligence artificielle générative ne servait qu'à pondre des résumés ou à générer de jolies images ? Dans les laboratoires, certains s'en servent désormais pour fabriquer des articles de toutes pièces, alimentant une machine éditoriale folle où le modèle auteur-payeur pousse à publier n'importe quoi au prix fort, un phénomène puisque l'IA laisse sa trace sur une part croissante des contenus publiés en ligne. Pour éviter que ce déluge de faux contenus n'empoisonne durablement le savoir mondial, le CNRS contre-attaque en déployant des outils de détection inédits et en réformant radicalement l'évaluation de ses scientifiques.
L'intelligence artificielle générative alimente une fraude scientifique d'une ampleur inédite
L’affaire avait sidéré la communauté scientifique il y a deux ans. Une revue réputée sérieuse avait publié sans sourciller une étude illustrée par un rat au pénis démesuré et aux organes fantaisistes, entièrement généré par une IA, Midjourney, qui avait le vent en poupe. Si le résultat prête à sourire, il révèle une faille inquiétante du comité de relecture, censé vérifier chaque détail avant publication. Pour débusquer ces faux travaux, des « détecteurs » de fraudes traquent désormais les bavures les plus flagrantes, comme ces fragments de requêtes (« En tant qu’IA ») copiés-collés par inadvertance par des auteurs négligents. Plus grave encore, d'autres chercheurs ont carrément dissimulé des instructions destinées à manipuler l'évaluation par les pairs, une pratique découverte sur la plateforme Arxiv et qui implique des universitaires de 14 établissements prestigieux. Pour le CNRS, le scandale ne réside d'ailleurs pas dans l’usage de ces technologies, mais dans leur dissimulation. Cacher l'intervention d'une machine constitue un manquement éthique majeur, l'humain restant le seul et unique responsable de ses résultats.
Si ces dérapages passent entre les mailles du filet, ce n'est pas un hasard. Ils sont le symptôme d'un système qui a tout intérêt à fermer les yeux. Ce système a un nom, le modèle dit « auteur-payeur ».
Contrairement au schéma classique où les lecteurs payaient un abonnement pour lire une revue, ce sont aujourd'hui les laboratoires qui financent eux-mêmes la parution de leurs recherches via des frais de publication (les APC, pour Article Processing Charges). L'effet d'incitation est redoutable, car plus une maison d'édition accepte d'articles, plus elle engrange de bénéfices. Certaines revues baissent donc la garde et allègent le contrôle par les pairs pour faire du volume, ce qui ouvre grand la porte aux textes vite rédigés, voire entièrement inventés par l'IA. Et cette dérive pèse lourdement sur la recherche publique : la France y a consacré près de 30 millions d’euros en 2020 (dont plus de trois millions pour le seul CNRS). Sans sursaut, cette ponction atteindrait 50 millions d'euros par an d'ici 2030, et pourrait s'envoler jusqu'à 200 millions d'euros si l'ensemble des revues adoptait cette logique mercantile.
Au-delà de la facture, c'est la fiabilité même de la recherche qui est menacée par un dangereux effet domino. La science avance en effet de manière cumulative, comme un mur où chaque découverte est une brique posée sur les précédentes. Si une brique s'avère fausse, tout l'édifice vacille. Or, sur les 4,5 millions d'articles parus dans le monde en 2023, environ 10 000 ont été officiellement rétractés pour fraude ou erreurs majeures. Des scientifiques de bonne foi continuent d'utiliser ces résultats truqués pour nourrir leurs propres travaux, à tel point que près de 640 000 publications citent aujourd'hui au moins une étude discréditée. Pour stopper cette contamination silencieuse, les spécialistes réclament désormais des « rétractations en chaîne », c'est-à-dire une réévaluation systématique de tous les articles qui continuent de s'appuyer sur ces données fantômes.
La recherche internationale s'organise pour défendre l'intégrité scientifique contre l'IA
On peut dire que le CNRS a choisi de combattre l'algorithme par l'algorithme. En s'appuyant sur les travaux du chercheur toulousain Guillaume Cabanac, son Institut de l'information scientifique et technique (l'Inist) a mis à disposition l'outil BibCheck sur la plateforme TDM Factory. Le fonctionnement est simple : avant d'envoyer son manuscrit à une revue, le scientifique y fait scanner l'ensemble de sa bibliographie. Le logiciel passe alors chaque note au crible pour repérer deux anomalies critiques : les études déjà officiellement retirées pour fraude ou erreur, et surtout les références « hallucinées », ces fausses publications inventées de toutes pièces par une IA générative que des auteurs imprudents auraient recopiées sans vérifier. C'est un filtre de sécurité indispensable pour assainir les sources à la racine, avant qu'elles ne soient validées et diffusées dans le reste du monde.
Mais les outils logiciels ne règlent rien sans une refonte des mentalités. Il fallait s'attaquer à la racine du mal, ce fameux dogme du « publier ou périr » qui conditionne financements et carrières au volume d'articles produits. Pour sortir de cette course toxique au chiffre, le CNRS a transformé l'évaluation de ses chercheurs dès 2019. Finie la dictature des statistiques bibliométriques qui ne mesurent que la quantité, les scientifiques répartissent désormais quarante points entre leurs différents engagements (publications, colloques, communication auprès du public, management) et doivent expliciter dans une note narrative la valeur concrète de leurs apports. En parallèle, l'organisme généralise le libre accès via l'archive publique HAL et soutient l'édition dite « diamant », un modèle vertueux entièrement gratuit pour les auteurs comme pour les lecteurs. Alors que le reste du globe continue d'empiler les études à la chaîne, la boulimie de publications ralentit enfin en France, au profit d'une science plus sobre, transparente et rigoureuse.
Être vertueux dans l'Hexagone ne suffit pas. La recherche étant mondialisée, la refonte des règles du jeu doit s'imposer partout. C'est tout l'enjeu de la coalition CoARA (Coalition for Advancing Research Assessment), un collectif regroupant plus de 970 institutions à travers le monde pour abandonner la dictature des métriques quantitatives. Le CNRS, acteur clé de cette alliance, pilote l'analyse des engagements des différents membres grâce à des outils de fouille de données et accueille le sommet stratégique de l'organisation à Paris, ce mois-ci.
Face à la désinformation galopante et aux théories du complot, il est évident qu'une science qui fermerait les yeux sur des études bidonnées scierait sa propre crédibilité. Alors pour rester audibles et préserver la confiance des citoyens, on comprend que les scientifiques n'ont d'autre choix que de prouver une intégrité irréprochable.
Participer à la discussion
Partagez votre avis avec la communauté Clubic.