Soulagement chez les étudiants fainéants ? Les outils pour détecter les textes rédigés par des IA ne fonctionnent pas

La rentrée scolaire commence à peine, et les élèves devraient à nouveau se tourner vers des outils tels que ChatGPT pour faciliter leur travail, voire le bâcler. S'agira-t-il d'une opportunité durable pour les pupilles et d'un désastre pour les enseignants ? Peut-être pas.

Depuis sa sortie, le chatbot d'OpenAI fait grandement parler de lui et suscite même des préoccupations. Alors que certains craignent que de trop nombreux emplois soient remplacés par l'intelligence artificielle, les académies s'inquiètent vivement de voir une partie des parcours scolaires rendus obsolètes.

Le nouvel ennemi des écoles

OpenAI, l'éditeur de ChatGPT, veut rassurer les enseignants. À la veille de la rentrée scolaire, l'entreprise américaine a publié une série de recommandations à l'attention des enseignants pour les aider à assimiler l'outil. Au lieu d'être un véritable fléau pour les travaux d'écriture, celui-ci se veut un véritable partenaire d'apprentissage. Pourtant, il y a quelques semaines, le ton n'était pas tout à fait le même.

Les étudiants n'ont pas hésité à saisir les opportunités et à utiliser ChatGPT pour leurs travaux d'écriture. Ce n'est évidemment pas du goût des professeurs, qui perdent alors l'intérêt de ces travaux qui sont, du moins pour l'instant, considérés comme essentiels dans le cursus des élèves. Face à la levée de boucliers des académies, de nombreux développeurs se sont empressés de créer des programmes censés pouvoir détecter si un texte a été écrit par un chatbot ou non.

Mais malgré leurs efforts, les résultats ne sont pas au rendez-vous, et OpenAI elle-même n'a pas réussi à créer un outil fiable. L'entreprise a d'ailleurs abandonné AI Classifier, qui avait un taux de détection de 26 %, quand il ne créait pas tout simplement de faux positifs. De plus, l'entreprise souligne que ChatGPT lui-même « ignore quel contenu pourrait être généré par l'IA. Il invente parfois des réponses à des questions telles que "avez-vous écrit cette rédaction ?" ou "ceci pourrait-il avoir été écrit par l'IA ?". Ses réponses sont aléatoires et ne reposent sur aucun fait. »

Le nouvel outil incontournable des étudiants

Cependant, OpenAI souligne que ChatGPT n'est pas parfait. En effet, si l'outil est extrêmement puissant, il a des limites qui peuvent rapidement affecter ses résultats. Par exemple, des signes révélateurs apparaissent souvent dans les copies quand elles ne sont pas un minimum relues, telle que l'expression « en tant que modèle linguistique d'IA ». Des chercheurs ont également été pris la main dans le sac, leur publication contenant le texte « Regenerate response », présent sous toutes les réponses du chatbot. Enfin, le style de ChatGPT est repérable, d'autant plus lorsque les compétences rédactionnelles d'un étudiant évoluent radicalement d'un jour à l'autre. Ce n'est toutefois pas la manière la plus évidente pour l'enseignant de le détecter, du moins selon les cas.

Quoi qu'il en soit, les enseignants vont devoir composer avec cette situation, et si OpenAI a mis ses recommandations à leur disposition, c'est pour une bonne raison. Selon Similarweb, le nombre d'utilisateurs de ChatGPT aux États-Unis est reparti à la hausse au mois d'août (+0,4 %), à l'inverse du reste du monde. Et surtout, après plus de trois mois de baisse inexorable, même chez les étudiants, la société d'analyse a souligné dans son dernier rapport sur le sujet que « le pourcentage d'utilisateurs dans la tranche d'âge 18-24 ans, qui dépassait les 30 % en avril, est tombé à moins de 27 % en juillet ».

Reste à savoir si cette tendance se poursuivra dans les mois à venir, en particulier dans les régions du monde où le début de l'année scolaire n'est pas en août, mais en septembre. Il se pourrait bien que les chatbots soient entrés dans les mœurs... et dans les cartables.

Sources : ArsTechnica, Mashable