Au tour du créateur de ChatGPT de proposer un détecteur de... ChatGPT

Sous la pression des nombreux détracteurs de ChatGPT, OpenAI craque et propose un outil de détection pour déterminer l'origine d'un texte.

Cette initiative vient peu après le développement de DetectGPT du côté de l'université de Stanford. La start-up montante précise cependant, dans une métaphore bien trouvée, que son nouvel outil trouve un point commun avec le fameux et perfectible test Voight-Kampff de Blade Runner.

T-800 contre T-1000, version ChatGPT

Alors que l'extrêmement populaire chatbot d'OpenAI commence à être bloqué dans certaines institutions comme les écoles, des idées bourgeonnent pour aider à déceler si un texte a été généré ou non par une IA. L'efficacité du chatbot ChatGPT présente en effet de potentielles et dangereuses dérives, puisqu'il a notamment réussi un examen d'entrée à la fac de droit américaine sans trop se fatiguer.

Face à cette pression, le nouveau partenaire privilégié de Microsoft présente une première ébauche d'arme contre sa propre création. Ce nouvel outil prend la forme d'un conteneur de texte dans lequel il convient de copier-coller un texte, justement.

Après analyse, le détecteur rendra sa sentence ainsi s'il considère que le texte a été écrit par un humain : « Le classificateur considère le texte comme très peu probablement généré par une IA. » Dans la situation contraire, sa réponse sera la suivante : « Le classificateur considère le texte comme étant possiblement généré par une IA. »

ChatGPT rêve-t-il d'essais électriques ?

Cette réponse demeure pour l'instant lacunaire, mais son jugement s'avère généralement correct. L'analyse de plusieurs articles écrits par un rédacteur de chair et d'os a ainsi rendu le verdict « très peu probablement générés par une IA » (tant que l'on ne va pas les chercher du côté de CNET), tandis que des essais demandés à la hâte sur ChatGPT reçoivent le label « possiblement générés par une IA ».

OpenAI avertit cependant quant aux limites de ce relativement jeune détecteur. La start-up préconise notamment de ne pas l'utiliser seul ni de prendre son avis pour argent comptant. De même, le détecteur fonctionne pour l'instant principalement sur l'analyse de textes de plus de 1 000 caractères.

Doucement mais sûrement, des garde-fous se mettent donc en place autour de cet outil fort pratique, mais ouvrant plusieurs portes qu'il serait plus sage de garder fermées. Alors que l'intelligence artificielle est un sujet bouillant de l'actualité, gageons que d'autres initiatives du même acabit se développeront au fur et à mesure contre la prolifération des générateurs de contenu assistés par l'IA.

Source : OpenAI