Un nouveau détecteur de texte généré par ChatGPT vient de voir le jour. Faites place à Draft & Goal !
L'émergence du chatbot ChatGPT inquiète, avec la possibilité donnée d'utiliser l'IA pour générer des devoirs scolaires ou des messages automatiques de spam par e-mail. Heureusement, les outils de détection de l'IA se développent, comme aujourd'hui avec Draft & Goal.
Les détecteurs d'IA seront bientôt nécessaires
ChatGPT a peut-être déjà bouleversé le monde. Alors que le chatbot n'en est encore qu'à ses balbutiements, l'apparition d'une technologie capable de donner des réponses construites et complexes à de simples interrogations inquiète de nombreuses institutions. C'est notamment le cas de l'école, comme le montre le bannissement de l'IA de l'ensemble du réseau éducatif de New York.
Il faut dire que l'intelligence artificielle développée par OpenAI est capable de rédiger des devoirs, des poèmes ou même des malware. Il est alors nécessaire de pouvoir repérer rapidement ses productions. Un étudiant de Princeton s'y était déjà essayé il y a quelques semaines. Et aujourd'hui, c'est un outil plus élaboré d'origine franco-canadienne qui voit le jour : Draft & Goal.
À l'affût des erreurs de l'IA
Le système développé pour détecter un texte produit par ChatGPT s'appuie sur les erreurs que fait (pour le moment) l'IA. Comme l'explique le responsable du projet Vincent Terrasi, Draft & Goal repère les fautes communes commises par ChatGPT : les répétitions, les erreurs de grammaire, les contradictions, le jargon trop technique, les exagérations, les erreurs de calcul et même les « hallucinations ».
L'objectif est, affirme l'entrepreneur, de « détecter la triche chez les étudiants, les fake news sur les réseaux sociaux, les faux avis sur les sites, les bots par e-mail, [et plus généralement] tout ce qui permet une utilisation malsaine de l’IA ».
Cet instrument n'en est qu'à ses débuts. Pour le moment utilisable avec des textes en anglais, il devrait pouvoir dans les prochains jours travailler sur ceux rédigés en français. L'équipe ambitionne aussi de pouvoir à terme diagnostiquer des textes longs. Elle annonce par ailleurs avoir déjà mis au point une API et va prochainement partager ses datasets.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Source : Vincent Terrasi sur Twitter
