Le GPT Store, regroupant les plugins de ChatGPT, est inondé de GPT bizarres et potentiellement contraires aux droits d'auteur, révélant l'absence de modération de la part d'OpenAI.
Sam Altman avait présenté le GPT Store lors du DevDay d'OpenAI comme un magasin regroupant les « GPT », ces plugins personnalisés de ChatGPT, pour améliorer leur utilisation de l'intelligence artificielle. De son propre aveu, il était d'ailleurs possible de « créer un GPT pour presque n'importe quoi ». Il ne croyait pas si bien dire.
En effet, le site américain TechCrunch a mis les mains dans le moteur du GPT Store et a trouvé « n'importe quoi » parmi tous ces GPT étranges, qui violent potentiellement les droits d'auteurs, usurpent l'identité de personnalités ou partagent des spams. Le tout reflète l'absence criante de modération du store.
Malgré des failles de sécurité (corrigées) dans ces GPT, qui auraient pu mettre en danger les données de millions d'utilisateurs, la boutique officielle de ChatGPT aurait besoin d'un grand ménage de printemps.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Le GPT Store, un véritable bazar numérique, rempli de contenus étranges, potentiellement illégaux et contraires à l'éthique
Le magasin GPT est une caverne d'Ali Baba de GPT qui exploitent les failles du système d'évaluation d'OpenAI.
On y trouve par exemple des pirates de l'IA, qui s'approprient en toute décontraction des personnages célèbres de films, de séries et de jeux vidéo, violant les droits d'auteur des ayants droit. Rappelons que la violation de droits d'auteur avait déjà valu à OpenAI quelques démêlés judiciaires. Parmi les exemples flagrants, on trouve un chatbot qui crée des monstres dans le style de Monstres et Cie et un autre qui promet des aventures textuelles dans l'univers de la saga Star Wars.
La triche est également dans les rayons du store avec des plugins qui promettent la reformulation humaine, permettant de fait de contourner les détecteurs de plagiat ou d'utilisation d'IA dans leurs contenus. L'usurpation d'identité se taille une belle place avec les GPT qui se font passer pour des personnalités publiques, entraînant potentiellement confusion et manipulation, comme ceux imitant Elon Musk, Donald Trump ou des acteurs célèbres.
Enfin, les « jailbreakers » permettent aux utilisateurs de contourner les règles de sécurité de ChatGPT lui-même, en obtenant des réponses aux prompts que l'IA a pourtant bannis, comme Microsoft l'a fait avec Copilot.
Le GPT Store repose sur un modèle économique fragile confronté à des problèmes de taille
Le GPT Store s'inspire du modèle lucratif de l'App Store d'Apple, qui permet aux développeurs de GPT de gagner de l'argent grâce à leur utilisation. Malgré des débuts similaires à tous les stores, à savoir balbutiants, le modèle économique du GPT Store se heurte à de nombreux obstacles.
La plateforme souffre d'une modération défaillante, si l'on en juge par la seule prolifération de contenus non conformes aux règles d'OpenAI. Ce trou dans la raquette met en danger la crédibilité de la plateforme et nuit à l'expérience des utilisateurs. L'absence de contrôles rigoureux et de sanctions dissuasives encourage en outre les abus et crée un environnement chaotique.
Un manque d'outils d'analyse et une expérience d'accueil médiocre freinent l'attractivité de la boutique GPT pour les développeurs de plugins, selon un rapport du site The Information. L'absence de données concrètes sur l'utilisation des GPT et de moyens de monétiser efficacement leur travail les décourage à s'investir sur la plateforme.
Enfin, la monétisation de contenus potentiellement illégaux et contraires à l'éthique pose de graves problèmes de responsabilité pour OpenAI. L'entreprise se trouve face à un choix crucial : fermer les yeux sur ces pratiques et risquer sa réputation, ou prendre des mesures strictes pour garantir l'intégrité de sa plateforme. L'éthique ou le juridique, il faut choisir.
10 novembre 2024 à 19h08
Sources : TechCrunch, The Information
