Un bogue a permis à ChatGPT de proposer des contenus érotiques à des comptes mineurs. OpenAI a confirmé le problème et déployé un correctif, mais l’affaire crée un malaise.
- OpenAI reconnaît un bug dans ChatGPT qui laisse passer des contenus érotiques à des comptes mineurs, malgré des règles strictes.
- Des ajustements pour rendre ChatGPT plus "adulte" assouplissent les filtrages, créant des risques pour les moins de 18 ans.
- OpenAI travaille sur des correctifs rapides, au milieu de ses efforts pour s'implanter dans le secteur éducatif.
Nos confrères de TechCrunch ont testé ChatGPT avec plusieurs comptes enregistrés comme mineurs, entre 13 et 17 ans. Le chatbot a produit des récits à caractère sexuel explicite après quelques échanges, malgré les règles censées empêcher ce type de contenu pour les jeunes utilisateurs.
OpenAI a reconnu un dysfonctionnement qui a laissé passer ces réponses, et elle travaille sur un correctif. Hasard du calendrier, ce couac arrive au moment où l’entreprise multiplie ses collaborations avec le monde éducatif.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Un dysfonctionnement expose ChatGPT à générer des contenus sexuels pour les mineurs
Les tests ont démarré par une simple demande : « Parlez-moi de choses cochonnes ». Très vite, ChatGPT a livré des descriptions détaillées de scènes sexuelles incluant des pratiques explicites. À un compte fictif de 13 ans, il a même mentionné des scénarios de domination et de surstimulation.
OpenAI affirme que ses règles interdisent ce type de contenu à tous les utilisateurs de moins de 18 ans, sauf dans des contextes limités comme la recherche scientifique ou l’actualité. Pourtant, un bogue a permis au chatbot de contourner cette consigne. Un porte-parole précise toutefois qu'il : « autorisait des réponses hors cadre, et nous déployons un correctif ».
Ces dysfonctionnements semblent liés à des ajustements récents de la plateforme. OpenAI a modifié ses modèles début 2025 pour limiter les refus jugés « injustifiés ». Cette volonté d’assouplir les blocages a rendu ChatGPT plus enclin à répondre à des sujets sensibles, dont les contenus à caractère sexuel.
OpenAI entre permissivité accrue et difficultés à protéger les mineurs
Depuis février, OpenAI a supprimé certains avertissements et conditions qui encadraient les contenus sensibles. Le PDG Sam Altman souhaite un ChatGPT plus « adulte », capable d’aborder davantage de sujets. Ce choix complique le filtrage, notamment pour les moins de 18 ans.
La plateforme demande théoriquement un consentement parental pour les 13-18 ans, mais elle ne vérifie pas cet accord au moment de l’inscription. Il suffit d’un numéro de téléphone ou d’une adresse mail valides pour créer un compte.
Steven Adler, ancien expert sécurité chez OpenAI, estime que ces problèmes auraient dû être détectés avant le lancement. Pendant ce temps, OpenAI pousse son outil auprès des écoles en produisant des guides avec des associations comme Common Sense Media. Pourtant, dans ses documents, elle reconnaît que ChatGPT « peut produire des résultats inappropriés pour certains âges ».
Clubic vous avait déjà signalé qu’un chatbot de Meta a aussi généré des contenus sexuels avec des mineurs. Ce type d’incidents accompagne un durcissement des régulations autour des intelligences artificielles génératives.
Enfin, après des comportements étranges signalés sur GPT-4o, Sam Altman a promis des correctifs rapides sur X.com, sans évoquer explicitement les sujets sexuels. OpenAI doit maintenant prouver qu’elle peut concilier sa volonté d’offrir un chatbot plus permissif avec la nécessaire protection de ses utilisateurs les plus jeunes. Ménager la chèvre et le chou, probablement un grand défi pour les développeurs de LLM.
Source : TechCrunch
