Le site est à nouveau accusé de ne pas suffisamment modérer les contenus publiés et de laisser passer des vidéos et des commentaires frisant la pédopornographie. YouTube affirme de son côté mettre tout en oeuvre pour détecter et supprimer les publications contrevenant à ses conditions d'utilisation.
Droit de réponse envoyé par YouTube :
« Tout contenu - y compris les commentaires - qui met en danger des mineurs est odieux et nous avons des règles claires les interdisant sur YouTube. Nous avons immédiatement pris les mesures correspondantes, en supprimant des chaînes et des comptes, en signalant toute activité illégale aux autorités et en désactivant les commentaires sur des dizaines de millions de vidéos incluant des mineurs. Il reste encore des choses à faire, et nous continuons à travailler pour améliorer notre dispositif et être encore plus rapide pour appréhender ces abus ».
« Tout contenu - y compris les commentaires - qui met en danger des mineurs est odieux et nous avons des règles claires les interdisant sur YouTube. Nous avons immédiatement pris les mesures correspondantes, en supprimant des chaînes et des comptes, en signalant toute activité illégale aux autorités et en désactivant les commentaires sur des dizaines de millions de vidéos incluant des mineurs. Il reste encore des choses à faire, et nous continuons à travailler pour améliorer notre dispositif et être encore plus rapide pour appréhender ces abus ».
YouTube est une nouvelle fois confronté à des critiques sur sa politique de modération. Un utilisateur de la plateforme, Matt Watson, a publié un article sur Reddit où il y explique avoir trouvé des dizaines de vidéos d'enfants dans des poses suggestives. Il ajoute que les commentaires sous ces vidéos contiennent régulièrement des propos douteux, voire des liens menant à des sites pédophiles. TechCrunch, à l'origine de l'enquête, n'a pas pu confirmer ce dernier point.
Un « cercle de pédophilie » mis en place par les algorithmes
Le créateur ne s'est pas arrêté là et a démontré que l'algorithme de recommandations de YouTube poussait les utilisateurs vers ces vidéos. Un utilisateur regardant deux vidéos de jeunes filles en bikini (ce qui est toléré par la plateforme) va se voir suggérer une autre vidéo d'une fête d'adolescentes autour d'une piscine.Une fois avoir cliqué sur ce lien, les recommandations de YouTube vont pousser automatiquement différentes vidéos de jeunes filles pré-pubères, dans des situations et des poses équivoques. Les commentaires quant à eux sont moins subtils, entre emojis sexuellement suggestifs et propos abjects. Matt Watson appelle ce procédé un « cercle de pédophilie » qui permet aux personnes déviantes de se voir proposer un contenu sur-mesure.
Si certains commentaires sont signalés comme supprimés, ce qui montre qu'a la fois les utilisateurs et l'IA ont opéré une modération, le vidéaste affirme que certaines des vidéos contenaient des publicités et étaient donc monétisées.
Une modération quasi-impossible au vu du volume publié
Contacté, YouTube se réfugie derrière ses règles d'utilisation. Le géant de la vidéo indique dans une déclaration mettre tout en oeuvre pour lutter rapidement et efficacement contre ce type de contenus et de propos délictueux.Un porte-parole de l'entreprise note toutefois que les vidéos repérées par Matt Watson sont celles d'enfants ou d'adolescents effectuant des tâches quotidiennes. Il pointe le problème que rencontre YouTube, se reposant majoritairement sur des algorithmes pour accepter ou refuser un contenu.
L'intelligence artificielle ne prend pas en compte le contexte d'une vidéo et peut y voir une scène tout à fait banale quand certains éléments malsains mettraient la puce à l'oreille d'un modérateur humain. YouTube indique avoir 10 000 employés chargés de surveiller le contenu publié.
La tâche parait toutefois impossible. Chaque minute, 400 heures de vidéo sont publiées sur YouTube et l'entreprise n'aura d'autre choix que d'améliorer rapidement ses processus de détection automatique pour régler la question.
