L'État de New-York souhaite faire la lumière sur le rôle des différentes plateformes sociales et leurs pratiques de modération.
La modération des réseaux sociaux et des plateformes communautaires est un problème majeur du Web depuis plusieurs années, et l'actualité récente le démontre une fois de plus.
Un attentat raciste diffusé en direct sur Twitch
Samedi 14 mai 2022, un jeune homme de 18 ans s'est rendu dans un supermarché de Buffalo et a assassiné 10 personnes à l'arme lourde, avant d'être arrêté par les forces de police.
L'homme avait diffusé en direct son action terroriste sur la plateforme de streaming Twitch avant que le signal ne soit coupé par la filiale d'Amazon deux minutes plus tard. Ce délai a toutefois été suffisant pour que nombre d'internautes récupèrent une copie, massivement partagée sur les réseaux sociaux encore aujourd'hui.
Un manifeste en ligne de 180 pages a également été découvert par les enquêteurs. L'auteur de ce crime détaillait ses motivations, et notamment son adhésion à la théorie raciste du « grand remplacement ».
Le tueur a expliqué ses plans sur Discord et d'autres forums sans jamais être inquiété
L'État de New-York vient d'ouvrir une enquête pour comprendre comment l'auteur de la tuerie a pu, des mois durant, discuter de son sinistre projet avec d'autres internautes sur Discord, 4chan et 8chan. Le tueur a notamment utilisé Discord 30 minutes avant le début de l'attaque et invité certains membres à examiner ses plans.
La procureur générale Letitia James, qui mène cette investigation, a déclaré qu'il était « effrayant et insondable » que l'homme ait pu propager et amplifier son discours de haine sans qu'à aucun moment ces plateformes n'aient pu modérer ses propos. Discord a indiqué par la voix de l'un de ses porte-parole son intention de coopérer avec les enquêteurs.
Cette affaire rappelle que la modération des contenus violents et haineux reste un problème pour les plateformes qui, malgré leurs efforts, semblent submergées et incapables d'endiguer le phénomène. Facebook a d'ailleurs rappelé récemment que 21,7 millions de posts contrevenant à ses règles d'utilisation avaient été supprimés sur le seul premier trimestre 2022. La vidéo de l'attaque a quant à elle été partagée sur le réseau social pendant plusieurs heures par plusieurs dizaines de milliers de comptes avant d'être retirée.
Source : Engadget