© Pixabay
Microsoft a annoncé la mise en place d'un outil visant à surveiller les discussions tenues sur les jeux en ligne de son Xbox Live. L'objectif : détecter et empêcher les agissements de prédateurs sexuels, en particulier pédophiles.
L'outil, connu sous le nom de « Projet Artemis », doit être partagé avec des organisations à but non lucratif et des concepteurs de jeux et de messageries.
Artemis au secours des modérateurs
Le post de blog de Microsoft donne davantage d'informations sur le fonctionnement du logiciel. En théorie, celui-ci est très simple : il scanne toute conversation textuelle et lui attribue une note en fonction de la probabilité d'une activité pédophile. Des modérateurs humains peuvent ensuite examiner les conversations marquées par l'outil et, si besoin, les signaler aux forces de l'ordre.Malgré la fermeture d'un très important site pédophile du dark web et l'arrestation, en octobre dernier, de 300 suspects, la diffusion de contenus à caractère pédophile continue de croître sur Internet. Bloomberg, qui cite le New York Times, affirme qu'un record de 45 millions d'images d'abus sexuels infantiles sont actuellement en ligne.
L'initiative de Microsoft vise à aider des modérateurs submergés, dont le travail est rendu encore plus complexe par les applications de chat privé. De nombreux prédateurs sexuels utilisent en effet les messageries intégrées à des plateformes de jeux vidéo.
Artemis pourrait participer à la lutte contre ce fléau en autorisant l'analyse massive et automatique de conversations textuelles. En revanche, l'outil ne pourra rien contre les conversations vocales qui se tiennent sur les jeux multijoueurs, et qui constituent un autre moyen d'échange très utilisé par les pédophiles.
Un logiciel pour Skype également ?
L'initiative de Microsoft aurait déjà plus d'un an. « Le développement de cette nouvelle technique a commencé en novembre 2018, lors d'un "Hackathon 360 intersectoriel" de Microsoft co-parrainé par la WePROTECT Global Alliance et en collaboration avec la Child Dignity Alliance », précise le géant américain sur son blog. « Ces hackathons sont multifacettes, ne s'intéressant pas seulement à la technologie et à l'ingénierie, mais aussi à des aspects légaux ou politiques, ainsi qu'à des opérations et des politiques d'implémentation ».Microsoft a déjà testé son logiciel sur son Xbox Live ainsi que sur Skype. À partir du 10 janvier, il sera proposé gratuitement via l'association à but non lucratif Thorn. Spécialisée dans la lutte contre la pédophilie, cette dernière pourra transmettre le logiciel à toute entreprise qui en fera la demande.
Source : Bloomberg
