L’entreprise s’associe à la plateforme de signalement StopNCII et rejoint ainsi d’autres acteurs majeurs du web dans la lutte contre la diffusion d’images à caractère sexuel et pornographique sur Internet.
Il y avait la diffusion d’images à caractère sexuel non consenties et le revenge porn. Avec les progrès rapides de l’intelligence artificielle se développent maintenant les deepfakes pornographiques, photos pornographiques créées par l’IA générative. Des pratiques illégales de plus en plus répandues, qui touchent principalement les femmes et les enfants, dont les clichés partagés sur les forums pédopornographiques proviennent de publications faites par leurs parents sur les réseaux sociaux. Face à ce fléau, Microsoft a annoncé avoir noué un partenariat avec l’association à but non lucratif britannique SWGfL, administratrice de la plateforme de signalement international StopNCII. Objectif : détecter et supprimer plus efficacement les contenus illicites liés à l’exploitation malveillante de l’image d’autrui sur son moteur de recherche Bing.
L'intelligence artificielle au service de la traque au revenge porn
Éliminer les photos de revenge porn et les deepfakes pornographiques du web : voilà une mission bien ambitieuse. Si l’on ne se leurre pas sur l’identité des vrais coupables, à savoir les personnes partageant en première instance et/ou relayant ces contenus illicites, les géants du web tiennent aussi leur part de responsabilité dans leur diffusion.
C’est face à ce constat que Microsoft s’est officiellement jointe à la lutte contre la propagation d’images à caractère sexuel non consenties. En partenariat avec StopNCII, l’entreprise a annoncé mettre en œuvre de nouvelles techniques de détection de ces types de contenus sur Bing en faisant appel à l’intelligence artificielle. Baptisée PhotoDNA, la fonctionnalité a été intégrée à la plateforme de signalement pour renforcer ses méthodes de détections originales. Testée sur Bing depuis le mois de mars dernier, la base de données de StopNCII enrichie de cette nouvelle option aura permis à Microsoft d’identifier et de supprimer 268 899 images diffusées sur Bing et les services de l’entreprise jusqu’à la fin du mois d’août.
Pour rappel, StopNCII est un service gratuit, accessible partout dans le monde, permettant aux victimes de revenge porn et de deepfakes pornographiques de soumettre leurs photos originales en vue de les traquer et de les supprimer du web. De manière concrète, la plateforme génère un hash pour les images soumises à vérification, empreinte qu’elle compare ensuite avec celle des photos rencontrées sur les sites web partenaire de l’organisation. On insiste sur le fait que les clichés signalés via StopNCII ne sont jamais uploadés sur les serveurs de l’association, et que les méthodes de dépôt de dossiers ne requièrent presque aucune information personnelle. L’enregistrement du signalement génère un numéro de dossier et un code PIN permettant de suivre la procédure, et n’exige jamais vos nom, prenom, adresse mail ou numéro de téléphone.
La bataille contre le revenge porn : où en sont les autres ?
Microsoft n'est pas seule dans ce combat. Plusieurs acteurs très influents sur le web, comme Meta (Facebook, Instagram, Thread), Snapchat, TikTok, Reddit, OnlyFans ou PornHub, participent déjà au développement de StopNCII pour mettre fin à la propagation de contenus non consentis, notamment ceux relevant du revenge porn et des deepfakes.
Un nom manque à l’appel : celui de Google, qui semble faire cavalier seul. Depuis quelques années maintenant, l’entreprise développe ses propres outils pour lutter contre ces contenus. Une absence dommageable malgré tout, surtout quand on connaît l’importance de Chrome et de l'ensemble de ses services. Il aurait en effet été souhaitable que la société joigne ses forces à celles d’un collectif déjà constitué, à plus forte raison quand on sait que les solutions unifiées favorisent l’efficacité des luttes communes.
À toutes fins utiles, on rappelle que le revenge porn est un délit grave, passible d’une peine de deux ans d’emprisonnement et de 60 000 euros d’amende si la victime et majeure, cinq ans de prison et 75 000 euros d’amende si la victime est mineure. Les deepfakes pornographiques, représentant 96% des deepfakes et visant des femmes dans 99% des cas, n’ont pas encore fait l’objet d’une législation claire, bien que le Code pénal prévoie déjà la répression des montages vidéo diffusés sans le consentement de la personne ciblée, ainsi que la répression des clichés sur lesquels le droit à l’image n’a pas été respecté. C’est encore trop léger, mais l’Union européenne planche actuellement sur un projet de loi visant à criminaliser les deepfakes pornographiques.
Sources : Microsoft, StopNCII, Bleeping Computer
Microsoft Bing est un moteur de recherche complet qui offre aux utilisateurs une expérience de recherche moderne et personnalisée. Avec son interface épurée, sa recherche visuelle, son programme Bing Rewards, Bing Maps, sa recherche sociale, ses services d'actualité, et maintenant avec l'intégration de ChatGPT, Bing constitue un guichet unique pour trouver des informations et rester connecté au monde.
- L'intégration de ChatGPT
- Filtres pour la recherche d'images
- Filtres des actualités par sources
- Promotion perpétuelle des apps et services de Microsoft
- Listing des résultats web peu original
