Des centaines de milliers d'utilisateurs ont recours à une intelligence artificielle pour générer des images de femmes dénudées à partir de photos réelles.
Déployé sur sept chaînes Telegram, le bot crée gratuitement des deepfakes. Plus de 60% des contenus concernent des relations personnelles des utilisateurs.
Les deepfakes : du porno avec les visages de proches
Un rapport de l’entreprise Sensity met le doigt sur un réseau de robots conversationnels générant gratuitement des deepfakes sur Telegram. D’après l’enquête de cette entreprise de cybersécurité spécialisée dans les « menaces visuelles », 104 852 femmes « ont été ciblées et ont vu leur image personnelle "dénudée" et partagée publiquement » en trois mois. Une gigantesque production d’images qui aurait doublé de volume depuis fin juillet.
Mais un deepfake, c’est quoi au juste ? Une technique basée sur l’intelligence artificielle qui génère des images à partir de fichiers photo et vidéo. Un deepfake permet de prendre le visage d’une personne et de le superposer au visage d’une autre de manière réaliste. Exemple : cette vidéo où l’on voit Barack Obama parler, alors qu’il s’agit en réalité du comique Jordan Peele.
Au-delà du canular, cette technique a vu émerger des usages bien moins comiques, notamment à des fins de désinformation ou de pornographie. C’est ce dernier usage que pointe le rapport de Sensity. Il suggère que le bot serait une version open-source de DeepNude, une application commercialisée en 2019 qui générait des deepfakes.
Les victimes de deepfakes exposées à des risques
D’après l'enquête menée par Sensity auprès des utilisateurs du bot, 63% des deepfakes sont générés à partir de visages de femmes connues personnellement par les utilisateurs. Ces derniers utilisent des images issues d’un réseau social ou bien des photos personnelles pour générer des avatars dénudés. 16% des utilisateurs préfèrent générer des deepfakes à partir de visages de célébrités, 8% de modèles ou d’influenceuses Instagram, et 7% de femmes aléatoires. Sensity note également qu’un nombre – limité – de deepfakes concerne des personnes mineures.
Le rapport dénombre plus de 103 000 utilisateurs de ce réseau. Près de 70% d’entre eux sont basés en Russie ou dans des pays d’ex-URSS. La compagnie de cybersécurité suggère que le bot a été popularisé via le réseau social VK, très populaire chez les utilisateurs russes, biélorusses et kazakhs. Seulement 3% des utilisateurs du bot seraient issus de pays anglophones (États-Unis, Royaume-Uni, Canada, Australie…) et 2% de pays francophones, italophones ou germanophones.
Si Sensity note que l’usage principal de ces deepfakes est d’ordre pornographique, le rapport pointe également le risque que ces contenus soient utilisés pour du chantage (contre de l’argent) ou pour humilier publiquement la victime (le fameux revenge-porn).
