Une nouvelle étude indépendante révèle que les moteurs de recherche de Google et de Microsoft ne parviennent pas à lutter efficacement contre les sites pornographiques qui font usage du deepfake. Les vidéos et les photographies truquées par IA se multiplient et, avec elles, les difficultés pour les victimes.
Menée par un chercheur qui souhaite rester anonyme afin de ne pas être ciblé, l'étude montre que le nombre de vidéos pornographiques truquées et mises en ligne après usage de l'intelligence artificielle est en très forte augmentation d'année en année.
La multiplication des outils permettant la création et la diffusion de deepfakes semble poser de grandes difficultés aux moteurs de recherche avec un constat inquiétant : 50 à 80 % des utilisateurs y accèdent avec une simple recherche.
Des deepfakes par centaines de milliers
Le principe de base du deepfake NCEI (synthetic non-consensual exploitative images), à savoir trafiquer une photo ou une vidéo pour donner aux personnes dessus une autre apparence, est aussi vieux que les supports eux-mêmes. Mais depuis quelques années et la nouvelle accessibilité des IA, le phénomène progresse de façon exponentielle, notamment dans le domaine de la pornographie. Une nouvelle analyse indépendante montre que, sur les neuf premiers mois de l'année, 113 000 vidéos deepfakes ont été mises en ligne sur les sites analysés.
Cela constitue une augmentation de 54 % par rapport à la même période en 2022, et le total de vidéos produites sur l'année devrait dépasser le cumul des deux années précédentes. Au-delà du préjudice causé aux personnes dont le visage se retrouve sans leur autorisation dans des contenus pour adultes, il semble que les moteurs de recherche peinent grandement à faire face. La recherche met en avant 35 sites qui indiquent clairement faire usage de deepfakes et 300 autres qui en intègrent d'une façon ou d'une autre.
Par l'intermédiaire d'une analyse réalisée par le service SimilarWeb, le rapport de recherche montre que 50 à 80 % des visites sont réalisées à partir d'une recherche sur les moteurs de recherche tels que Chrome ou Bing. Ces derniers ont réagi, précisant qu'ils travaillent activement à améliorer la situation, et qu'il est possible de signaler les contenus non autorisés par l'intermédiaire de formulaires dédiés.
Les spécialistes peu optimistes sur l'évolution de la situation
Les perspectives quant à l'évolution de la situation autour de la prolifération des deepfakes, surtout lorsqu'ils sont d'ordre pornographique ou visant à mettre en place un chantage, ne sont pas très bonnes si l'on en croit les spécialistes. D'une part, le problème semble mondial puisqu'à l'aide d'un VPN, le chercheur anonyme a pu assez facilement accéder aux contenus sur les cinq continents. D'autre part, Asher Flynn, professeur agrégé à l'Université Monash en Australie, indique que la demande est en hausse et que la législation ne peut pas suivre le rythme imposé.
Pour le moment, les réclamations et les dépôts de plaintes constituent les principaux leviers pour faire retirer les vidéos, mais ça n'est pas suffisant. Selon Henry Ajder, expert en IA générative, il faut d'abord rendre la recherche le plus difficile possible. Autrement dit, à défaut de pouvoir lutter contre la prolifération, il faut essayer d'invisibiliser le contenu. Cela passe notamment par un déclassement de certains résultats ou par le blocage des sites repérés. Ailleurs, comme sur Twitch, c'est désormais un motif de bannissement.
« Il est difficile d'être vraiment optimiste, compte tenu du volume, de l'ampleur de ces opérations, et de la nécessité pour les plateformes qui, historiquement, n'ont pas pris ces problèmes au sérieux, de s'y mettre soudainement », indique Henry Ajder.
Enfin, au bout de la chaîne, on trouve les victimes, sur lesquelles l'impact de la diffusion de contenus truqués ou volés peut être énorme. Outre l'atteinte évidente à la vie privée, à l'image, voire à la dignité des personnes, les recherches révèlent un impact durable et une augmentation du phénomène de cyberharcèlement. Asher Flynn explique ainsi que ses travaux ont mis en lumière un impact potentiel sur la santé physique, mentale, l'emploi, la famille et la vie sociale des personnes touchées.
Source : WIRED
