Le nombre de deepfakes en ligne aurait augmenté de 84% en moins d'un an

© Shutterstock.com

D'après une étude de Deeptrace, une société néerlandaise spécialisée dans la cybersécurité, la quantité de deepfakes présents sur Internet aurait augmenté de 84% en moins d'un an.

L'étude précise que l'écrasante majorité (96 %) des deepfakes actuellement en ligne sont à caractère pornographique.

Prêter son visage sans son consentement

Les deepfakes sont des contenus visuels (ou parfois uniquement audio) qui ont été modifiés par une intelligence artificielle. Grâce à une série de photos, l'IA peut remplacer le visage d'un acteur ou d'un actrice d'un film par exemple, par le visage d'une personne, générant un résultat particulièrement réaliste. On a pu ainsi voir Tom Cruise jouer Iron Man à la place de Robert Downey Jr.

Ici, le résultat prête davantage à sourire. Mais les objectifs ne sont pas toujours aussi innocents. En plus des vidéos à caractère pornographique, des deepfakes audio ont déjà été utilisés pour prêter à des personnalités politiques des propos qu'elles n'ont jamais tenus.

Le boom des deepfakes pornographiques

Or, de nombreuses personnalités, majoritairement féminines, ont récemment « pris la place » d'actrices pornographiques. L'actrice américaine Scarlett Johansson s'est ainsi insurgée contre les deepfakes après que son visage a été utilisé dans une vidéo pornographique.

Ce phénomène, d'après DeepTrace, est en pleine expansion. La société a réalisé un recensement des deepfakes disponibles en ligne en juin et juillet : elle en a dénombré 14 698. En décembre dernier, la même société en avait comptabilisé 7 964, observant aujourd'hui une augmentation de 84 % en huit mois. Dans 96 % des cas, ces contenus sont à caractère pornographique et impliquent des femmes.

Le rapport précise également que près de la moitié des deepfakes mettent en scène des actrices américaines ou britanniques. Les stars de la K-Pop, un style musical d'origine coréenne, sont aussi largement sollicitées.

Si des entreprises proposant de créer des deepfakes commencent à apparaître, la lutte contre les contenus illégaux s'organise également. Google a lui-même créé 3 000 deepfakes pour exercer des algorithmes à les détecter. La Californie a également réagi en interdisant la création et la distribution de ces contenus.

Source : Tech Times