C’est le risque quand on licencie une bonne partie de son équipe de modération. Des fausses photos et vidéos pornographiques de Taylor Swift circulent sur X sans que la modération ne parvienne à y faire quelque chose.
Le symbole est catastrophique. Des dizaines d’images générées par IA montrant Taylor Swift dans des positions suggestives sont apparues sur X, le réseau social d’Elon Musk, ces derniers jours. Et il semblerait que la modération du site soit complètement incapable de faire face aux déluges de deepfakes touchant la star de la pop.
Une modération trop laxiste
D’après le site 404 Media, une bonne partie de ces montages illégaux viendraient d’un groupe Telegram dédié à la production de fausses images via IA. Un post, désormais supprimé, est parvenu à atteindre 45 000 millions d’impressions, a attiré des milliers de likes et généré 24 000 retweets avant d’être enfin supprimé par les équipes de modération du site. Le contenu, posté par un utilisateur « vérifié », sera resté en ligne pendant 17 h en tout, le temps que des centaines d’autres comptes aient l’occasion d’enregistrer et de repartager ces images sur X et d’autres plateformes.
Le manque d’efficacité de la modération dans cette affaire est d’autant plus critique que les règles d’utilisation de la plateforme précisent noir sur blanc que les « contenus trompeurs » sont interdits, notamment ceux « employant des algorithmes d’intelligence artificielle pour créer des images contenant de vraies personnes ». Et c’est loin d’être la première fois que ce phénomène se manifeste sur X.
Un historique catastrophique
En juin 2023, des stars de TikTok se sont retrouvées malgré elles dans des deepfakes pornographiques circulant sur la plateforme. En France, la journaliste Salomé Saqué a été victime des mêmes tactiques d’intimidation et de harcèlement. Même des personnes peu ou pas connues peuvent être victimes du même sort, mais l’affaire Taylor Swift a comme intérêt d’amener le problème sur le devant de la scène en raison de l’immense popularité de la chanteuse.
Ces problèmes saillants chez X apparaissent alors qu’Elon Musk a largement taillé dans les effectifs de modération l’année dernière et que la plateforme est précisément surveillée de très très près par l’Union européenne pour ces raisons. Rappelons qu’en France, le Code pénal interdit « le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement ».
- Instantané dans l'information
- Messages courts
- Hashtags, tendances, tweet et retweet
Source : 404 Media
