Google a annoncé déclasser les sites Web hébergeant des deepfakes pornos dans ses résultats de recherche. Mais pour les victimes de ces faux contenus explicites générés par l'IA, cette mesure ne va pas assez loin pour les protéger.
La propagation des vidéos deepfakes pornographiques sur Internet est devenue un véritable fléau ces dernières années. Ces contenus dits « synthétiques », créés grâce à l'intelligence artificielle, permettent de superposer numériquement le visage d'une personne sur celui d'un acteur porno, sans son consentement. De nombreuses personnalités comme Taylor Swift, mais aussi des gens ordinaires, ont ainsi été victimes de cette forme de harcèlement et de diffamation en ligne.
Face à l'ampleur du problème, Google, qui se disait dépassé par ce phénomène en 2023, a décidé d'agir en abaissant le classement des sites Web hébergeant ces deepfakes pornographiques dans les résultats de sa recherche. Mais pour les victimes, cette décision ne va pas assez loin. Elles dénoncent le caractère laborieux des procédures actuelles de suppression de contenu et réclament des mesures plus strictes de la part des grands du GAFAM, mais de Google en particulier. Après avoir décidé de supprimer les publicités pour les contenus pornographiques générés par l'IA au début du mois de mai 2024, le mastodonte des moteurs de recherche va-t-il faire de même avec lesdits contenus ?
10 novembre 2024 à 19h08
Le déclassement, une mesure a minima pour Google
Dans un article publié la semaine dernière, le site Ars Technica révélait que Google avait commencé à déclasser les sites pornographiques proposant des deepfakes dans les résultats de son moteur de recherche. Cette décision fait suite à de nombreuses pressions de la part d'associations militant contre la diffusion de ces faux contenus explicites sans le consentement des personnes représentées.
Concrètement, Google n'a pas choisi d'interdire totalement ce type de contenu sur son moteur. Les sites deepfakes porno ne seront pas non plus complètement invisibles, mais simplement relégués aux dernières pages des résultats de recherche, peu consultées par les utilisateurs. Un porte-parole de Google a expliqué ce choix par la volonté d'éviter la censure tout en luttant contre ces contenus « trompeurs et préjudiciables ».
La firme de Mountain View semble ainsi vouloir trouver un équilibre délicat entre la liberté d'expression en ligne et la protection de la vie privée. Mais en choisissant de simplement déclasser plutôt que supprimer, Google laisse la porte ouverte à ces pratiques controversées. Une décision qui ne convainc pas pleinement les victimes de deepfakes porno.
Pour les victimes, le déclassement n'est pas une solution pérenne
Dans un article de Bloomberg, plusieurs personnes s'étant fait usurper leur image dans des deepfakes porno ont dénoncé l'insuffisance de la mesure prise par Google. Selon elles, le simple déclassement de ces contenus dans les résultats de recherche ne les empêchera pas de continuer à se propager sur le Web et les plateformes.
« Tant que ces vidéos resteront en ligne quelque part, elles continueront à me hanter et à me causer d'immenses souffrances psychologiques », témoigne ainsi une jeune femme de 25 ans, victime d'un de ces deepfakes pornographiques la représentant dans des actes sexuels explicites.
Au-delà de leurs craintes de voir ces faux contenus continuer à se répandre, les victimes dénoncent surtout le poids et les délais considérables que représentent les procédures actuelles de demande de suppression de ces vidéos. « On nous demande d'identifier et de signaler une à une chaque instance de ces deepfakes sur tous les sites et plateformes les hébergeant, c'est un parcours du combattant sans fin », déplore une autre plaignante.
Au-delà d'un simple déclassement, la suppression pure et simple de ces contenus illégaux semble la seule solution définitive pour les victimes. Un débat éthique et juridique complexe se profilerait-il sur ce sujet sensible ?
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
Source : Ars Technica, Bloomberg (en anglais, accès payant)
