Google améliore ses outils pour lutter contre les deepfakes pornographiques non consentis dans ses résultats de recherche. Le géant du Web facilite le signalement et la suppression de ces contenus pour les victimes. Cependant, les sites hébergeant ces images restent accessibles via des recherches générales.
L'essor de l'intelligence artificielle génère de nouvelles menaces en ligne. Parmi elles, la création et diffusion de deepfakes à caractère pornographique inquiètent particulièrement. Ces contenus, créés sans consentement, causent de graves préjudices aux victimes, majoritairement des femmes, comme le rapportent nos confrères du site The New York Times. Google, propriétaire du populaire navigateur Web Chrome, conscient du problème, vient d'annoncer des mesures pour limiter leur propagation via son moteur de recherche.
Le géant californien simplifie le processus de signalement pour les personnes ciblées. Il promet aussi de supprimer automatiquement les copies d'images signalées. En parallèle, Google modifie ses algorithmes pour déclasser ces contenus problématiques dans les résultats. L'objectif affiché : réduire la visibilité de ces fausses images intimes et protéger la réputation des victimes.
Google simplifie le signalement des deepfakes pornographiques
Clubic vous en parlait déjà en mai dernier, Google annonçait déjà ce déclassement de ce type de contenus, pour aider les victimes de deepfakes à caractère sexuel. Cette fois, le processus de signalement a été grandement simplifié. Désormais, lorsqu'une personne demande le retrait d'un contenu explicite la concernant, les systèmes de Google filtreront automatiquement les résultats similaires dans les recherches à son sujet. Fini le calvaire de devoir signaler chaque image individuellement.
Le moteur de recherche ira même plus loin en traquant et supprimant les doublons de l'image incriminée. Un vrai soulagement pour les victimes qui n'auront plus à surveiller en permanence l'apparition de nouvelles copies. Google assure que ces améliorations permettront de traiter le problème à grande échelle.
Autre nouveauté : le déclassement des sites hébergeant massivement ces deepfakes. Les pages Web ayant reçu de nombreuses demandes de suppression se verront rétrograder dans les résultats de recherche. Google affirme avoir déjà réduit de 70 % l'exposition aux images explicites pour certaines requêtes sensibles.
Pourquoi Google ne supprime pas totalement ces contenus ?
Malgré ces avancées, Google ne va pas jusqu'à effacer complètement les deepfakes pornographiques de ses résultats. Les sites spécialisés dans ce type de contenu restent accessibles via des requêtes génériques. Le moteur de recherche se contente de les déclasser sans les supprimer.
Google justifie cette position par la difficulté technique à différencier le vrai du faux. Comment faire la distinction entre une scène de nu consentie d'un acteur et un deepfake le mettant en scène ? Le géant du Web préfère jouer la prudence plutôt que de risquer de censurer du contenu légitime.
Cette démarche soulève bien sûr des critiques. Certains estiment que Google ne va pas assez loin et laisse la porte ouverte à la diffusion de ces contenus préjudiciables. Les victimes doivent toujours subir la présence en ligne de ces fausses images intimes, même si elles sont moins visibles.
D'autres pointent la responsabilité de Google dans l'accessibilité de ces deepfakes. En les laissant indexés, le moteur de recherche participe indirectement à leur diffusion. Un dilemme éthique que l'entreprise peine encore à résoudre.
La démarche de Google est-elle conforme à l'IA Act européen ?
L'Union européenne a récemment adopté l'IA Act, entré en vigueur ce jeudi 1er août 2024, une législation visant à encadrer le développement de l'intelligence artificielle. Cette réglementation classe les systèmes d'IA par niveau de risque et impose des règles strictes pour les usages à haut risque.
La démarche de Google semble s'inscrire dans l'esprit de l'IA Act. Le moteur de recherche prend des mesures pour limiter les risques liés aux deepfakes considérés comme une menace pour les droits fondamentaux. Les outils de signalement et de déclassement mis en place répondent à l'exigence de protection des utilisateurs.
Cependant, l'absence de suppression totale des deepfakes pourrait être questionnée au regard de l'IA Act. La législation européenne interdit certains usages jugés inacceptables de l'IA, dont la manipulation de comportement. Les deepfakes pornographiques pourraient entrer dans cette catégorie. Google devra probablement affiner sa politique pour se conformer pleinement aux futures exigences européennes.
Source : Ars Technica, Google, The New York Times
