Un groupe de chercheurs de différentes universités américaines a trouvé comment identifier des images produites par des algorithmes. La clé : les yeux.
Ces dernières années ont vu naître de nombreux algorithmes de falsification de photos et de vidéos. Ces deepfakes sont dangereux à bien des égards et de nombreux chercheurs et experts s'évertuent à trouver des moyens d'identifier les médias générés à l'aide du machine learning.
Reconnaître un deepfake « en un clin d'oeil »
D'après ces chercheurs, les visages générés par des intelligences artificielles auraient des imperfections au niveau des pupilles. Ce n'est pas la première fois que les yeux trahissent les deepfakes puisque plus tôt dans l'année, les reflets oculaires imparfaits produits par cette technologie permettaient d'identifier la contrefaçon.
Cette fois, ce sont donc les pupilles qui présentent des formes irrégulières. Habituellement circulaire, cette partie des yeux s'avère difficile à reproduire pour un algorithme. Avec leur technique de reconnaissance concentrée sur ce défaut, les chercheurs clament pouvoir détecter les faux avec une efficacité de 80 %.
Tout comme dans la lutte contre les virus, les chercheurs et les développeurs jouent au jeu du chat et de la souris. En effet, les algorithmes de deepfakes sont constamment modifiés pour corriger ce type de défaut une fois ceux-ci identifiés. Les techniques de détection, aussi ingénieuses soient-elles, n'ont donc qu'une durée de vie limitée.
Source : Arxiv.org
