Des chercheurs de l'université de Hull au Royaume-Uni ont développé une méthode pour détecter les deepfakes en analysant les reflets lumineux dans les yeux. Cette technique, inspirée de l'astronomie, utilise le coefficient de Gini et le système CAS pour identifier les incohérences dans les images générées par l'IA avec une précision d'environ 70 %.
Il faut désormais composer avec les deepfakes lorsque nous surfons sur le Web en quête d'informations. Ces images et vidéos truquées, de plus en plus réalistes, menacent la confiance du public envers les contenus en ligne. Peut-être est-ce parce qu'elle a été lassée d'en visionner que cette équipe de chercheurs britanniques a eu l'idée originale d'emprunter des outils à l'astronomie pour détecter les deepfakes.
Son approche novatrice se concentre sur un détail souvent négligé : les reflets dans les yeux. En scrutant ces minuscules étoiles artificielles, ils espèrent démasquer les visages générés par l'intelligence artificielle. Cette méthode prometteuse pourrait compléter l'arsenal existant contre la désinformation visuelle, même si elle n'est pas infaillible.
Le coefficient de Gini : des galaxies aux deepfakes
Le coefficient de Gini, initialement conçu pour mesurer les inégalités économiques, a trouvé une application inattendue en astronomie. Les astrophysiciens l'utilisent pour analyser la distribution de la lumière dans les galaxies, et il permet de quantifier la répartition des pixels lumineux au sein d'une image astronomique.
Concrètement, le coefficient de Gini classe les pixels d'une image par ordre croissant d'intensité lumineuse. Il compare ensuite cette distribution à une répartition parfaitement uniforme. Une valeur de 0 indique une lumière uniformément répartie, tandis qu'une valeur de 1 signifie que toute la lumière est concentrée dans un seul pixel.
Cette méthode s'est avérée précieuse pour caractériser la morphologie des galaxies. Elle permet aux astronomes de distinguer différents types de structures galactiques, des spirales aux elliptiques. Le coefficient de Gini offre ainsi une mesure objective de la concentration lumineuse, complétant d'autres outils comme le système CAS (Concentration, Asymétrie, Smoothness).
Des étoiles dans les yeux : le Gini traque les deepfakes
L'équipe de l'université de Hull a eu l'idée astucieuse d'appliquer ces outils astronomiques à la détection des deepfakes. Leur méthode se concentre sur les reflets lumineux dans les yeux, ces minuscules « étoiles » qui trahissent l'authenticité d'une image. Ce n'est d'ailleurs pas la première fois que les yeux sont utilisés pour détecter les deepfakes, grâce à la forme des pupilles.
Dans une vraie photographie, les reflets oculaires présentent une cohérence physique. Ils sont similaires, mais pas identiques, dans les deux yeux. En revanche, les images générées par l'IA peinent souvent à reproduire cette subtilité. Le coefficient de Gini permet de quantifier ces différences de distribution lumineuse entre l'œil gauche et l'œil droit.
Adejumoke Owolabi, chercheuse à Hull, a testé cette approche sur un échantillon d'images réelles et générées par IA. Les résultats sont prometteurs : la méthode détecte les faux dans environ 70 % des cas. Elle complète efficacement d'autres techniques, comme l'analyse des mouvements faciaux ou des clignements d'yeux.
Toutefois, cette approche n'est pas infaillible. Elle génère des faux positifs et des faux négatifs. De plus, comme toute méthode de détection, elle risque d'être rapidement dépassée par les progrès de l'IA générative. Les créateurs de deepfakes pourraient s'adapter en optimisant la cohérence des reflets oculaires. Mais pour l'heure, avoir des étoiles plein les yeux, c'est plutôt bon signe.
- Text-to-video
- De courtes vidéos très réalistes
- L'IA générative d'Open AI
Sources : 404 Media, Nature, Oxford Academic
