Des chercheurs ont créé un t-shirt qui empêche son porteur d’être identifié par la reconnaissance faciale, technologie de plus en plus répandue à travers le monde.
La reconnaissance faciale est très controversée, à tel point que l’Union européenne cherche à réguler son utilisation afin de ne pas bafouer les libertés individuelles. Pourtant, les motivations des chercheurs derrière ce t-shirt sont bien différentes de ce que l’on pourrait penser.
Tromper le réseau neuronal de l’intelligence artificielle
En effet, le vêtement a été conçu pour tromper l’intelligence artificielle en vue de l’améliorer. Pour y parvenir, des chercheurs de la Northeastern University, du MIT et de chez IBM ont collaboré et développé un t-shirt pourvu d’un patch de couleur kaléidoscopique qui trompe les systèmes de reconnaissance faciale.
Afin de déterminer s’il s’agit d’un objet ou d’une personne, l’intelligence artificielle dessine une sorte de boîte englobante autour de celui-ci et lui attribue une étiquette. Ce t-shirt vient directement déranger le réseau neuronal en charge du processus : son patch pixelisé est situé sur une zone du corps qui permet de le confondre puisqu’il va s’y focaliser au lieu de se diriger vers le visage du porteur.
Le design du motif trompe ainsi le système de classification et d'étiquetage de l’intelligence artificielle.
Une technique qui fonctionne sur une personne en mouvement
Le travail a toutefois été complexe pour les chercheurs, puisqu’il a fallu créer un dispositif fonctionnant sur une image en mouvement. « Le véritable défi consiste à ne pas être détecté pendant toute la durée de la vidéo. Lorsque la détection s'effectue à chaque image, il est beaucoup plus difficile de rester constamment non détecté », explique Battista Biggio, professeur adjoint à l'université de Cagliari, au média Wired.
Lorsqu’une personne se déplace, ses vêtements bougent également. Les chercheurs ont donc analysé avec précision la manière dont un t-shirt bouge, en enregistrant une personne en train de marcher, pour ensuite cartographier ces spécificités sur le design du vêtement final. Cette technique a amélioré la capacité à échapper à la détection de 27 % à 63 % contre YOLOv2, et de 11 % à 52 % contre Faster R-CNN. Il s’agit des deux modèles d’entraînement les plus communs pour la détection d’objets dans le domaine de l’intelligence artificielle.
Les chercheurs affirment que dans le monde réel, le t-shirt ne garantit pas une protection assurée, car les algorithmes peuvent varier. Ils espèrent toutefois améliorer les systèmes de reconnaissance faciale grâce à leur invention, afin que les systèmes d’apprentissage profond ne puissent plus être dupés de la sorte.
Source : Wired
