Le logiciel de reconnaissance faciale de la firme américaine, Rekognition, confondrait des femmes au teint foncé avec des hommes assez régulièrement.
Au royaume pas toujours éthique de la reconnaissance faciale, il y a deux écoles : celle qui en soutient les avantages et les bienfaits, notamment son aspect sécuritaire, et celle qui en redoute les dérives. C'est cette dernière qui est aujourd'hui servie après les dernières révélations du Massachusetts Institute of Technology.
Un taux d'erreur impressionnant
Une étude du MIT Media Lab, a établi que Rekognition, le logiciel de reconnaissance faciale développé par Amazon, ne serait clairement pas encore au point et multiplierait les erreurs majeures.Si l'IA Rekognition ne causerait pas de souci dans l'identification des hommes à la peau claire, il en serait tout autre pour les femmes, qui seraient classées environ 1 fois sur 5 parmi les hommes, soit près de 20 % du temps. Pire, les femmes au teint plus foncé seraient confondues environ une fois sur trois (plus de 3 fois sur 10) avec des hommes.
Les résultats retranscrits dans l'étude du MIT Media Lab sont assez catastrophiques pour le logiciel d'Amazon, qui serait alors bien moins performant que ceux développés par IBM ou par Microsoft. L'outil de la société dirigée par Satya Nadella ne confondrait une femme au teint plus sombre avec un homme qu'une à deux fois sur 100 (1,5 %).
Du côté d'Amazon, on conteste ces résultats, qui seraient fondés sur une version antérieure de Rekognition datant de 2018. Cette version réaliserait une identification basée sur le sexe à partir d'une analyse faciale plutôt qu'une reconnaissance faciale. L'analyse faciale sélectionne les visages à partir d'images et leur confère des attributs génétiques tandis que la reconnaissance faciale cherche une correspondance pour un visage spécifique.
Rekognition sous le feu des critiques
Le responsable de l'apprentissage en profondeur et de l'intelligence artificielle chez Amazon Web Services, Matt Wood, a par ailleurs ajouté qu'« en utilisant une version à jour d'Amazon Rekognition, avec des données similaires téléchargées sur des sites Web parlementaires et le jeu de données Megaface, nous avons trouvé zéro faux positif », alors que le seuil de confiance recommandé est de 99 %. Pour Amazon, son outil serait alors presque parfait. Deux poids, deux mesures.Le géant du e-commerce s'est récemment vu reprocher d'avoir fourni son logiciel de reconnaissance faciale aux autorités américaines. Depuis, un groupe d'actionnaires a déposé une résolution visant à interdire à Amazon de vendre ses dispositifs de reconnaissance faciale à des agences gouvernementales, face aux craintes d'une utilisation de Rekognition qui serait contraire aux droits civiques.
