Les IA rencontrent aussi des difficultés à reconnaître les visages de femmes. La faute aux bases de données de photos exploitées pour éduquer les programmes.
1.270 photos pour tester les IA
Une créature peut-elle échapper aux faiblesses de son créateur ? Vaste question, qui se pose lorsque l'on étudie les performances des principaux logiciels de reconnaissance faciale actuellement sur le marché. Une chercheuse du Massachussetts Institute of Technology à Boston, Joy Buolamwini, a poussé dans leurs retranchements les programmes d'IA de trois sociétés : IBM, Microsoft, et Face ++.Les résultats sont édifiants : en présentant 1.270 portraits officiels de personnalités politiques du monde entier aux trois programmes, elle est arrivée à la conclusion qu'ils étaient en grande difficulté quand il s'agit d'identifier le visage d'une personne de couleur noire, mais aussi à reconnaître des femmes.
Des noirs pris pour des gorilles
En apparence, les trois IA obtiennent des résultats satisfaisants : celle de Microsoft parvient à 93,7% à reconnaître le genre des personnes dont on lui présente la photo. Face ++ obtient 90% au même exercice, et IBM 87,9%. Mais dans le détail, les écarts selon la couleur de peau sont énormes : la moyenne de réussite des trois IA pour les blancs atteint au moins 95%, mais tombe à seulement 77,6% chez IBM pour les noirs.Chez Face ++, la faiblesse est du côté des femmes, avec un taux de reconnaissance de seulement 78,7%. La faute, estime Joy Buolamwini aux bases de données d'images avec lesquelles les trois programmes sont entraînés : elle constate que « les hommes à la peau claire y sont surreprésentés, et aussi les personnes à la peau claire de manière générale », regrette-t-elle. Le problème n'est pas nouveau. Déjà en 2015, Google avait dû corriger en urgence Google Photos, qui confondait par moment des personnes noires avec des gorilles...
- Aperçu du smartphone Oppo A75 et son système de reconnaissance faciale
- Windows 10 : la reconnaissance faciale trompée par une photo
- Facebook va tenter la reconnaissance faciale
- KFC se lance dans le paiement par reconnaissance faciale
- IPhone 8 : reconnaissance faciale 3D et design confirmés ?
- Galaxy S8 : la reconnaissance faciale contournée avec une photo
