Après avoir mené des tests, Twitter a conclu que son algorithme présentait bien des biais lors de son choix pour le recadrage des images.
Même si depuis Twitter a décidé de laisser tomber le recadrage automatique de ses images, du moins sur mobile, cela n'a pas empêché ses équipes de continuer à enquêter sur le fonctionnement de l'algorithme qui s'en chargeait. Les internautes avaient raison : le système favorisait bien les peaux blanches et les femmes.
Une enquête incomplète en octobre
En octobre dernier, Twitter avait affirmé que non, son algorithme ne favorisait aucune couleur de peau ou aucun genre. L'enquête s'est tout de même poursuivie en interne, il faut dire que les exemples des internautes avaient été saisissants : dans la plupart des cas, l'algorithme chargé de déterminer quelle partie de l'image mettre en aperçu choisissait les peaux les plus claires.
Les tests à l'époque n'avaient pas été concluants à cause du peu de nombres de fois où ils avaient été lancés. Là où en octobre les ingénieurs du réseau social s'étaient contentés de lancer le test 200 fois avant de tirer leurs conclusions, cette fois, l'expérience a été reproduite 10 000 fois. Un échantillon plus important et donc plus fiable, montrant bien qu'un problème existe.
Un algorithme biaisé favorisant les personnes blanches et les femmes
Les chercheurs ont trouvé que dans 8 % des cas, l'algorithme favorisait les femmes aux hommes et que dans 4 % des cas, il favorisait les personnes blanches. En classant par genre, les femmes blanches sont favorisées à 7 % par l'algorithme par rapport aux femmes noires et le pourcentage passe à 2 % en faveur des hommes blancs par rapport aux hommes noirs.
Cependant, les chercheurs n'ont trouvé aucun élément pouvant affirmer que l'algorithme choisissait plus souvent certaines parties du corps, par exemple les poitrines, plutôt que les visages. Pour son recadrage des images, Twitter utilisait un algorithme dit de saillance, qui détectait à quel endroit de l'image les valeurs des pixels changeaient le plus souvent et donc à quel emplacement on pouvait trouver un plus grand niveau de détail. Le réseau social a conclu que les cas où l'algorithme choisissait une autre partie du corps que le visage étaient dus à la présence de logos ou autres illustrations.
Cette découverte a renforcé la conviction de Twitter d'abandonner progressivement son algorithme, utilisé à la base pour des questions de vitesse et d'harmonisation des images. Rumman Chowdhury, Directrice de l'ingénierie logicielle, a conclu que « tout ce qui fait Twitter ne constitue pas un bon candidat pour un algorithme et, dans ce cas précis, la façon de recadrer une image est une décision qui doit être prise par des personnes ».
Source : The Register
