Twitter : l'algorithme de recadrage privilégie indéniablement les visages blancs (et c'est un problème)

On imagine que le volume d’images traitées est principalement fait de caucasiens (biais socio-économique avec certainement une sur-representation dans les médias et réseaux sociaux).

Le machine learning recherche des points de repère liés aussi à la couleur, les marqueurs doivent moins fonctionner sur un visage plus sombre.

Bref, Twitter n’est pas raciste et n’a pas mis un if{black then bad_cropping;} mais a déployé une fonctionnalité qui marche pas comme il le faudrait.

Cela dit c’est intéressant car c’est exactement ce qu’il s’est passé quand l’IA de Microsoft est devenue raciste, elle s’est intégrée dans un éco système qu’elle a vu raciste et s’est donc adaptée à son contexte.

Dans machine learning, il y a learn. Donc il y a aussi des enseignants…

L’algo n’est pas raciste, il est mal foutu, voilà tout.
Ce que ça devient pénible (pour être poli, vraiment je me retiens !) cette mode de voir du racisme partout et de le mettre à tout les sauces. Et les médias en sont les premiers responsables.

« L’algorithme privilégierait en effet les visages blancs au détriment des visages de couleurs. »
A part le clown blanc, personne n’a de visage blanc (ça ferait un peu bizarre).
Et à supposer que ça soit le cas, ça serait quand même une couleur

Le nombre de fois où on a lu « ma peau m’appartient, ce n’est pas un accessoire de maquillage » … ici les ingénieurs ont clairement (hum, hum) respecté « ce n’est pas un accessoire d’algorithme », lol.

C’est les couleurs et non le visage d’un blanc ou d’un noir
débunk en tweet ici

« Lorsqu’un visage mat et un visage clair sont présents sur une même photo, c’est sur ce dernier que le recadrage est automatiquement effectué par Twitter. »

Cette phrase est un peu catégorique alors que vous dites plus loin que
« l’expérience ne suit pas une méthode scientifique ».
ainsi que
« Encore une fois, ces tests ne sont pas scientifiques, et ne permettent pas encore de tirer des conclusions sur le fonctionnement de l’algorithme. »

Plusieurs ingénieurs de twitter, dont certains non blancs, ont expliqué que l’algorithme n’utilise pas de mécanisme de détection de visage.

Comment un algorithme peut être raciste sans même savoir qu’il y a un visage dans l’image ?

Certains autres expliquent même qu’il y a eu des tests avant le déploiement de cette solution qui permettaient de s’assurer que l’algorithme n’était justement pas raciste…

Il y a en effet un biais mais une série d’exemples basées sur les même images ne suffit pas à démontrer que le biais est au niveau de la couleur de peau de la personne. Il y a plein d’autres facteurs qui entrent en ligne de compte comme le contraste par exemple …

Il aurait été très simple de trouver ces tweet et d’avoir un article un peu plus impartial mais cela aurait été tout de suite moins vendeur.

L’algorithme privilégierait en effet les visages blancs

C’est surement ce qu’on appel le « privilège blanc » : se faire recadrer plus facilement que les autres. Y a pas a dire, on croule sous les avantages dans ce monde…

y a en a qui ont rien d’autre a foutre de leur vie c est dingue

« des utilisateurs ont pointé du doigt un biais raciste » : juste dans leur tête de malades. La Covid ne fait vraiment pas bien son job.
« Sur une photo, l’algorithme de recadrage aurait tendance » : donc pas systématique ? donc du grand n’importe quoi.