Le générateur d'IA de Meta est encore loin d'être parfait, avec des biais qui persistent. La preuve en ce moment, avec sa difficulté à produire des images de couples mixtes.
Si l'intelligence artificielle générative est un outil qui a très vite fasciné, elle a toutefois déjà eu son lot de polémiques, notamment au niveau des images qu'elle peut produire. On se souvient ainsi de Gemini, qui avait fait parler de lui à cause de ses difficultés à produire correctement certaines représentations historiques. Et aujourd'hui, c'est plutôt du côté de Meta que la controverse pourrait survenir.
L'IA de Meta a du mal avec la mixité
Meta va devoir travailler dans les prochains jours sur son IA générative d'images ! Car elle pourrait bien avoir de sérieux problèmes à répondre correctement à des demandes simples comme la représentation de couples mixtes. C'est The Verge qui le premier a découvert le pot aux roses.
Ainsi, quand un utilisateur demande à obtenir la représentation d'un couple avec deux personnes d'une ethnie différente, il obtient la plupart du temps une image dans laquelle, malgré la demande explicite, les deux personnes sont de la même ethnie. The Verge a plusieurs fois essayé de recevoir une image dans laquelle l'homme est asiatique, est la femme européenne, et n'a en retour presque vu apparaître que des couples asiatiques, comme le montre l'image ci-dessous.
D'autres problèmes apparaissent
Ce n'est par ailleurs pas là le seul problème qui a été rencontré, l'IA générative d'images ayant montré d'autres biais. On peut ainsi observer que pour chaque demande simple de création d'un couple, l'homme affiché est en général plus âgé que la femme qui l'accompagne.
L'IA a aussi tendance à caractériser culturellement les personnes selon l'ethnie demandée, en ajoutant, sans que cela ait été spécifié, « des vêtements spécifiques à une culture. » En bref, la production des équipes de Mark Zuckerberg semblerait nécessiter encore un certain nombre de réglages. Heureusement pour le groupe, cette IA n'est à l'heure actuelle disponible qu'aux États-Unis. De quoi lui laisser le temps de l'amender, avant un déploiement international ?
Source : Engadget
