« Mon amie n'est pas un gorille » : c'est un tweet publié le 29 juin par le développeur Jacky Alcine qui a mis le feu aux poudres. Dans son message, une capture d'écran du service Google Photos, vanté par l'entreprise notamment pour sa capacité à reconnaître les éléments présents sur les clichés pour mieux les catégoriser. Sur l'une des photos, Jacky Alcine et une amie, listés dans la catégorie « Gorilles ».
La série de tweets postée par Jacky Alcine a rapidement alerté les développeurs de Google. Yonatan Zunger, le responsable de l'architecture sociale au sein de l'entreprise, a été l'un des premiers à répondre. « Oups ! Cet incident est assez haut dans ma liste des bugs qu'on ne veut jamais voir arriver. J'en ai des frissons ».
Google Photos, y'all fucked up. My friend's not a gorilla. pic.twitter.com/SMkMCsNVX4
— diri noir avec banan (@jackyalcine) 29 Juin 2015Correction par la suppression
L'ingénieur s'est confondu en excuses et a expliqué qu'il s'agit de l'une des faiblesses de l'intelligence artificielle chargée de l'apprentissage du service. La reconnaissance de visages a des ratés : certains visages ne sont pas reconnus du tout, tandis que d'autres sont assimilés à des chiens, par exemple. Un problème principalement lié à une mauvaise interprétation des tons de peau et de l'éclairage par l'algorithme.Le bug semble assez complexe à résoudre puisque Google, après avoir indiqué « prendre immédiatement des mesures pour éviter une répétition de de ce genre d'erreur », a purement et simplement supprimé la catégorie « Gorilles » de Google Photos. Yonatan Zunger a ajouté que l'entreprise travaille activement à l'amélioration de l'analyse des couleurs de peau pour éviter que de telles confusions se reproduisent.
