Twitter a annoncé mettre en place un bug bounty pour l'aider à détecter les biais de son algorithme concernant les images.
Celui-ci est ouvert à tous et il est possible d'y participer jusqu'au 6 août à 23 h 59, heure du Pacifique, sur le site de HackerOne.
Un bug bounty pour déceler les biais dans l'algorithme utilisé par Twitter
Traditionnellement, les bug bounty sont utilisés par le monde de la sécurité informatique pour permettre à des chercheurs indépendants d'aider à améliorer la sécurité d'un site ou d'un programme tout en étant payés par les entreprises pour leurs découvertes. Ces initiatives ont permis d'améliorer sensiblement la sécurité informatique en général, et ce sont ces résultats qui ont inspiré Rumman Chowdhury, directrice de Twitter META (Machine Learning Ethics, Transparency and Accountability) et Jutta Williams, product manager, à lancer leur propre bug bounty.
Sauf qu'il ne s'agira pas ici de détecter des failles de sécurité, mais plutôt d'identifier des biais algorithmiques, notamment dans l'algorithme de saillance utilisé par le réseau social pour recadrer ses images afin de créer un aperçu. En mai, les chercheurs de l'entreprise avaient conclu qu'il favorisait bien les photos de personnes blanches à celles de personnes noires, ce qui avait été rapporté par des internautes depuis plusieurs mois.
Mais, conscientes que la voie vers un machine learning plus éthique ne pourra pas être pavée que par les équipes des entreprises, Chowdhury et Williams ont décidé d'aller un cran plus loin en repartageant le modèle de leur algorithme de saillance et le code permettant de déterminer quelle partie de l'image recadrer dans l'optique de ce bug bounty. Le but est que des internautes du monde entier puissent apporter leur expertise et, éventuellement, signaler des biais qui n'auraient pas été détectés par les chercheurs, voire apporter des solutions.
Une première étape importante
Grâce à cette première étape, elles espèrent voir naître dans le futur une communauté consacrée à l'éthique et à la transparence dans les algorithmes et le machine learning, sur le modèle de ce qui existe dans la sécurité informatique, afin de permettre de plus grandes avancées dans le domaine. Une initiative importante à l'heure où les entreprises dépendent de plus en plus d'algorithmes qui ont tendance à reproduire les biais, même inconscients, de leurs créateurs.
Ce bug bounty, le premier dans son genre, se passe dans le cadre de la DEF CON, et les gagnants seront annoncés le 8 août à l'atelier tenu par Twitter au DEF CON AI Village. Si vous souhaitez y participer, rendez-vous sur HackerOne, où le challenge est hébergé. Il est ouvert à tous, mais il sera nécessaire de pouvoir présenter ses résultats en anglais. La première place recevra 3 500 dollars, la deuxième 1 000, la troisième 500, l'entrée la plus innovante sera récompensée par 1 000 dollars et celle qui pourra être appliquée au plus d'algorithmes possible recevra la même somme.
