Le P.-D.G. d’IBM, Arvind Krishna, déclare que son entreprise va cesser toute activité en lien avec les technologies de reconnaissance faciale à usage général. Il appelle, en outre, à une réforme de la police, afin que tous les citoyens des États-Unis soient traités de manière équitable.
Alors que la question du racisme systémique de nos sociétés a été à nouveau portée sur la scène médiatique par le meurtre de George Floyd par un policier aux Etats-Unis, de nombreuses entreprises ont décidé de s’exprimer ou d’agir.
Une technologie connue pour ses biais racistes
Firme majeure de la tech américaine, IBM a décidé de réagir à la situation, comme l’explique Arvind Krishna dans une lettre adressée au Congrès américain : « IBM ne propose plus de logiciel de reconnaissance ou d’analyse faciale à usage général. IBM s’oppose fermement et ne tolérera pas l’utilisation de toute technologie, y compris celle proposée par d’autres fournisseurs, à des fins de surveillance de masse, de profilage racial, de violation des droits et libertés fondamentales de l'humain ou à toute autre fin qui ne serait pas conforme à nos valeurs et à nos principes de confiance et de transparence. Nous pensons que le moment est venu d’entamer un dialogue national sur l’opportunité et la manière dont la technologie de reconnaissance faciale devrait être utilisée par les forces de l’ordre ».
Bien qu’exploitée massivement dans certains pays, parfois à des fins répressives troublantes, la reconnaissance faciale est encore une technologie faillible, comme l’ont prouvé diverses études. En 2018, des chercheurs du MIT démontraient déjà les biais racistes et sexistes de cet outil, capable de mieux identifier les visages blancs et masculins que les visages de couleur et féminins. L’année dernière, une autre étude sur cette technologie révélait à son tour que le taux de faux positifs était beaucoup plus élevé pour les personnes asiatiques et noires que pour les caucasiens.
De son côté, IBM a tenté de lutter contre ces dérives en mettant de nombreuses données à disposition des entreprises pour leur permettre de mieux former les modèles de reconnaissance faciale et de réduire les biais racistes. Elle a toutefois été sous le feu des critiques en 2019, après avoir utiliser près d’1 million d’images FlickR sans le consentement des personnes photographiées afin d’entraîner un outil de reconnaissance faciale.
IBM veut du changement et propose des solutions au Congrès
Comme le souligne Engadget, le fait qu’une entreprise de l’envergure d’IBM prenne une telle décision fera probablement des émules. Par ailleurs, Arvind Krishna suggère une exploitation différente de la technologie : « La politique nationale doit également encourager et faire progresser les utilisations de technologies qui apportent une plus grande transparence et une plus grande responsabilité dans le maintien de l’ordre, telles que les caméras corporelles et les techniques modernes d’analyses de données ».
Le P.-D.G. d’IBM indique également souhaiter que « davantage d’affaires d’inconduite policière soient amenées devant la Cour fédérale », et propose au Congrès plusieurs solutions afin que plus de personnes de couleur soient employées dans les domaines du Cloud computing et de la cybersécurité.
Sources : The Next Web, The Verge
(ce qui est une très bonne chose).