Le groupe AI Now, de l'université de New-York, a mis en garde contre les dangers liés aux nouvelles technologies exploitant l'intelligence artificielle, telles que la reconnaissance faciale et a appelé à davantage encadrer leurs applications.
L'institut AI Now étudie les implications sociales liées à l'intelligence artificielle. Ses deux cofondatrices, Kate Crawford et Meredith Whittaker, travaillent respectivement pour Microsoft et Google. Dans leur dernier rapport publié jeudi, elles ont décidé de tirer la sonnette d'alarme.
Les dangers d'un recours massif à la reconnaissance faciale
Dans le viseur d'AI Now, se trouvent les technologies d'intelligence artificielle, telles que la reconnaissance faciale ou les systèmes automatisés de prise de décision, employés notamment par les forces de l'ordre. Pour les auteures du rapport, certains outils se révèlent particulièrement dangereux, comme ceux affirmant pouvoir déterminer les émotions des individus à partir d'images de leur visage.En conséquence, elles demandent aux gouvernements de lancer des audits, qui seraient réalisés par des groupes indépendants, afin d'encadrer les technologies utilisées. Cela implique donc, pour leurs développeurs, de donner accès à leurs documents internes, mais pour AI Now, il est impossible de garder entièrement le secret sur des systèmes employés si largement dans les espaces publics.
Une prise de conscience générale ?
Ces déclarations font écho aux initiatives menées par certains collègues des fondatrices d'AI Now. En effet, des salariés de Microsoft se sont élevés contre la décision de leur entreprise de vendre des technologies d'IA au gouvernement américain. Du côté de Google, un contrat avec le ministère de la Défense a été rompu, à la suite des protestations des équipes en interne.Et les inquiétudes semblent également concerner les plus hautes sphères des géants de la tech. Brad Smith, président de Microsoft, a ainsi lui-même récemment alerté sur les risques posés par la reconnaissance faciale.
Si les potentielles dérives technologiques préoccupent les grandes entreprises high-tech, qu'en est-il des gouvernements ? Certains semblent, en tout cas, prêts à franchir toutes les limites, à l'instar de la Chine qui a récemment fait appel à un système intelligent de reconnaissance de démarche.
Source : Bloomberg
