La société Google doit de nouveau faire face à un mouvement social interne après le licenciement de la docteure Timnit Gebru. Cette dernière est spécialisée dans les travaux de recherche en intelligence artificielle et plus particulièrement au sujet des enjeux éthiques. Google explique de son côté qu'elle a choisi de démissionner.
Les décisions émanant de la direction de Google semblent de plus en plus souvent remises en cause par les employés du groupe. Dernièrement, plus de 1 530 employés ont co-signé une lettre demandant la réintégration de la Dr Gebru.
Un projet de recherche rejeté
Timnit Gebru est co-responsable du département de recherche en intelligence artificielle. Plus précisément, elle travaille sur la dimension éthique. C'est notamment elle qui a démontré que les algorithmes de reconnaissance faciale sont moins susceptibles d'identifier correctement les femmes et les gens de couleur. D'emblée, ces personnes sont en quelque sorte discriminées. Dans le cadre d'une utilisation de la technologie par les forces de l'ordre, elles sont alors plus à même d'être contrôlées par les autorités.
Dans de nouveaux travaux de recherche, Timnit Gebru remet en cause le perfectionnement des algorithmes de machine learning à grande échelle. Elle estime que cela implique des coûts environnementaux et financiers. Elle ajoute par ailleurs qu'en tentant d'intégrer un vaste nombre de données pour entraîner ces algorithmes, ces derniers risquent d'être influencés par des propos à caractère raciste, sexiste ou grossier. La chercheuse ajoute alors qu'il est important de sélectionner plus finement les sources de données.
Ce projet de recherche a été écrit avec quatre autres collègues ainsi que des collaborateurs externes. Toutefois, il a été passé en revue et rejeté. Timnit Gebru explique qu'au retour d'une période de congés, elle a été licenciée.
Timnit Gebru affirme que les idées décrites dans ce projet contredisaient les pratiques actuelles de la société. Elle estime que Google n'a pas apprécié sa vision des choses. Elle souligne en outre que son employeur a souhaité se venger après qu'elle a déclaré publiquement que Google n'a pas suivi ses engagements dans le recrutement de femmes depuis le début de la pandémie.
La version de Google
Face à l'ampleur médiatique de cette affaire, Jeff Dean, Vice-président du département d'intelligence artificielle chez Google, a fait part d'une autre version. Il explique que Timnit Gebru n'a pas respecté le processus en rendant ses recherches à temps.
Il pointe également le fait que l'équipe chargée de relire cette étude a formulé des remarques qui n'ont pas été prises en compte par Mme Gebru. Finalement, l'équipe a simplement rejeté l'étude.
Dans un email, Timnit Gebru aurait demandé le nom des personnes ayant invalidé son étude sans quoi elle menaçait de quitter la société. Jeff Dean précise ainsi qu'elle a choisi de démissionner de son poste.
Face à ces propos, Tinit Gebru rejette en bloc ses accusations sur Twitter.
Des Googlers mobilisés
Des employés de Google ont décidé de soutenir publiquement leur ancienne collègue en rédigeant une lettre publique disponible sur Medium. Plus de 1 500 signatures ont ainsi été recueillies.
Ils reviennent sur l'importance des travaux de la chercheuse et son rôle majeur dans le progrès de l'intelligence artificielle. Le traitement de données massives pour améliorer les algorithmes de machine learning est une pratique courante chez Google et implémentée au sein de plusieurs services de la société. Ils pointent alors une décision motivée par de la censure.
Les mobilisations internes ne sont plus rares au sein du géant de la recherche. Les employés ont critiqué le licenciement de leurs collègues souhaitant organiser un mouvement de manifestation. Ils se sont opposés à la mise en place d'un moteur de recherche censuré en Chine. Ils ont pointé les accords entre Google et l'armée américaine pour équiper les drones d'intelligence artificielle. Ils ont également critiqué les conditions dans lesquelles le fondateur d'Android Andy Rubin, accusé de harcèlement sexuel, a quitté la société.
Sources : Mashable, TechnologyReview
