Récemment, les infrastructures s'occupant de l'emploi en Autriche ont pu révéler l'utilisation de la technologie ChatGPT afin d'orienter les chômeurs et étudiants vers de nouveaux jobs. Le problème, c'est que cette IA semble avoir une dent contre les femmes…
Début janvier, le ministère du travail autrichien a pu annoncer la création de Berufsinfomat, le tout premier agent conversationnel basé sur l'IA dont le but est de permettre l'orientation professionnelle d'étudiants et de chômeurs. Collaboration avec OpenAI via ChatGPT, lancement en grande pompe… Tous les ingrédients étaient là pour générer succès et louanges à travers l'Europe, pour l'implémentation de cette nouvelle technologie à des fins sociales. Mais voilà, après quelques semaines, la lune de miel a laissé place au désenchantement.
Défauts techniques et préjugés
Selon la publication autrichienne DerStandard, le service présente dès son lancement des défauts techniques qui s'articulent autour de préjugés dommageables pour l'infrastructure. L'exemple le plus frappant d'une telle pratique est le suivant : de nombreux candidats masculins ont été redirigés vers des emplois dans le domaine de l'informatique, là où des candidates féminines avec un CV identique étaient quant à elles redirigées vers des études de genre, la philosophie, la psychologie des affaires, voire la restauration. Autrement dit, ce bon vieux ChatGPT aurait certains biais sexistes agissant au détriment des femmes recherchant un emploi.
C'est une assertion finalement logique : les modèles de langage comme ChatGPT ont été entraînés et nourris de milliards d'informations principalement récupérées sur internet, avec leur lot de préconçus parfois négatifs sur telle ou telle catégorie de la population. Il n'aura donc pas fallu longtemps avant que l'information ne soit relayée sur X.com (ex-Twitter), et que le directeur général du service public de l'emploi en Autriche Johannes Kopf soit obligé de reconnaître l'imperfection de l'outil : « Il n'est pas facile d'éliminer complètement cette idée sur le secteur informatique. Surtout si l'on tente de créer délibérément des biais », a-t-il pu indiquer en réponse à la polémique.
Questionnements sur la protection des données
D'autre part, les inquiétudes des Autrichiens ne résident pas uniquement dans ces défauts techniques préjudiciables : ce type d'outil pose également divers questionnements quant à la protection des données. En effet, les informations des divers utilisateurs de la plateforme sont en effet récupérées par OpenAI directement. Le ministère du travail autrichien a d'ailleurs lui-même recommandé de ne pas partager d'informations d'ordre personnel ou privé dans la recherche d'emploi sur ce support. Le développeur Mario Zechner a pu effectuer une recherche approfondie du logiciel, dont il partage les résultats sur X.com : surprise ! Ils ne sont pas bons. Le spécialiste pointe ainsi des défauts majeurs qui pourraient une fois de plus indiquer une récupération partielle ou complète des données par OpenAI.
En France, la question se pose malgré tout : fin 2023, le ministère de la Transformation et de la Fonction publique avait également pu évoquer des pistes pour gagner du temps sur les tâches administratives, l'une d'entre elles étant évidemment l'intelligence artificielle générative. Quant à une implémentation dans le tout nouveau France Travail ? Pour le moment, la question ne semble pas s'être posée.
Source : Courrier International
