Des mineurs sont involontairement recrutés pour former l'intelligence artificielle ensuite mise à profit par de grands noms de la Tech, comme Amazon, Microsoft, Google, Nvidia et d'autres.
Les géants du numérique externalisent l'étiquetage des données à des plateformes et applications de crowdsourcing, en ignorant eux-mêmes que certains des travailleurs sont carrément des adolescents. Les jeunes individus, souvent basés dans des pays pauvres à l'autre bout du monde, sont chargés de compléter des tâches basiques pour des entreprises qui font appel à l'IA, pour seulement quelques centimes.
Les tâches incluent parfois des contenus explicites pouvant affecter la santé mentale de ces ados volontaires. Une exploitation qui met en lumière le côté sombre de l'industrie de l'intelligence artificielle, même si les mastodontes technologiques, qui ont une part indirecte de responsabilité, n'ont pas vraiment la main là-dessus.
Dans l'ignorance des géants de la Tech, des mineurs accomplissent les basses besognes de formation de l'IA
Les données brutes utilisées pour l'apprentissage automatique nécessitent un étiquetage humain, souvent sous-traité via des plateformes de crowdsourcing comme Toloka, OneFormat, Appen et d'autres. Hassan, 18 ans aujourd'hui et natif du Pakistan, a d'abord rejoint la première citée, Toloka, alors qu'il n'avait que 15 ans. À l'époque, il ignorait les dangers que cela impliquait, pensant bien faire en aidant sa famille, pauvre, à subvenir à ses besoins. Les tâches accomplies par le jeune Hassan pouvaient consister parfois à identifier des images au contenu explicite, autrement dit sexuel, voire pire.
Poussé par la ruée mondiale vers l'IA, le secteur de l'étiquetage de données devrait peser plus de 17 milliards de dollars d'ici 2030. Les plateformes que nous évoquions, qui sont parfaitement légales, connectent des travailleurs du monde entier aux géants de la Tech. Les petites mains, principalement basées en Afrique de l'Est, au Pakistan et aux Philippines, gagnent souvent quelques dollars pour des tâches complexes, en sacrifiant souvent des nuits entières !
En théorie, les adolescents ne sont pas autorisés à exercer. Mais ils peuvent trop facilement contourner les contrôles d'âge, étant donné que tout se fait à distance. Les plateformes demandent simplement à ce que l'utilisateur ait plus de 18 ans. Des preuves récoltées par nos confrères de Wired montrent que plusieurs mineurs ont pu s'inscrire en utilisant l'identité et le moyen de paiement de proches, qui suffisent à contourner la barrière.
Une mondialisation de l'IA vue comme une opportunité pour les familles à la recherche d'un peu d'argent
Plusieurs éléments suggèrent que cette « exploitation » des mineurs ne cesse, hélas, de s'étendre. Même au Venezuela, de jeunes utilisateurs ont rejoint ces plateformes, en contournant eux aussi les contrôles d'âge avec facilité.
Parmi les objectifs affichés par les plateformes, sur demande de leurs clients, on retrouve la résolution de captchas. Ces derniers services, rémunérant des individus pour distinguer les ordinateurs des humains, restent mystérieux pour les chercheurs. Des entreprises comme Google pour son célèbre reCaptcha, mais aussi Microsoft Azure, Nvidia, Boeing, Amazon, Salesforce et Adobe publient de micro-tâches, utilisées pour former des modèles d'IA, devenant ainsi des contributeurs indirects aux progrès de la technologie. Les tâches peuvent parfois simplement consister à choisir la phrase correctement écrite entre deux : l'une bourrée de fautes, l'autre sans erreur.
Certains jeunes travailleurs voient ces plateformes comme une opportunité rare de percevoir quelques dollars, même si cela se fait par le prisme de la servitude numérique. « C'est une nécessité pour gagner sa vie », explique Hassan, aujourd'hui présent sur les plateformes Appen et Clickworker. L'industrie de l'IA doit faire face à des questions éthiques sérieuses concernant l'exploitation des mineurs, remettant en question la déterritorialisation d'Internet et le manque global de surveillance, au sens bienveillant du terme.
Source : Wired
