Une erreur d'interprétation commise par un outil d'intelligence artificielle créé par Google a conduit à l'ouverture d'une enquête pour pédocriminalité.
Un outil de Google dédié à l'automatisation de l'interception d'images à caractère pédocriminel circulant sur le web a semé la zizanie, déclenchant à nouveau la polémique autour du géant et de ses pratiques jugées intrusives en matière de traitement des données personnelles.
L'IA confond domaine médical et pédocriminalité
L'incident s'est produit Outre-Atlantique en février 2021, durant les restrictions liées au Covid-19. Il a été demandé à Mark, un père de famille ayant remarqué un gonflement dans la région génitale de son enfant, de transmettre des photos du problème au cabinet médical avant la tenue de la consultation avec un médecin par visioconférence. Deux jours après celle-ci, Mark reçoit une notification de la part de Google. Celle-ci stipule que ses comptes liés aux services du géant ont été suspendus en raison d'un « contenu préjudiciable » représentant « une violation grave des politiques de Google et qui pourrait être illégal ».
Lancé en 2018, l'outil de Google a pour objectif d'intercepter les photographies ayant un caractère pédopornographique. Baptisé Content Safety, le toolkit mise tout sur le fait de minimiser l'intervention humaine dans le cadre de cette détection. Pour identifier ce type de contenus, comme de nombreuses sociétés, Google utilise la technologie Microsoft PhotoDNA.
Dans la foulée, Mark a perdu l'accès à ses e-mails, ses contacts, ses photos et même son numéro de téléphone puisqu'il utilisait Google Fi, le service d'opérateur mobile virtuel disponible aux États-Unis. Si Mark a pourtant immédiatement essayé de faire appel de la décision de Google, le mastodonte du web a rejeté toute tentative et une enquête a été ouverte en Décembre 2021 par les services de Police de San Francisco, ville de résidence du parent.
Des pratiques préventives jugées intrusives
Bien que la protection des enfants contre les abus soit primordiale, la question de l'empiétement sur la vie privée se pose auprès de tous les utilisateurs n'ayant rien à se reprocher. Jon Callas, directeur des projets technologiques à l'Electronic Frontier Foundation a par ailleurs réagi auprès du New York Times en qualifiant d'intrusives ces pratiques menées par Google : « C'est précisément le cauchemar qui nous préoccupe tous ».
À ce sujet, Google déclare ne scanner les images de ses utilisateurs que lorsqu'ils utilisent certains services. Dans ce cas de figure, il peut s'agir de la sauvegarde sur Google Photos. Il est d'ailleurs intéressant de rappeler que Google est légalement tenu de signaler toute image de ce type aux autorités. En 2021, pas moins de 621 583 cas ont été rapportés.
Source : The Verge
