En aidant à distinguer les enfants des adultes, la technologie d'analyse faciale pourrait-elle contribuer à créer un Internet plus sûr pour nos rejetons ?
Les sites et les législateurs de plusieurs pays se posent cette épineuse question.
Comment déterminer l'âge des visiteurs de sites pornographiques ?
Depuis le 30 juillet 2020 en France, le fait pour un site de laisser ses internautes accéder à des contenus pornographiques sans vérifier leur âge constitue un délit. La loi sur les violences conjugales dispose qu’ils pourront être bloqués ou déréférencés à la demande du CSA s’ils ne mettent pas en place un contrôle strict, autre qu’une « simple déclaration ». Mais sans imposer de méthode particulière à utiliser.
Un an plus tard, force est de constater que la majorité des sites pornographiques restent accessibles aux mineurs. En mars 2021, relève Next INpact, trois associations défendant les droits de la famille et de l'enfance (Open, Cofrade, Unaf) ont ouvert une action judiciaire contre Pornhub, Xvideos, Xhamster et Jacquie et Michel. Mais rien n’a bougé. Seul Jacquie et Michel a réagi, en mettant en place une vérification par carte d’identité, My18Pass.
Il faut dire que les moyens pour vérifier l’âge des visiteurs demeurent un vrai casse-tête en l’absence d’un cadre plus précis. Pourtant, ce ne sont pas les idées qui manquent. Le site Pornhub en a déjà listé plusieurs : utiliser un identifiant officiel tel que FranceConnect, effectuer un micro-paiement par carte bancaire, obtenir un code SMS auprès d’un opérateur, ou envoyer un selfie et/ou une pièce d'identité à un système d'analyse du visage (nous y reviendrons).
Un projet de décret d’application est en cours d’examen. Constatant que les éditeurs naviguent à vue, il réclame au CSA d’adopter des « lignes directrices » relatives aux procédés de vérification de l’âge. Mais la CNIL a déjà fait savoir qu’ils ne devront pas « remettre en cause le principe d’anonymat en ligne ».
De la carte d’identité à l’analyse du visage
Ailleurs en Europe, les mêmes réflexions donnent les mêmes maux de tête aux éditeurs de sites et aux législateurs. En 2017, le Royaume-Uni souhaitait lui aussi s’aligner sur la directive européenne « Services de médias audiovisuels » (SMA). Selon elle, les pays de l’UE doivent « éviter que les mineurs aient accès à des programmes susceptibles de nuire à leur épanouissement ». Une loi similaire avait été adoptée, avant d’être abandonnée en 2019, car le gouvernement n’avait pas trouvé de solution respectant à la fois la vie privée, la protection des mineurs et la liberté d’expression. L’obligation d’entrer un numéro de carte de crédit ou de scanner une pièce d’identité avait été jugée trop risquée. À l’époque, The Guardian affirmait avoir réussi à contourner l’un des systèmes envisagés en créant un faux numéro de carte bancaire.
En Angleterre, le débat se poursuit (hors UE) avec un nouveau projet de loi. Et certains proposent désormais d’utiliser une technologie attirante, mais controversée : la reconnaissance faciale. L’idée : demander à l’internaute de se prendre en photo avant d’accéder à un site porno ou à un réseau social (puisque des contenus choquants y prolifèrent aussi). Mais il ne s’agirait pas de reconnaître un visage en particulier. L’IA utilisée analyserait seulement les points d’un visage afin de déterminer son âge. Tout en garantissant l’anonymat, indique The Guardian dans un article récent.
La collecte des données en question
Autre limite : s’il faut des jeux de données pour entraîner les IA, « le problème est que les bases photos d’enfants sont interdites par la loi. Il n’en existe qu’à partir de 16 ans » note Kevin Bailly, de l’Institut des Systèmes Intelligents, dans Numerama. Dans le cas des chercheurs d’Orange Labs, ces derniers ont récolté 5 273 visages d'enfants issus de photos de classe... fournies par des parents et des amis.
Ce système ressemblera-t-il à celui utilisé en Chine pour freiner l’usage par les enfants des jeux mobiles ? Tencent a récemment dévoilé son intention de « procéder à un contrôle des visages pour les comptes qui jouent d’une façon excessive la nuit ». L’objectif est de détecter ceux tenus par des mineurs. En Europe, protection de la vie privée oblige, il ne pourrait s’agir que d’une version édulcorée, anonymisée. Mais la CNIL, peu convaincue, note sur son site que l’analyse du visage, même sans « reconnaissance », repose sur « une collecte massive de données personnelles et apparaît difficilement conforme aux principes de protection des données ». Par exemple, pour un concours, des chercheurs d’Orange Labs à l’origine d’un prototype de logiciel d’analyse de « caractéristiques faciales » ont dû utiliser pas moins de 523 000 photos de célébrités.
Une fiabilité qui laisse à désirer ?
En outre, la fiabilité d’une telle technologie laisserait probablement à désirer, avec de faux positifs comme de faux négatifs. Un adolescent aux traits plus « adultes » ou, a contrario, un adulte au visage juvénile pourraient par exemple être soit acceptés, soit refusés à tort. « Il est actuellement impossible pour une IA de déterminer l’âge d’une personne à partir d’une seule image. Et même avec plusieurs photos, les algorithmes ont une marge d’erreur non négligeable » affirme Kevin Bailly.
Comment une telle technologie, dans ces conditions, pourrait-elle « préserver la capacité à naviguer librement, sans s’identifier » comme le préconise la CNIL ? The Guardian cite l’exemple d’une start-up londonienne, Yoti, qui fournit aux supermarchés en libre-service une technologie de « détection automatique de l’âge » des clients. L’entreprise assure que ce système est « déjà aussi performant qu'un humain pour déterminer l'âge d'une personne à partir d'une vidéo ». Concernant la protection de la vie privée, elle argue que l’IA « ne reconnaît pas le visage de manière individuelle, mais essaie seulement de déterminer l’âge ».
Reste la possibilité, toutefois, pour un mineur de déjouer un tel système en demandant à un ami plus âgé de se placer devant l’écran à sa place. Il faut en outre savoir que 44 % des 11-18 ans déclarent avoir déjà menti sur leur âge sur les réseaux sociaux, selon Génération Numérique. Changeront-ils de comportement face à un tel système ? Rien n’est moins sûr.
Sources : Next INpact, The Guardian, Numerama, Génération Numérique, CNIL
