Facebook a lancé en Australie une phase de test pour un système permettant d'éviter que les photos intimes ne soient publiées sur le réseau social. Une amélioration du système en place, en fait, mais qui soulève beaucoup de questions.
Une IA pour identifier les photos X
Le nouveau système a été lancé en Australie mais Facebook pense déjà à le déployer, toujours en phase de test, aux Etats-Unis, au Canada et au Royaume-Uni. L'idée de base est celle déjà employée par Facebook : lorsqu'une photo de type Revenge porn est mise en ligne sur le réseau social, il est possible de l'identifier comme telle afin d'en demander la suppression. L'Intelligence artificielle de Facebook, sous la houlette de l'équipe Community operation, va alors utiliser un système de reconnaissance de photos pour empêcher que la même photo ne soit remise en ligne.Le réseau social pousse l'idée plus loin avec ce nouveau test : pourquoi ne pas empêcher en amont que ces photos ne soient mises en ligne ? Pour ce faire, il suffirait à Facebook de les récupérer et c'est précisément ce que propose le réseau social : récupérer vos photos pouvant faire l'objet de Revenge porn pour les enregistrer dans son logiciel de reconnaissance photo.
Envoyer du porno à des inconnus pour éviter que des inconnus ne voient ce porno
L'enfer est pavé de bonnes intentions, dit l'adage, et Facebook le confirme. Il y a en effet un paradoxe dans ce nouveau système qui naît toutefois de la nécessité de trouver une solution à un problème grave.L'idée de Facebook est de permettre à une personne inquiète qu'une photo intime soit partagée par quelqu'un de malveillant, de la signaler à l'avance et de l'envoyer à l'eSafety office, l'agence gouvernementale australienne de lutte contre le harcèlement en ligne et de protection de l'enfance, explique Mashable. Cette agence va alors notifier la photo à Facebook qui l'intégrera dans sa banque de données photo : ainsi, l'image ne pourra pas être mise en ligne sur le réseau social.
Si le passage, semble-t-il obligé, par une agence gouvernementale, a de quoi rassurer les utilisateurs, la solution présente néanmoins un côté absurde : il faut envoyer une photo porno à des inconnus, soient-ils des employés du gouvernement, pour éviter que des inconnus ne la voient. Même en supposant que tout soit anonyme, l'idée pose plusieurs problèmes.
La solution n'est que palliative, pour commencer : le système ne concerne que le réseau social Facebook. Rien n'empêchera en effet que la photo ne soit mise en ligne ailleurs. Il s'agit en outre de présupposer que telle ou telle personne ait l'intention de publier cette photo donc de commettre un acte illégal. Enfin, il faut que la potentielle victime ait le courage d'envoyer la photo qui sera malgré tout visionnée par des personnes autorisées.
Facebook précise que les photos ne seront pas stockées par le réseau social : l'Intelligence artificielle ne fera que créer une empreinte digitale de la photo. Pour ce faire, une fois la photo notifiée à l'agence gouvernementale, l'utilisateur doit se l'envoyer à lui-même sur Messenger pour que Facebook puisse l'analyser et créer cette empreinte digitale. L'utilisateur est ensuite invité à la supprimer de la conversation Messenger.
