Des chercheurs viennent d'effectuer une étude dans laquelle ils cherchent à identifier à quel point les watermarks pouvaient aider à identifier du contenu généré par l'IA. Et l'on est pour le moment loin du compte.
L'intelligence artificielle fait peur depuis l'émergence en début d'année de ChatGPT, avec sa capacité à produire des éléments qui semblent avoir une origine humaine. Depuis, de nombreux géants du secteur ont proposé des solutions pour distinguer la création humaine de celle de l'IA. Mais pour le moment, la plus connue, le watermark (ou filigrane) ne parait pas offrir des garanties de sécurité suffisante.
Un watermark pour la réalité ?
L'intelligence artificielle va-t-elle nous condamner comme le pense le Pape à une nouvelle époque où il nous est impossible de savoir si l'on a face à soi une production de l'IA ou non ? C'est ce que semble affirmer une étude de chercheur de l'université du Maryland. Ils ont, en effet, cherché à tester la robustesse desdits watermarks disponibles à ce jour.
Ils ont ainsi utilisé, selon l'étude communiquée à la fin du mois de septembre, une technique appelée « purification par diffusion » qui leur permettait de supprimer le watermark intégré aux contenus produits par l'intelligence artificielle. Et ils ont réussi à effacer ce signe de distinction !
Rien n'est sûr à ce jour
Les chercheurs, qui ont réussi à montrer que les filigranes n'étaient pour le moment un moyen sûr, ne jettent pourtant pas cette méthode à la poubelle. « D'après nos résultats, la conception d'un filigrane robuste est une tâche difficile, mais pas nécessairement impossible », indique ainsi le papier publié en preprint par les chercheurs.
En attendant, ils s'en remettent au discernement du public pour éviter de laisser ces contenus inonder le web et altérer la réalité. « Nous devons veiller à éduquer les gens pour qu'ils soient sceptiques quant à l'authenticité des contenus, qu'il s'agisse de textes, d'images ou de vidéos qui peuvent être diffusés... » ont-ils professé dans cette idée .
Source : Emergingtechbrew, Techradar
