L'IA générative est une technologie particulièrement fascinante avec sa capacité de produire des textes et des images à partir d'une demande formulée en quelques mots. Mais entre de mauvaises mains, elle peut aussi véhiculer des informations trompeuses, ce qui peut avoir des effets potentiellement catastrophiques sur les sociétés. Alors, comme d'autres avant lui, le groupe Meta veut pouvoir distinguer les vraies images des fausses. Et ce devrait être possible d'ici à la fin du printemps prochain.
Meta veut surveiller les images générées par IA
L'on parle de plus en plus de la nécessité de labellisé les images produites par l'IA, afin de ne pas les confondre avec la réalité. Un domaine dans lequel Meta va pleinement s'engager selon son président des affaires mondiales, Nick Clegg. Pour cela, l'entreprise va utiliser la présence de marqueurs invisibles présents dans ce genre de documents, pour les détecter, et ensuite afficher publiquement leur origine.
Les utilisateurs de Facebook, Instagram ou Threads se verront ainsi indiqués qu'une image a été produite par une intelligence artificielle. Meta, qui impose déjà cet étiquetage pour tous les documents générés par ses outils, veut pouvoir répéter l'opération sur les images produites à partir d'IA des autres géants du secteur comme OpenAI, Microsoft, Midjourney ou bien Google.
Les images, le contenu le plus facile à détecter
Une initiative qui sera la bienvenue en cette année 2024, qui s'annonce cruciale au niveau mondial avec de très nombreuses élections prévues, dont les élections européennes, et surtout à la fin de l'année, les élections présidentielles américaines. Il ne faudrait ainsi pas que ces scrutins soient gênés par la potentielle irruption massive de fausses images voulant se faire passer pour vrai.
Reste qu'il s'agit d'un chantier qui commence à peine. Car l'IA ne se contente pas de produire des images, mais aussi des textes, des audios et des vidéos. Pour ce qui est de l'écrit, il semble qu'il soit déjà trop tard pour pouvoir distinguer la main humaine de l'origine artificielle. « Ce train est passé » a ainsi expliqué Nick Clegg. Pour les audios et les vidéos, il y a plus d'espoir, même si à l'heure actuelle aucune solution correcte n'existe.
« Même si la technologie n'est pas encore tout à fait au point, en particulier en ce qui concerne l'audio et la vidéo, nous espérons pouvoir créer un élan et inciter le reste de l'industrie à suivre » veut rassurer Nick Clegg.
Source : Reuters
