En parallèle du développement de son IA générative DALL-E, OpenAI met aussi au point un outil qui permettra de détecter les images produites à partir de son intelligence artificielle.
On a beaucoup parlé du potentiel toxique des IA génératives d'images en 2023, toxicité que leurs créateurs se sont échinés à réduire en posant des garde-fous. Mais s'il est heureusement devenu difficile de créer des images à partir de dictateurs ou du contenu pornographique, il reste toujours la question de la trop grande vraisemblance de certaines productions, qui pourrait nous induire en erreur. Alors pour que le public voit toujours la différence entre la réalité et les créations de DALL-E, OpenAI a mis au point un nouvel outil.
Un outil déjà efficace 99 % du temps
L'annonce a dû faire plaisir à de nombreuses personnes. Lors du dernier Tech Live Event organisé la semaine dernière, le directeur technique d'OpenAI Mira Murati a en effet expliqué au Wall Street Journal que sa société avait mis au point un outil de détection des images générées par l'IA DALL-E.
Durant l'interview effectuée sur scène, il a affirmé que l'outil était déjà « fiable à 99 % », et qu'il continuait à être testé en interne afin d'en améliorer encore l'efficacité. Si peu de détails ont été fournis sur cette nouvelle arme, il est possible d'en trouver la trace directement sur la page de DALL-E 3, sur le site d'OpenAI.
La solution miracle… ou pas ?
« Nous expérimentons un classificateur de provenance », explique ainsi l'entreprise sur cette page. OpenAI est le dernier en date à se pencher sur la question des instruments pouvant permettre de faire le tri entre l'humain et l'intelligence artificielle. Google avait ainsi déjà au mois de septembre dernier annoncé la mise en place de son logiciel SynthID, destiné à reconnaître les images produites par l'IA.
Reste que pour le moment, à chaque fois qu'une solution d'identification a été avancée, ses limites étaient démontrées très rapidement, à l'image des fameux filigranes. La solution que va proposer OpenAI décevra-t-elle à son tour ? Le fait de travailler à partir de sa propre intelligence artificielle permettra-t-il à la société de créer un outil plus robuste ?
Source : Mashable
