Le géant à l'origine de ChatGPT a mis au point un outil de détection pouvant repérer l'immense majorité des images générées à partir de son IA Dall-E.
L'IA générative a été le dernier bond en avant technologique grand public. Mais si les outils qui nous sont proposés depuis environ un an et demi sont fascinants, ils ouvrent aussi malheureusement la porte à toutes les entreprises de désinformation inimaginables, en floutant la frontière entre le vrai et le faux. Pour cette raison, des entreprises comme Microsoft ne veulent pas mettre sur le marché des outils comme celui qui permet de créer une fausse vidéo à partir d'une seule photo. Et pour ceux qui ont déjà commercialisé leur produit, c'est maintenant l'heure de créer les outils permettant de les réguler.
Les images générées par Dall-E deviendront apparentes
OpenAI, ce n'est pas simplement ChatGPT. Le géant de la tech, partenaire de Microsoft, est aussi celui qui propose une des meilleures IA génératives d'image avec Dall-E. L'outil est tellement performant qu'il peut quelques fois produire des images plus vraies que nature. Alors, pour mettre fin à ce problème, OpenAI a développé un instrument pouvant détecter les images artificielles créées par son IA.
Selon Reuters, cet instrument affiche déjà un haut degré d'efficacité, puisqu'il est capable de repérer 98% des images qui proviennent de Dall-E. Et OpenAI ne devrait pas s'arrêter là, ses équipes étant en train de produire un filigrane pour les images et même les audios issus de l'IA qui serait difficile à enlever.
Un système qui se généralise
Ce travail n'est d'ailleurs par l'apanage d'OpenAI. Tous les géants ayant intégré la course de l'intelligence artificielle cherchent à l'heure actuelle les meilleurs moyens pour pouvoir distinguer ce qui a été produit par l'IA de la réalité, à l'image de Meta, qui a un programme ambitieux pour marquer ces contenus sur l'ensemble de ses réseaux sociaux.
Il faut aussi dire que l'année 2024 est une année charnière au niveau politique, avec de nombreuses élections importantes, et surtout à la fin de l'année, l'élection présidentielle américaine. Beaucoup craignent que son déroulement ne soit plombé par l'accumulation de fausses nouvelles, qui pourraient d'autant plus facilement être disséminées qu'elles seraient supportées par des images ou des vidéos produites par l'IA.
Source : Reuters
