DALL-E, l’intelligence artificielle d’OpenAI capable de générer des images à partir de texte, peut désormais éditer les visuels contenant des visages humains. Jusqu’alors, cette fonctionnalité était interdite par peur d’utilisation malveillante.
Les utilisateurs de l’IA avaient uniquement la possibilité de travailler et de partager des visages photoréalistes. Ils ne pouvaient pas télécharger de photo susceptible de représenter une personne réelle, y compris les photos de célébrités et de personnalités publiques.
DALL-E s’est améliorée en matière de sécurité
Dans un e-mail envoyé à ses utilisateurs, l’entreprise a expliqué avoir fait de grands progrès en matière de sécurité, lui permettant désormais d'accepter de travailler avec des visages de vraies personnes. Elle a notamment amélioré ses filtres pour supprimer les images qui contiennent « des contenus sexuels, politiques et violents ».
Les utilisateurs de DALL-E vont ainsi pouvoir télécharger la photo d'une personne et générer des variantes de cette image, ou modifier des caractéristiques spécifiques de celle-ci comme les vêtements ou la coiffure d'une personne. Cela qui devrait faire le bonheur de nombreuses personnes évoluant dans l’industrie créative. Le déploiement de cette fonctionnalité va néanmoins mettre le filtrage d’OpenAI à rude épreuve, dont certains clients se sont plaints par le passé à cause de son imprécision.
Les IA génératrices d’art sont controversées
Cette décision montre la manière dont les fabricants de générateurs d’images et leurs utilisateurs tentent de gérer les inconvénients potentiels de cette technologie, qui peut très vite être exploitée par des personnes mal intentionnées à travers la création de deepfakes notamment.
Par exemple, la plateforme Stable Diffusion, disponible en open-source sans aucune restriction, a été utilisée pour créer des deepfakes pornographiques et non consensuels de célébrités comme Emma Watson. Stable Diffusion, à l’instar de la nouvelle fonctionnalité d’OpenAI, permet d’éditer les visages humains. Cependant, OpenAI est bien plus pointilleuse en ce qui concerne les usages malveillants de ses technologies, notamment car il s’agit d’une société soutenue par de très grands noms du secteur de la tech comme Microsoft, qui ne veulent surtout pas être associés à des affaires aussi sombres.
En plus des dangers qu’elles représentent, les IA génératrices d’art sont ciblées par des artistes qui considèrent que ces technologies, capables de créer une œuvre en un instant à partir de quelques mots, desservent l’art et leur travail.
Sources : The Verge, TechCrunch
