Pour OpenAI, il serait possible de laisser l'IA générer du contenu pornographique "responsable"

Le papa de ChatGPT et de Dall-E réfléchit à comment du contenu pornographique pourrait être potentiellement généré par ses outils sans créer de dégâts. La balance devrait être difficile à trouver.

L'IA générative est sûrement l'avancée technologique la plus importante des deux dernières années. Malheureusement, comme tout outil puissant, elle charrie derrière elle des utilisations néfastes, dont l'une d'elles est la production de deepfake pornographiques, que les géants de la tech cherchent à combattre. Reste que la production de contenu pornographique consensuel étant autorisée dans le « réel », alors, pourquoi pas aussi à travers l'intelligence artificielle ? C'est sur cette question épineuse qu'OpenAI se penche dernièrement.

OpenAI réfléchit à la question du contenu pornographique généré par AI

Le média Wired a eu accès dernièrement à un document très intéressant produit par OpenAI. Ce document « Mode Spec » traite du comportement attendu par la firme américaine de ses modèles d'intelligence artificielle dans de nombreux domaines... dont celui de la pornographie.

« Nous étudions actuellement la possibilité de fournir de manière responsable la possibilité de générer du contenu NSFW dans des contextes adaptés à l'âge par l'intermédiaire de l'API et de ChatGPT » est-il ainsi indiqué. « NSFW » est un acronyme anglais signifiant « not safe for work » et qui renvoie à tout contenu explicite. Dans le même document, OpenAI rappelle ainsi que ce terme « peut inclure de l'érotisme, du gore extrême, des insultes et des obscénités non sollicités. »

Une alternative à l'interdiction pure et simple ?

Si le document ne donne aucune indication précise sur comment une telle possibilité pourrait être mise en place, il montre par contre que l'interdiction de créer du contenu explicite pour les IA n'est pas intangible.

Une position qui peut être compréhensible dans le sens où certaines IA, créées par des acteurs de moindre importance que les GAFAM, sont déjà capables de produire ce genre de contenu. Ne vaut-il pas mieux ainsi que des acteurs responsables, et dont la taille même les obligera à rendre potentiellement des comptes, puissent offrir cette fonction, plutôt que laisser cette dernière cantonnée à une myriade d'acteurs numériques de moindre importance, qu'il sera impossible de réguler ?

Source : Wired