En intégrant un générateur d'images sans restriction à son chatbot Grok, X.com franchit une nouvelle étape controversée dans le domaine de l'IA générative. Le retrait précipité d'Aurora après seulement 24 heures d'exploitation soulève des questions sur la stratégie de modération de la plateforme.
La plateforme X.com vient de vivre un nouvel épisode mouvementé avec le lancement puis le retrait précipité d'Aurora, un générateur d'images photoréalistes intégré à son assistant Grok. Cette nouveauté, dévoilée dans la foulée de l'ouverture de Grok à tous les utilisateurs de X.com, n'aura finalement été accessible que quelques heures. Cette décision intervient alors que les débats sur l'éthique de l'IA générative n'ont jamais été aussi vifs.
Une technologie prometteuse, mais controversée
Aurora se présente comme une version améliorée du premier modèle de génération d'images lancé par xAI en octobre dernier. Sa particularité réside dans sa capacité à produire des images photoréalistes avec très peu de restrictions. Le modèle peut notamment générer des représentations de personnalités connues et de personnages sous droits d'auteur, une liberté rare dans l'univers des générateurs d'images. Cette approche tranche radicalement avec celle des concurrents comme DALL-E ou Midjourney, qui ont opté pour des restrictions plus strictes.
Si la nudité explicite reste proscrite, Aurora s'est démarqué par son absence de filtrage sur des contenus sensibles. Des utilisateurs ont pu générer des images controversées, notamment des scènes violentes impliquant des personnalités politiques. Chaque image produite comportait néanmoins un filigrane dans le coin inférieur droit, garantissant une forme de transparence. Cette politique de modération légère soulève des inquiétudes quant aux potentiels détournements malveillants.
Malgré des résultats impressionnants en matière de réalisme, Aurora présentait encore des défauts techniques classiques des générateurs d'images IA. Les utilisateurs ont notamment relevé des problèmes récurrents dans la représentation des membres et des mains, avec des fusions non naturelles entre les éléments. Ces imperfections suggèrent un développement peut-être trop rapide du modèle.
- Intégré à l'abonnement X sans surcoût
- Collecte des informations à jour depuis X
- Moins biaisé politiquement que sa concurrence
Un départ aussi précipité que son lancement
Quelques heures après son déploiement, de nombreux utilisateurs ont constaté la disparition d'Aurora de leurs options, sans explication officielle de X.com. Elon Musk s'est contenté de préciser qu'« Aurora est encore en version bêta et s'améliorera très rapidement ». Cette communication minimaliste alimente les spéculations sur les véritables raisons de ce retrait soudain.
Cette sortie mouvementée intervient dans un contexte particulier pour xAI, qui vient de réaliser une levée de fonds colossale de 6 milliards de dollars. Avec une valorisation désormais estimée à 50 milliards de dollars, l'entreprise dispose des moyens nécessaires pour rivaliser avec les géants du secteur. Cette puissance financière s'accompagne toutefois d'une responsabilité accrue en matière d'éthique et de sécurité.
Le timing de ce lancement soulève également des questions réglementaires, alors que plusieurs États renforcent leur législation sur les deepfakes. La Californie a notamment adopté des lois strictes concernant les images générées par IA de candidats politiques à l'approche des élections. Dans ce contexte, le choix d'une modération minimale apparaît particulièrement risqué.
30 décembre 2024 à 11h38
Source : Engadget
