Il pensait qu'il pouvait tout faire avec Grok en toute impunité, que nenni. La société d'Elon Musk attaque en justice un utilisateur aux demandes punies par la loi.
Pour la première fois, l’entreprise xAI, fondée par Elon Musk, poursuit en justice l’un de ses propres utilisateurs. Ce dernier est accusé d’avoir utilisé son outil d’intelligence artificielle, Grok, pour générer des images à caractère pédopornographique. Cette affaire, déposée mardi devant un tribunal fédéral du Texas, soulève une question capitale : qui est responsable des contenus produits par une IA, l’utilisateur ou le développeur ?
Un utilisateur accusé d'avoir contourné les protections
L'utilisateur, Terry Harwood, un homme de Caroline du Sud déjà inculpé pour exploitation sexuelle de mineurs, est visé par une plainte de 12 pages. Selon xAI, il aurait créé plusieurs comptes sous de fausses identités, puis élaboré des requêtes conçues pour tromper les systèmes de modération de Grok. L’entreprise affirme que l’accusé a transformé des photographies non sexuelles en images explicites, sans le consentement des personnes représentées.
Le document juridique précise que Grok a initialement refusé de répondre aux demandes, en invoquant ses règles de modération. Mais Harwood aurait persisté en reformulant ses requêtes jusqu’à obtenir un résultat. xAI ne nie pas que son outil puisse produire de tels contenus, mais soutient que le système a tenté de les bloquer, reportant ainsi la responsabilité sur l’utilisateur.
Des chiffres inédits sur la modération
Dans le cadre de cette procédure, xAI révèle pour la première fois des données sur ses efforts de modération. L’entreprise affirme avoir suspendu plus de 52 000 comptes en 2026 et transmis plus de 73 000 signalements au National Center for Missing & Exploited Children (NCMEC), aboutissant à près de 250 arrestations cette année-là. Ces chiffres, avancés par xAI elle-même dans un contexte judiciaire, démontrent l'ampleur des tentatives de contournement, mais également les mesures prises par l'entreprise afin de les bloquer.
- Accès aux données X en temps réel
- Bon outil de veille médiatique
- Moins biaisé politiquement que sa concurrence
Mais si ces chiffres sont intéressants, ils ne corrigent pas le fond du problème. Un modèle d’IA généraliste, capable de générer des contenus illicites si l’utilisateur insiste suffisamment, devrait-il être accessible au public ? Selon le Center for Countering Digital Hate (CCDH), Grok aurait produit environ trois millions d’images sexualisées entre fin décembre 2025 et début janvier 2026, dont 23 000 semblant représenter des mineurs. Les 73 000 signalements de xAI au NCMEC confirment à la fois l’efficacité partielle des filtres et l’ampleur du phénomène qu’ils tentent de contenir.
xAI déjà visé par des actions en justice
L’affaire intervient alors que xAI est elle-même poursuivie dans plusieurs juridictions pour des arguments inverses. À Londres, une députée a engagé une action en justice pour déterminer si l’entreprise doit répondre des contenus générés par ses utilisateurs. À Baltimore, une plainte au titre de la protection des consommateurs est en cours, tandis qu’à Paris, le parquet enquête sur des allégations similaires, une procédure à laquelle Elon Musk a refusé de coopérer.
Par ailleurs, Grok a été interdit en Malaisie et en Indonésie en raison de sorties à caractère sexuel explicite. En janvier 2026, Apple avait menacé de retirer l’application de son store, avant que la situation ne s’apaise.
La position publique de xAI a évolué en quelques mois. En janvier, Elon Musk affirmait sur 𝕏 (ex-Twitter) :
Je ne suis au courant d’aucune image de mineur nu générée par Grok. Littéralement zéro.
Le document judiciaire déposé cette semaine décrit pourtant un système de modération traitant des dizaines de milliers de tentatives de contournement. Difficile de croire que le trillionnaire américain ignore tout cela.
