Les géants de l'IA font cause commune pour combattre la pédopornographie

Le gros problème avec ces générations d’images rajeunies à caractère pornographique, c’est que je ne pense pas qu’elles puissent, pour l’instant, être sanctionnées par la loi tant qu’on ne les diffuse pas.

Ce qui veut dire que les pédophiles peuvent, en toute légalité, se fabriquer une photothèque d’images d’enfants, y compris avec des photos de personnes prises sur internet, voire de personnes du voisinage photographiées à leur insu.

Je suis curieux de voir comment le législateur va se débrouiller avec ça.

Tous les grands noms… mais sans Twitter. Quelle surprise

Même si sur le papier, l’article de loi sanctionnant les images pédo ne mentionne que la diffusion/transmission, dans les faits la jurisprudence sanctionne aussi la simple détention, en utilisant d’autres qualifications (importation, recel…).

Cf cet article, qui évoque notamment le cas de quelqu’un condamné pour avoir téléchargé de telles images : Détention / Diffusion d’images pédopornographiques - Droit Pénal | Maître Morlet

Or quand tu génères des images avec une IA générative, tu les télécharges. Même si tu ne les enregistre pas forcément durablement sur ton terminal.

Les Loli en pls

ça fait un longtemps que des modeles d’IA génératives sont utilisable localement. Que ce soit pour la génération de texte, de son ou des images (et même peut être de la vidéo mais j’ai pas creusé).

Un truc purement juridique:
Un mec qui dessine lui même et de manière photo réaliste une image pédopornographique tombe t-il sous le coup de la loi?

À priori, non, aucun des qualificatifs utilisés actuellement ne semble pouvoir condamner ça. Mais si de tels cas venaient à devenir très fréquents, la loi s’adaptera sans doute.

Après, je pense quand même qu’il y aussi assez peu de chances qu’un type reste comme ça dans son coin à produire des dessins uniquement pour son usage, sans jamais chercher ni à les partager, ni au contraire à en récupérer d’autres ailleurs.

Si tout à fait.

Après un peu de recherche je suis tombé la dessus.

En 2007, la Cour de cassation a confirmé que les sanctions (article 227-23 du code pénal) concernant les images pédopornographique étaient valables au même titre pour les enfants réels qu’en ce qui concerne des images non réelles représentant un mineur imaginaire.

A l’époque cela visait le hentai pédopornographique mais cela s’étend forcement aux images générée par IA.

A quand un système pour vérifier si tu ne penses pas à des fantasmes un peu tordus ?

Pourquoi si il ne la diffuse pas?

Parce que l’expérience a montré plus d’une fois que assouvir les fantasmes pédophiles avec des images augmente grandement le risque d’escalade et de passage à l’acte.

Donc une personne qui fantasme sur de telles images, même s’il ne les diffuse pas, il faut le faire soigner.

Sinon y aurait d’ailleurs pas non plus de raison d’interdire la diffusion hein…