La génération d'images pédopornographiques par IA pose un gros problème

Mais du coup légalement ca doit être un casse tête. Parce que le statut est le même que si quelqu’un dessinait ou peignait un tableau ? Les gens n’existent pas. Est ce que l’on peu condamner quelqu’un qui génère des images de choses prohibées ? (Vous avez 4heures) édit : j’avais pas vu la fin de l’article. Mais d’un point de vue constitutionnel j’ai du mal à croire que quelqu’un puisse être condamné pour en avoir généré. Par contre s’il en diffuse ca doit rentrer sous le coup de la loi. Les gens qui vont légiférer la dessus vont s’arracher les cheveux.

Si ca peut eviter de les faire toucher a des gosses…

Cette histoire me fait penser à des études faites dans certaines grandes villes des usa à l’époque de l’arrivé du haut débit. Ils avaient trouvé une étrange corrélation entre la baisse des viols et agressions sexuelles et la progression des sites pornos.

A la différence que sur ces sites se sont de vrais humains qui doivent « vendre leur corps » pour faire des vidéos ce qui pose moralement question. Doit on se poser les mêmes questions quand les acteurs sont numériques crées par une IA ou non?

c’est pour ça qu’il y’a des lois et des règles juridiques déja existantes sur le sujet.
Après, on a pas la science infuse et perso, je ne les connaient pas.
Mais les lois comme le spécifie l’article sont différentes aux US ou d’autres pays.

après ça met aussi en question la culture asiatique, notamment les japonais avec leurs Hentais ou autres contenus qui ne sont pas acceptables chez nous mais chez eux oui.

@CallMeLeDuc et @ZZorrgg

c’est la théorie japonaise, elle n’est absolument pas avérée, ça la dessus, je suis absolument formel.
D’autres pays vont plutot considérer que les contenus pédopornographiques sont une forme de préparation psychologique à passer à l’acte.

Après suffit de voir un dérivé de l’affaire Palmade, il a été soupçonné et même directement accusé par BFM d’avoir consulté un site pédopornographique et d’en avoir une consommation effrenée.
Cela a été démontré que c’était faux mais il y’a bien eu une enquête car c’est rigoureusement interdit.

Après ce que l’on peut en dire, c’est qu’un contenu pédopornographique par IA n’aura pas tant de différences avec un contenu déssiné de type Hentai comme on le voit par les japonais.
Mais à Angouleme, y’avait eu une polémique avec un auteur de BD qualifié de proche pédophilie, il n’a pas pu se présenter, y’a des limites et ça en fait partie.

La culture n’est pas la même partout, c’est compliqué et oui les frontières et les nations ont une raison d’être et cet exemple en est la preuve.
En France et généralement en occident, c’est inacceptable.
En culture asiatique, la sexualisation de l’enfant n’est pas la même et ce qui entoure le sujet non plus. J’avais notion qu’au japon, ils vendaient des poupées sexuelles « enfant » pour justement permettre à des pédophiles de se défouler et ne pas y aller en vrai.
Mais honnêtement chez nous, c’est juste une monstruosité inqualifiable.

Poupées sexuelles d’enfants : outil de lutte ou d’incitation à la pédophilie ? (france24.com)

« Pose problème » … si on réfléchit à coups de postures morales, sans doute. Comme en France où, il me semble, les dessins de ce type sont condamnables non pas par la loi mais par sa circulaire d’application.
En pratique c’est un « crime sans victime ». Si les gens qui ont ces pulsions les assouvissent avec des images générées par des IA plutôt que des photos prises en ruinant la vie de vrais gosses, j’appelle ça un net progrès.

A mon avis il y a absolument pas besoin de légiférer plus. Il y a les lois existantes.

D’ailleurs l’autre jour il y a eu un débat sur un dessin d’artiste qu’un curé qui se fait sucer par un enfant menotté.
Du coup un dessin ou un truc généré par IA, ça ne change pas grand chose.

Mais bon c’était à prévoir.

Ceci étant dit sur midjourney, j’ai mis une photo d’une femme en soutif-jean.
Rien de particulier.
Midjourney a refusé de bosser sur ma photo car c’était du contenu adulte.

Lol quoi

Les dessins sont bien aussi interdits par la loi :

Article 227-23 du Code pénal : « le fait, en vue de sa diffusion, de fixer, d’enregistrer ou de transmettre l’image ou la représentation d’un mineur lorsque cette image ou cette représentation présente un caractère pornographique est puni de cinq ans d’emprisonnement et de 75 000 euros d’amende ».

Après, face à la justice, ce qui peut jouer, c’est qu’en fonction de l’intention supposée de l’auteur, le juge peut considérer que la liberté artistique ou la liberté d’expression prévaut sur cette interdiction.

Oui. Sauf que rien ne permet de garantir que ça ne va pas aussi chez certains avoir l’effet inverse et à terme provoquer un passage à l’acte…

C’est toute la difficulté avec ce genre de contenu, et c’est bien mis en évidence par l’affaire Bastien Vivès. Pour quelqu’un qui n’a pas de pulsions pédophiles, il est assez évident que ce qu’à fait Vivès rentre dans le cadre de l’humour, certes sur un sujet difficile et qui peut choquer, mais de l’humour quand même. C’est d’ailleurs clairement la ligne éditoriale générale de la collection dans laquelle est paru Les Melons de la Colère, c’est du porno parodique, toute la collection est à prendre au second degré, voire au troisième.

Mais on peut aussi se dire qu’effectivement, entre les mains de quelqu’un qui a des pulsions pédophiles, ce genre de chose peut renforcer la frustrations et pousser au passage à l’acte.

Toute la difficulté (et j’aimerais vraiment pas être le juge qui va devoir trancher là-dessus !) est du coup de savoir ou placer le curseur entre la nécessaire protection des enfants et lutte contre la pédophilie d’un côté, et la protection du droit à rire de tout de l’autre…

vous allez voir que ça va servir de base pour une loi contre les AI gratuites ou je sais pas quoi, me semble avoir lu que l’Europe veut un comité pour autoriser ou refuser telle ou telle ia (le patron d’Open Ai a dit qu’ils pourraient devoir quitter l’Europe) bien sur dans la pratique ca ne servira à rien les gens feront leur propre truc qu’ils distribueront sous le manteau mais ça servira d’autres intérêts de censure comme d’hab.

La morale est indispensable à une société d’individus et de fait la question qui se pose est de savoir si on doit faire passer la morale et l’éthique ou bien la question purement scientifique qui pourrait permettre de faire baisser les actes pédophiles. Comme certaines études sur le porno ont déjà prouvé les effets sur les comportements déviants.

En effet la culture Japonaise peu être critiquable, pour autant le Japon ou la Corrée sont réputées pour leur sens civique et pour leur non violence. Au Japon il y’a 10 fois moins d’agressions que chez nous peu importe où vous allez les risques de se faire agresser ou simplement insulter est très faible. Ce sont des sociétés très codifiées et très ordonnées avec un sens de la morale certain, pourtant ils me semblent plus pragmatiques que nous sur certains sujets.

De fait qu’est ce qu’il vaut mieux. La France (ou l’occident en général) est devenu une société d’individus rois où on peut se faire insulter voir agresser pour une cigarette ou même sans aucune raison. Mais paradoxalement on est fier d’interdire des fictions de dessins pédopornographique

De l’autre coté au Japon si ils ont estimé scientifiquement avec des études que les pervers, violeurs ou pédophiles vont être plus aptes à ne pas passer à l’acte si on leur laisse se taper des poupées gonflables ou de regarder des hentai.
Il me semble que l’idée est tout à fait défendable. Même si sur le plan « moral » certains ici sont choqué.
D’ailleurs en France les pédophile sont traités chimiquement pour qu’ils ne passent pas à l’acte. Hentai ou castration chimique.

La « monstruosité inqualifiable » c’est juste un jugement de valeur pour certains indignés ce qui n’apporte aucune solutions si ce n’est le fait de se draper dans sa vertu pour éviter de s’attaquer aux problèmes réels…
D’ailleurs cet état de fait est valable sur un grand nombre de sujet de société.

Suis je gêné de savoir que des mecs regardent ce genre de contenu fictif ? Clairement. C’est malaisant. Mais bon tant que c’est fictif, c’est que c’est principalement dans la tete. Hors on va surement pas arrêter tous les gens qui ont ce genre de fantasme (Et j’ai l’impression qu’ils sont quand meme assez nombreux) Je ne suis pas pour lutter contre des moulins à vents, je pense pas qu’il faille plus légaliser sur le sujet. Après que les plateforme cherche à limiter ce genre de contenu, je ne peux qu’aller dans leurs sens. Ce qu’il faut c’est empecher d’éventuelle victime. Je suis incapable de dire si ce genre de contenu peut pousser à l’acte ou non.