L'Union Européenne s'empare du dossier des deepfakes pornographiques. Et tous ceux produits dans l'idée de harceler ou de blesser une personne seront à l'avenir criminalisés.
L'affaire des deepfakes pornographiques de Taylor Swift, qui ont eu un retentissement mondial, et qui ont même entraîné la mise en place de mesures d'urgence sur X.com, a illustré les dangers des images pornographiques générées par IA. Cette technologie peut en effet être très facilement utilisée pour humilier ou harceler une personne, en imitant ses moments les plus intimes. Raison pour laquelle Bruxelles a décidé qu'il ne fallait plus à l'avenir laisser impuni ce genre d'initiatives.
Bruxelles veut sévir
À côté de tous ses apports, l'IA générative pose aussi un certain nombre de problèmes. Elle peut notamment être utilisée pour facilement produire des images dégradantes, et ce, à l'aide d'outils peu chers et faciles d'utilisation. C'est en prenant en compte cet aspect que l'Union Européenne a décidé d'intégrer des mesures de contrôle et de criminalisation dans son projet de directive destinée à combattre la violence domestique et les différentes formes de violences faites aux femmes.
Seront ainsi à l'avenir rendus illégaux les deepfakes pornographiques non sollicités par la personne éventuellement représentée. Il faut dire qu'au-delà de Taylor Swift, de nombreuses personnalités publiques se sont déjà plaintes de ce genre de production, sans compter le nombre inconnu de particuliers aussi victimes de la technologie.
Aider les victimes de l'UE sans voie légale
Avec ce nouveau cadre légal, la notion de revenge porn pourrait ainsi changer. Une personne pourra être condamnée pour cette infraction, même si elle ne publie pas un contenu sexuel véritable, mais une simple représentation obtenue grâce à l'IA.
La directive criminalise par ailleurs d'autres atteintes comme le cyberharcèlement, le cyber-stalking, les propos de haine misogynes ou l'envoi non consenti de « nudes ». L'objectif de Bruxelles est d'offrir une possibilité de recours légal aux personnes vivant dans des pays de l'Union où ces atteintes ne sont pas punies par le droit pénal. « Il s'agit d'une question urgente, étant donné la propagation exponentielle et l'impact dramatique de la violence en ligne » a indiqué la Commission européenne dans son annonce.
Source : Engadget
