YouTube va s'associer à une célèbre agence artistique pour détecter les voix et visages des plus célèbres stars générés par IA qui peuvent tromper les fans et le public.
L'intelligence artificielle ne cesse de surprendre par la qualité des images ou vidéos produites, mais attention aux abus. Depuis le lancement de l'intelligence artificielle générative et sa mise à disposition du public, des petits malins ne cessent de jouer avec la technologie pour faire dire à peu près n'importe quoi à de nombreuses célébrités. YouTube veut signer la fin de la récré et rendre sa plateforme plus saine en alliant ses forces avec une célèbre agence artistique américaine.
Des avatars IA de chanteurs ou d'acteurs qui posent des problèmes en matière de désinformation
Vous avez du certainement voir passer sur YouTube ou sur les réseaux sociaux plusieurs images improbables d'acteurs célèbres générées par IA. Certains s'amusent à cloner les voix d'acteurs ou de chanteurs, ou créer des avatars très ressemblants pour duper le public. S'il y a encore quelques mois, il était très facile de distinguer les images créées par intelligence artificielle, la technologie avance à pas de géants et l'illusion est presque parfaite dans certains cas.
Vu de l'extérieur, cela peut paraitre amusant, mais pas pour les célébrités visées par ces contenus, à qui l'on peut faire dire n'importe quoi, et notamment des propos offensants et insultants qui peuvent choquer leur communauté.
YouTube est également touché par le problème. La plateforme, qui vise à lutter contre la désinformation, ne peut pas laisser passer des contenus qui pourraient induire son audience en erreur. Le service de vidéo à la demande de Google va donc très prochainement s'attaquer au problème grâce à un accord passé avec Creative Artists Agency (CAA).
YouTube s'associe avec CAA pour siffler la fin de la récré et identifier rapidement les contenus IA
CAA est l'une des agences les plus célèbres du monde du divertissement, et se charge des intérêts de clients prestigieux tels que Beyonce, Brad Pitt, Leonardo DiCaprio ou George Clooney. YouTube va partager avec l'agence sa technologie d'identification des contenus générés par IA, permettant aux membres de l'agence de repérer plus rapidement les contenus et les faire retirer de la plateforme. Ces outils seront testés durant quelques mois sur quelques stars et athlètes, avant d'être proposés plus largement à d'autres célébrités ou influenceurs.
CAA avait déjà anticipé les problèmes liés à l'IA en développant une solution logicielle visant à scanner et conserver de manière sécurisée le visage et le corps des acteurs qu'elle représente. Ces informations pouvaient être utilisées ensuite par les célébrités comme bon leur semble dans leur œuvre, ou pour la réalisation d'une publicité, avec leur consentement et probablement contre rémunération.
Source : The Verge
31 octobre 2024 à 20h17
