DeepMind, entreprise spécialisée dans l’intelligence artificielle (IA) appartenant à Google, a mis au point un système permettant d’intégrer des filigranes indétectables dans la musique générée par son modèle. La firme espère ainsi répondre à l’une des nombreuses problématiques issues de la technologie.
Au fur et à mesure que l'IA générative se développe, de plus en plus de modèles sont en mesure de générer des morceaux à partir d'une simple requête, parfois en imitant parfaitement la voix d'un artiste connu. Cette tendance pose évidemment de nouvelles questions juridiques, concernant le droit d'auteur et la propriété intellectuelle. Avec son nouveau filigrane, la firme de Mountain View souhaite indiquer lorsqu'une musique a été créée par une IA, sans pour autant l'endommager ou « compromettre l'expérience d'écoute ».
Un dispositif inédit, selon Google
Baptisé SynthID, le nouveau dispositif sera directement intégré à tous les morceaux générés par l'IA Lyria de DeepMind. Il permet de déterminer la provenance d'une musique, « en convertissant l'onde audio en une visualisation bidimensionnelle qui montre comment le spectre des fréquences d'un son évolue dans le temps ». En revanche, le filigrane est « imperceptible pour l'Homme », mais « détectable pour l'identification », précise l'entreprise.
SynthID est également utilisé par Google pour filigraner les images créées par Imagen sur Vertex AI de Google Cloud, un modèle qui génère des images. « Le filigrane est conçu pour rester détectable même lorsque le contenu audio subit de nombreuses modifications courantes telles que l'ajout de bruit, la compression MP3 ou l'accélération et le ralentissement de la piste », continue Google. SynthID peut également détecter la présence d'un filigrane tout au long d'une musique, afin de déterminer si certaines de ses parties ont été générées par Lyria.
La firme de Mountain View assure que son système « ne ressemble à rien de ce qui existe aujourd'hui, en particulier dans le contexte de l'audio ». Lyria est le modèle qui alimente la suite d'outils d'IA récemment dévoilée pour YouTube, permettant aux créateurs de simplement générer des musiques. Par conséquent, SynthID y sera directement intégré.
Une question se trouvant au cœur des réglementations de l'IA
De plus en plus de musiciens s'inquiètent de l'émergence de l'IA générative et de sa capacité à créer des mélodies en seulement quelques secondes. Ils sont également préoccupés par la manière dont ces modèles sont entraînés, et de leur propension à générer des morceaux qui peuvent sembler très similaires à leurs propres œuvres.
Cette question est également au cœur des réflexions des gouvernements souhaitant réglementer la technologie. Le décret récent de Joe Biden sur l'IA prévoit, par exemple, un nouvel ensemble de normes gouvernementales pour le filigrane des contenus générés par l'intelligence artificielle. De même, l'AI Act européen aborde la question de ce qu'imposera une telle mesure.
Cette question touche les différents domaines dans lesquels les IA génératives sont utilisées, que ce soit l'art visuel, mais également la génération de texte.
).