Google vous permettra bientôt de débusquer les images générées par IA

Google annonce l'arrivée d'un nouvel outil pour permettre à ses utilisateurs de déterminer si une image a été générée par une intelligence artificielle (IA). Un enjeu majeur pour les acteurs de l'industrie, alors que les modèles deviennent de plus en plus performants.

Lancé en 2021, le standard C2PA (Coalition for Content Provenance and Authenticity) regroupe les grands noms de la technologie, comme Google, Amazon, OpenAI, Meta ou encore Adobe. Il permet aux éditeurs d'intégrer des métadonnées dans les médias (images, vidéos) afin de vérifier leur origine et les informations qui s'y rapportent.

Une initiative bienvenue alors que l'usage de l'intelligence artificielle générative ne cesse de prendre de l'ampleur. La coalition a d'ailleurs développé une nouvelle version de la norme, décrite comme « plus sûre contre un plus grand nombre d'attaques de falsification grâce à des exigences techniques plus strictes en matière de validation de l'historique de la provenance du contenu » par Google.

Le C2PA dans Search et YouTube

Et c'est justement cette technologie, baptisée Content Credentials 2.1, que la firme de Mountain View souhaite incorporer dans ses produits phares. À commencer par son moteur de recherche. La fonctionnalité About this image , qui n'est pas encore disponible en France, permet déjà de fournir plus de contexte et d'informations sur les images trouvées via Search. Elle indiquera, « dans les prochains mois », si le contenu a été généré par l'IA.

Les systèmes publicitaires de l'entreprise vont eux aussi intégrer le C2PA, dans le but d'« informer sur la manière dont nous appliquons les politiques clés », explique la société.

« Nous étudions également des moyens de transmettre les informations C2PA aux spectateurs sur YouTube lorsque le contenu est capturé par une caméra », poursuit-elle. Cela devrait permettre de déceler de potentielles modifications par rapport au document original, tout en apportant davantage de transparence. Google donnera plus d'informations à ce sujet dans le courant de l'année.

Un enjeu crucial

Le géant du Web en profite pour donner des nouvelles de SynthID, son filigrane maison, conçu spécifiquement pour être intégré aux contenus générés par l'IA. « Nous continuons à apporter SynthID à des outils d'IA générative supplémentaires pour la création de contenu et à davantage de formes de médias, y compris le texte, l'audio, l'image et la vidéo », indique-t-il.

Ce type de dispositif est considéré comme crucial, alors que les experts s'inquiètent de la propagation de la désinformation, aggravée par les nouvelles possibilités offertes par l'IA générative.

Source : Google