Google a dévoilé, mercredi, les résultats de son arsenal anti-fraude et escroquerie dopé à l'intelligence artificielle. L'an dernier, le géant a bloqué plus de 5 milliards d'annonces malveillantes grâce à ses modèles d'IA.
On sait que le sujet des annonces frauduleuses, dont le but est d'escroquer les utilisateurs, est pris très au sérieux par Google. Dans son rapport annuel sur la sécurité des publicités publié ce mercredi 16 avril, la firme de Mountain View révèle justement comment l'intelligence artificielle générative a transformé, pour ne pas dire décuplé sa capacité à détecter et neutraliser les menaces, avant qu'elles n'atteignent les utilisateurs. Une démonstration de force qui met aussi et hélas en lumière l'ampleur des tentatives de fraude sur internet.
97% des pages malveillantes publiées sur Google neutralisées grâce à l'intelligence artificielle
L'évolution est, vous allez voir, plutôt frappante. Exit les anciens modèles d'apprentissage automatique gourmands en données, place aux grands modèles de langage (LLM) qui fonctionnent avec une efficacité redoutable. Les nouveaux outils développés par Google nécessitent moins d'informations pour identifier rapidement les menaces émergentes et distinguer les entreprises légitimes des escrocs. Mais ils sont en parallèle diablement plus efficaces.
L'impact est d'ailleurs quantifiable, puisque 97% des pages problématiques ont été détectées grâce à ces modèles optimisés par l'IA. Google a, il faut le dire, investi massivement dans cette technologie, avec plus de 50 améliorations apportées à ses modèles pour la seule année dernière. De quoi permettre aux équipes humaines de se concentrer sur les problèmes les plus complexes et délicats.
Et figurez-vous que la proactivité est devenue le maître-mot. À l'aide de ses outils avancés, Google a pu empêcher la diffusion de milliards d'annonces en infraction, avant même leur publication. Ajoutez à cela les 39,2 millions de comptes publicitaires suspendus, dont la majorité avant d'avoir pu diffuser quoi que ce soit. Oui, l'approche préventive change la donne.
5 milliards d'annonces supprimées en 2024 : le bilan flatteur de Google
La sophistication des fraudes a malheureusement atteint de nouveaux sommets. De nombreuses annonces usurpant l'identité de personnalités publiques ont émergé grâce à l'IA, avec laquelle tout semple possible ou presque. Du coup, pour contrer cette menace, Google a constitué une équipe dédiée de plus de 100 experts, pour mettre hors d'état de nuire 700 000 comptes frauduleux et réduire de 90% ces annonces trompeuses.
L'année électorale 2024 aura été assez folle en termes d'actualités. Avec la moitié de la population mondiale appelée aux urnes, Google a dû renforcer ses systèmes de validation d'identité pour les annonceurs politiques. Premier acteur à imposer des exigences de divulgation pour tout contenu généré par l'IA dans les annonces électorales, l'entreprise américaine a vérifié 8 900 nouveaux annonceurs, et supprimé 10,7 millions d'annonces non conformes.
Les chiffres donnent en tout cas le vertige : 5,1 milliards d'annonces ont été supprimées sur l'année, en plus de restrictions imposées à 9,1 milliards d'autres. Des actions sur 1,3 milliard de pages d'éditeurs. Google a également mis à jour ses règlements avec plus de 30 modifications pour s'adapter à ce paysage en constante évolution. Cette bataille technologique, qui semble sans fin, n'aura peut-être pas de vainqueur. Mais elle mobilise, c'est certain, des moyens impressionnants.
