ChatGPT Search peut être rapidement trompé par des pages web frauduleuses, qui incluent du texte caché. Soyez vigilants lors de vos recherches réalisées à l'aide de l'IA.

ChatGPT Search est un moteur de recherche tout jeune, et peut faire de graves erreurs © Tada Images / Shutterstock
ChatGPT Search est un moteur de recherche tout jeune, et peut faire de graves erreurs © Tada Images / Shutterstock

L'intelligence artificielle a passé un nouveau cap depuis la mise à disposition auprès du grand public de ChatGPT Search. L'IA d'OpenAI était déjà utilisée par de nombreux utilisateurs, qui ne se privaient pas de poser n'importe quelle question, comme ils le feraient avec un moteur de recherche traditionnel. Seulement, les réponses proposées par ChatGPT étaient incomplètes, datées et non sourcées. ChatGPT Search vient se connecter au web pour apporter des réponses synthétisées et contextualisées, avec des informations de première fraicheur. Pratique non ? Oui, mais attention aux petits malins qui ont déjà compris comment détourner l'IA pour afficher des données erronées.

ChatGPT Search synthétise les données du web rapidement, mais sans contrôle

Les journalistes du quotidien britannique The Guardian ont mené une petite enquête pour savoir s'il était facile d'induire en erreur ChatGPT Search. Pour ce faire, ces derniers ont développé une page web toute simple reprenant la structure d'une page produit. Celle-ci vantait les mérites d'un appareil photo, avec les principales caractéristiques et quelques avis clients.

Cette page a été aspirée par ChatGPT Search qui, interrogé au sujet de cet appareil photo, renvoie une réponse positive, mais équilibrée, en mettant en avant quelques points qui pourraient déplaire à certaines catégories d'utilisateurs. Jusque-là, l'IA se comporte de manière tout à fait classique et ne pose aucun problème quant à la pertinence de sa réponse.

Le texte caché peut induire en erreur les modèles de langage © Shutterstock
Le texte caché peut induire en erreur les modèles de langage © Shutterstock

Le texte caché, une technique bien connue et bannie des moteurs de recherche, peut tromper les modèles de langage

Les journalistes sont ensuite revenus sur cette page pour ajouter du texte caché. C'est une technique fréquemment employée sur le web pour tromper les moteurs de recherche, avec du contenu non visible par l'utilisateur. Sur la fausse page de l'appareil photo, le texte caché incluait de nombreux avis très positifs sur le produit.

ChatGPT Search a ensuite modifié sa réponse pour la même requête, en livrant une réponse très favorable sur la qualité de cet appareil photo, en ne tenant plus compte des quelques avis plus mitigés pourtant publiés sur la page.

Les moteurs de recherche, à l'instar de Google, sont déjà équipés de systèmes pour dégrader le classement de liens incluant des textes cachés. Les sites web se livrant à ses pratiques sont systématiquement renvoyés en bas de classement pour ne pas tromper l'utilisateur ou lui partager une information erronée. Les sites dits « de confiance » ont déjà banni ces pratiques pour conserver leur place de choix sur les différents moteurs de recherche.

Les modèles de langage, comme ChatGPT, sont très jeunes et les équipes d'Open AI ont du pain sur la planche pour repérer et éliminer ce type de contenu. Pour l'heure, soyez très prudents en utilisant ChatGPT Search et n'hésitez pas à vérifier une deuxième fois l'information sur un site web reconnu.

Source : The Guardian

À découvrir
Quels sont les meilleurs moteurs de recherche ? Comparatif 2024

29 octobre 2024 à 18h03

Comparatifs services