ChatGPT Search peut être rapidement trompé par des pages web frauduleuses, qui incluent du texte caché. Soyez vigilants lors de vos recherches réalisées à l'aide de l'IA.
L'intelligence artificielle a passé un nouveau cap depuis la mise à disposition auprès du grand public de ChatGPT Search. L'IA d'OpenAI était déjà utilisée par de nombreux utilisateurs, qui ne se privaient pas de poser n'importe quelle question, comme ils le feraient avec un moteur de recherche traditionnel. Seulement, les réponses proposées par ChatGPT étaient incomplètes, datées et non sourcées. ChatGPT Search vient se connecter au web pour apporter des réponses synthétisées et contextualisées, avec des informations de première fraicheur. Pratique non ? Oui, mais attention aux petits malins qui ont déjà compris comment détourner l'IA pour afficher des données erronées.
ChatGPT Search synthétise les données du web rapidement, mais sans contrôle
Les journalistes du quotidien britannique The Guardian ont mené une petite enquête pour savoir s'il était facile d'induire en erreur ChatGPT Search. Pour ce faire, ces derniers ont développé une page web toute simple reprenant la structure d'une page produit. Celle-ci vantait les mérites d'un appareil photo, avec les principales caractéristiques et quelques avis clients.
Cette page a été aspirée par ChatGPT Search qui, interrogé au sujet de cet appareil photo, renvoie une réponse positive, mais équilibrée, en mettant en avant quelques points qui pourraient déplaire à certaines catégories d'utilisateurs. Jusque-là, l'IA se comporte de manière tout à fait classique et ne pose aucun problème quant à la pertinence de sa réponse.
Le texte caché, une technique bien connue et bannie des moteurs de recherche, peut tromper les modèles de langage
Les journalistes sont ensuite revenus sur cette page pour ajouter du texte caché. C'est une technique fréquemment employée sur le web pour tromper les moteurs de recherche, avec du contenu non visible par l'utilisateur. Sur la fausse page de l'appareil photo, le texte caché incluait de nombreux avis très positifs sur le produit.
ChatGPT Search a ensuite modifié sa réponse pour la même requête, en livrant une réponse très favorable sur la qualité de cet appareil photo, en ne tenant plus compte des quelques avis plus mitigés pourtant publiés sur la page.
Les moteurs de recherche, à l'instar de Google, sont déjà équipés de systèmes pour dégrader le classement de liens incluant des textes cachés. Les sites web se livrant à ses pratiques sont systématiquement renvoyés en bas de classement pour ne pas tromper l'utilisateur ou lui partager une information erronée. Les sites dits « de confiance » ont déjà banni ces pratiques pour conserver leur place de choix sur les différents moteurs de recherche.
Les modèles de langage, comme ChatGPT, sont très jeunes et les équipes d'Open AI ont du pain sur la planche pour repérer et éliminer ce type de contenu. Pour l'heure, soyez très prudents en utilisant ChatGPT Search et n'hésitez pas à vérifier une deuxième fois l'information sur un site web reconnu.
Source : The Guardian
29 octobre 2024 à 18h03