Microsoft a souhaité générer un article grâce à l'IA dans la section « Voyages » de son site MSN.com. Avec pour thème les attractions incontournables de la ville d'Ottawa, celui-ci devait prendre la forme d'un petit guide touristique. Malheureusement, les choses ne se sont pas passées comme prévu.
Alors que les guides touristiques générés par IA suscitent déjà des inquiétudes, Microsoft a tout de même souhaité présenter un contenu de ce type sur sa plateforme MSN.com. Pas vraiment bien accueilli, ce mini-guide a même suscité la controverse, puisqu'il a inclus la soupe populaire d'Ottawa (Ottawa Food Bank) comme l'un des lieux indispensables à visiter. L'article conseille même de visiter le lieu avec « le ventre vide ». Une recommandation d'un goût moyen, qui met en lumière les limites de l'intelligence artificielle dans certains contextes.
L'IA et son incapacité à la compréhension contextuelle
L'article, intitulé « En route vers Ottawa ? Voici tout ce que vous ne devriez pas manquer ! » commençait plutôt bien, en proposant des sites touristiques et activités intéressantes à faire dans le cadre d'un voyage. Cependant, parmi ces lieux incontournables se trouvait le lieu où la soupe populaire est quotidiennement distribuée (voir la photo ci-dessous). Le guide en faisait cette description :
Cette organisation, depuis 1984, collecte, achète, produit et distribue de la nourriture aux familles et personnes dans le besoin de la région d'Ottawa. Nous constatons à quel point l'impact quotidien de la faim est important sur les hommes, les femmes et les enfants, et comment celle-ci peut être un obstacle à la réalisation de leurs objectifs de vie. Les gens qui se tournent vers nous ont des emplois, des familles à soutenir et des frais à payer. La vie est déjà assez difficile. Pensez à venir ici le ventre vide.
Une description complètement aux fraises, au ton presque ironique et inapproprié, qui met clairement en évidence les limitations de l'IA lorsqu'il s'agit de comprendre un contexte particulier.
Intégrer l'IA dans la rédaction de contenu : mission impossible ?
Cet exemple peut prêter à rire jaune, mais il est en réalité très symptomatique de l'ampleur du défi que représente l'intégration des modèles d'IA générative dans la rédaction de contenu textuel. Ceux-ci peuvent imiter à merveille l'humain, mais se retrouvent assez rapidement désarmés lorsqu'il s'agit de saisir des éléments de contexte complexes, surtout lorsque ceux-ci nécessitent une forme de sensibilité.
N'oublions pas, le « I » contenu dans l'expression « IA » ne signifie pas réellement « intelligence ». Une IA, au premier sens du terme, devrait théoriquement être autonome, consciente et apprendre de ses erreurs. Ce que nous appelons des IA sont en réalité des algorithmes, certes très complexes, mais qui ne font que mimer certains traits de l'intelligence humaine. Même si ces modèles ont prouvé leur utilité, ils ne sont pour l'instant pas capables de raisonnement. Les professions de journaliste et de rédacteur semblent donc sauves… pour l'instant ?
Source : Ars Technica