Voilà qui devrait calmer les ardeurs des aficionados de l’IA. Air Canada a tout récemment débranché un chatbot qui racontait n’importe quoi sur les politiques de promotions de l’entreprise.
Novembre 2022. Après le décès de sa grand-mère, Jake Moffat, citoyen canadien habitant à Vancouver, se rend sur le site de Air Canada pour réserver un vol jusqu’à Toronto afin d’assister aux obsèques. Durant le processus de réservation, l’homme demande au chatbot présent sur la page du site comment profiter du tarif préférentiel réservé aux personnes endeuillées. Le petit agent conversationnel lui indique que pour obtenir un remboursement il suffit de le demander dans les 90 jours suivant l’achat. Problème, cette marche à suivre est complètement bidon et une hallucination totale de la part du chatbot.
Justice : 1 - IA : 0
Logiquement donc, une fois la demande de remboursement envoyé par Jake Moffat, Air Canada ne l’honore pas, indiquant que les conditions de promotions des vols « pour urgence familiale » sont clairement détaillées sur la page vers laquelle pointait le chatbot et que l’interprétation qui en a été faite par le robot conversationnel était erronée. Bien décidé à ne pas se faire avoir à cause d’une hallucination logicielle, Jake Moffat poursuit Air Canada en justice dans son pays pour, malgré tout, obtenir le remboursement qui lui a été promis.
Malgré une vaillante tentative de justification basée sur l’argument que « le chatbot est une entité juridique distincte qui est responsable de ses propres actions », Air Canada n’a pas réussi à convaincre la justice et a dû rembourser une partie du billet de Jake Moffat ainsi que les frais de justice engagés par l’homme endeuillé.
Le chatbot n'est pas une entité juridique à part
Dans la décision de justice publiée par les autorités canadiennes, la cour indique que la défense d’Air Canada est proprement « incroyable » et que l’entreprise est évidemment responsable de « toutes les informations publiées sur son site, qu’elles viennent d’une page web statique ou d’un chatbot. » La justice estime en effet qu’il n’était nulle part indiqué le besoin de croiser des informations obtenues sur une page du site via une autre page du même site, d’autant plus qu’il n’y avait aucun moyen de savoir laquelle des informations données était la plus crédible.
Comme l’a remarqué Ars Technica, le chatbot d’Air Canada a depuis été désactivé malgré les déclarations grandiloquentes du patron de l’entreprise en mars dernier, qui assurait que cette technologie allait « améliorer l’expérience utilisateur ». Raté donc.
Source : Ars Technica
