L'intelligence artificielle ChatGPT est devenue folle ce 20 février 2024. OpenAI, son créateur, s'explique après un retour à la normale.
Le 20 février 2024, ChatGPT, l'IA générative conversationnelle développée par OpenAI, a connu un bug majeur. Pendant plusieurs heures, l'outil, qui sait désormais « tout » jusqu'à fin 2023, a fourni aux utilisateurs et utilisatrices des réponses incohérentes, voire incompréhensibles, semant la confusion et l'amusement sur les réseaux sociaux. Heureusement, OpenAI, son éditeur, a identifié la panne et remis ChatGPT en état de marche. Il explique ce qui a causé son déraillement.
Le jour où tout a basculé
« Qui a laissé ChatGPT toucher à l'acide ? » se demande ce twittos en publiant une capture de l'un de ses prompt à l'IA.
Cet exemple met en lumière la coupure de jus que semble avoir subie ChatGPT le 20 février 2024. L'IA conversationnelle d'OpenAI a soudainement déraillé, produisant des réponses incohérentes, absurdes et parfois même offensantes. Un spectacle fascinant et déroutant qui a rapidement fait le tour des réseaux sociaux.
Des captures d'écran montrant des réponses erratiques, incompréhensibles ou absurdes ont été publiées en ligne. Sur le forum des développeurs d'OpenAI, un utilisateur a décrit le comportement de ChatGPT comme « hanté ». L'IA générait des mots inexistants, omettait des mots importants et produisait des séquences de mots-clés inintelligibles.
Un autre utilisateur a rapporté que toutes ses conversations avec ChatGPT se transformaient rapidement en « grand n'importe quoi ». Il a partagé un extrait d'une réponse de l'IA qui était complètement incohérente.
Action…
La réaction d'OpenAI ne s'est pas fait attendre. Dans un communiqué, l'éditeur de ChatGPT explique ce qui a fait perdre les pédales à son interface d'intelligence artificielle.
« Une optimisation de l'expérience utilisateur a introduit un bug dans la manière dont le modèle traite les langues », entame l'éditeur. Une mise à jour visant à améliorer l'expérience utilisateur a causé un bug dans le processus de sélection des mots de ChatGPT.
En temps normal, ChatGPT fonctionne comme un tirage au sort probabiliste : l'IA calcule la probabilité de chaque mot en fonction de la question et du contexte, puis choisit les mots les plus probables. Le bug a perturbé ce processus, et ChatGPT a commencé à choisir des mots légèrement erronés, ce qui a conduit à des phrases absurdes et incohérentes.
En résumé, l'IA s'est emmêlé les pinceaux et a perdu le fil de la conversation. L'origine du problème est technique et liée aux noyaux d'inférence qui produisaient des résultats incorrects dans certaines configurations de GPU.
Réaction et réflexions
OpenAI a corrigé le bug en urgence. ChatGPT est de nouveau opérationnel, mais cette mésaventure nous rappelle que l'IA n'est pas encore infaillible, comme nous l'ont aussi prouvé les récentes déconvenues de Gemini, l'IA de Google. La route vers une intelligence artificielle fiable et sûre est encore longue, mais cet incident nous incite à redoubler de vigilance et à continuer d'explorer les limites de ces technologies prometteuses.
Gary Marcus, spécialiste de l'IA, voit dans cet incident un « signal d'alarme ». « Ces systèmes n'ont jamais été stables. Personne n'a jamais été en mesure de mettre au point des garanties de sécurité autour de ces systèmes », poursuit-il. Il souligne la nécessité de « technologies totalement différentes, moins opaques, plus interprétables, plus faciles à entretenir et à déboguer, et donc plus faciles à mettre en œuvre ».
De son côté, OpenAI rassure. « Après avoir identifié la cause de cet incident, nous avons déployé un correctif et confirmé que l'incident était résolu », conclut son communiqué.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
?
