Amazon développe un modèle de langage qui serait à ce stade deux fois plus puissant que GPT-4, celui qui fait tourner le célèbre ChatGPT.
La bataille au modèle de langage étendu (LLM) le plus fort du monde est lancée, et Amazon compte bien la remporter. Le géant du e-commerce investit à tour de bras dans la formation d'Olympus, qui se destine à concurrencer OpenAI et son ChatGPT, mais aussi Bard et Grok. Amazon aime et utilise déjà l'IA générative : il lui faut désormais son propre modèle.
Un modèle conversationnel made in Amazon à 2000 milliards de paramètres
L'information, révélée par nos confrères américains de The Information, fait état d'un modèle de langage aux caractéristiques particulièrement impressionnantes. Le LLM conversationnel pour l'instant baptisé Olympus comporterait pas moins de deux billions de paramètres, soit 2 000 milliards.
À ce stade, le chiffre ne veut peut-être pas dire grand chose, mais il témoigne de l'ambition de la firme fondée par Jeff Bezos : elle veut mettre au point un modèle conversationnel doté de capacités deux fois plus grandes que son principal concurrent, GPT-4, à ce jour le plus avancé de l'entreprise OpenAI. Ce dernier compte 1 000 milliards de paramètres.
Un modèle de langage permet, rappelons-le, à des robots conversationnels (comme Google Bard ou ChatGPT) de répondre à des requêtes en langage naturel, en prenant en compte un certain nombre de paramètres.
Les équipes d'Alexa à la manœuvre
L'idée d'Amazon est de mettre à profit le futur Olympus pour propulser de nouvelles fonctionnalités, que ce soit pour ses solutions Amazon Web Services (la filiale cloud de l'entreprise), avec des clients professionnels d'ailleurs très demandeurs, ou ses activités de e-commerçant, sans oublier une amélioration de ses appareils tournant sous Alexa, l'assistant personnel intelligent de la firme.
Figurez-vous que le projet Olympus est justement dirigé par Rohit Prasad, qui n'est autre que l'ancien responsable d'Alexa. Son statut de patron scientifique de l'IA chez Amazon lui permet de s'entourer des chercheurs qui travaillaient avec lui sur l'intelligence artificielle d'Alexa, et de ceux bossant déjà sur les modèles d'entraînement d'Amazon.
Amazon multiplie les initiatives en matière d'intelligence artificielle, comme en témoigne son incursion dans la pépite californienne Anthropic, sur laquelle Google a aussi mis le grappin. Face à la concurrence des autres géants de la Tech, en n'oubliant évidemment pas Microsoft, derrière OpenAI, Amazon veut tirer son épingle du jeu et devenir propriétaire d'une solution d'IA qui fera date, et qui deviendra une référence.
Source : The Information