Meta se lance à son tour dans la bataille des chatbots, représentée par l'émergence de ChatGPT.
Toutefois, le géant des réseaux sociaux prend une autre direction qu'un Google, qui a simplement essayé de rendre rapidement disponible un nouveau chatbot avec Bard. Le groupe présidé par Mark Zuckerberg veut pour sa part proposer du nouveau en offrant une infrastructure différente, avec un nouveau modèle de langage.
Une alternative au modèle de langage GPT-3
Qui n'a pas entendu parler de ChatGPT ces derniers mois ? Difficile, à moins d'être un adepte de l'isolement humain en plein désert, d'avoir échappé à cette intelligence artificielle que Microsoft intègre maintenant à son moteur de recherche Bing. Depuis, tous les géants de la tech, aux États-Unis, mais aussi en Chine, veulent s'y mettre. On n'est alors pas étonné que Meta, pourtant critique de ChatGPT, rejoigne le mouvement.
Néanmoins, l'annonce que vient de faire la firme de Menlo Park est légèrement différente de celle de ses concurrents. En effet, elle annonce dans un billet de blog non pas proposer un énième nouveau chatbot, mais un nouveau modèle de langage baptisé LLaMA (pour Large Language Model Meta AI). Pour rappel, le modèle de langage est l'infrastructure sur laquelle sont construits les chatbots, à l'image de GPT-3, utilisé par ChatGPT.
Meta veut plus d'ouverture
LLaMA sera disponible en plusieurs formats, de 7, 13, 33 ou 65 milliards de paramètres. Pour Meta, son modèle de langage à 13 milliards de paramètres pourrait être plus performant que GPT-3, pourtant entraîné à partir de 175 milliards de paramètres.
La société californienne fait un choix délibéré avec ses modèles de langage plus petits. Pour elle, « des modèles plus petits et plus performants tels que LLaMA permettent à d'autres membres de la communauté de recherche qui n'ont pas accès à de grandes quantités d'infrastructure d'étudier ces modèles, démocratisant ainsi davantage l'accès à ce domaine important et en évolution rapide ».
LLaMA, entraîné sur une vingtaine de langues, principalement des idiomes utilisant les alphabets latins et cyrilliques, sera ainsi ouvert à un public plus grand. Là où Google ou OpenAI gardent leur technologie à l'intérieur de l'entreprise, Meta veut la rendre accessible aux chercheurs et aux entités étatiques, du monde académique et de la société civile.
- Chat dans différentes langues, dont le français
- Générer, traduire et obtenir un résumé de texte
- Générer, optimiser et corriger du code
