Le géant de Redmond et son partenaire OpenAI semblent avoir franchi une étape majeure dans le développement de l'intelligence artificielle. Selon des sources bien informées, les deux entreprises auraient réussi à mettre au point un système d'entraînement d'IA distribué sur plusieurs data centers, ouvrant la voie à des modèles encore plus puissants.

Les P.-D.G. d'OpenAI et Microsoft en novembre 2023, lors du premier DevDay d'OpenAI © OpenAI
Les P.-D.G. d'OpenAI et Microsoft en novembre 2023, lors du premier DevDay d'OpenAI © OpenAI

L'histoire de la collaboration entre Microsoft et OpenAI est déjà riche en rebondissements. Depuis leur premier partenariat en 2019, les deux entités font la paire pour repousser les limites de l'IA, avec des chatbots comme ChatGPT ou Copilot. Mais cette fois-ci, c'est une véritable révolution qui se profile à l'horizon du machine learning.

Une prouesse technique qui change la donne

Jusqu'à présent, l'entraînement des grands modèles de langage (LLM) était limité à un seul data center à la fois. Une contrainte qui bridait sérieusement les ambitions des chercheurs en IA. Mais selon Dylan Patel, un analyste spécialisé dans l'IA et les semi-conducteurs, Microsoft et OpenAI auraient trouvé la solution pour distribuer l'entraînement sur plusieurs sites. Cette percée technique s'appuierait sur des investissements colossaux.

Dylan Patel s'épanche sur le partenariat entre OpenAI et Microsoft dans cet épisode © Dwarkesh Patel
Dylan Patel s'épanche sur le partenariat entre OpenAI et Microsoft dans cet épisode © Dwarkesh Patel

Microsoft aurait ainsi signé des contrats de plus de 10 milliards de dollars avec des entreprises de fibre optique pour interconnecter ses data centers. Des permis de construire auraient même déjà été déposés pour creuser entre certains sites. L'objectif ? Créer un réseau de super-clusters d'IA capables de travailler de concert. Dylan Patel estime qu'au moins cinq énormes data centers seraient concernés, pour une consommation électrique totale dépassant le gigawatt. De quoi faire pâlir d'envie même les plus gros acteurs du secteur.

Des implications vertigineuses pour l'avenir de l'IA

Cette avancée pourrait bien marquer un tournant dans la course à l'IA. En effet, la capacité à entraîner des modèles sur plusieurs data centers permettrait de démultiplier la puissance de calcul disponible. Résultat : des LLM encore plus performants, capables de traiter des volumes de données astronomiques. Mais cette prouesse soulève aussi son lot de questions. La consommation énergétique pharaonique de ces installations pose un vrai défi écologique. Sans parler des inquiétudes éthiques liées au développement d'IA toujours plus puissantes.

OpenAI, qui se veut le chantre d'une « IA bénéfique pour l'humanité », devra redoubler de vigilance. Cette nouvelle étape s'inscrit dans un contexte de concurrence acharnée. Google, avec ses systèmes de calcul avancés, ou encore Tesla et son projet de supercluster IA « Dojo » ne comptent pas se laisser distancer. La bataille pour la suprématie dans l'IA n'est pas près de s'arrêter, et Microsoft semble bien décidés à garder une longueur d'avance.

  • Chat dans différentes langues, dont le français
  • Générer, traduire et obtenir un résumé de texte
  • Générer, optimiser et corriger du code
10 / 10