Vous avez dit big data ? Statuts, liens, mentions, j'aime, photos et nouvelles relations enregistrés chaque jour par Facebook représenteraient quelque 500 To de données à avaler quotidiennement pour l'infrastructure informatique qui sous-tend le numéro un mondial des réseaux sociaux. Ce chiffre a été révélé par Jay Parikh, vice-président en charge de l'infrastructure chez Facebook, parmi quelques autres indicateurs lors d'une présentation à la presse américaine, relayée par Cnet.
Et les valeurs évoquées ont de quoi donner le tournis. Facebook enregistrerait ainsi chaque jour environ 2,5 milliards de partages de contenus, 2,7 milliards de « J'aime » et quelque 300 millions de nouvelles photos.
Ces informations constituent le nerf de la guerre pour le réseau social puisque c'est en les creusant et en les analysant qu'il peut faire fonctionner ses mécaniques de ciblage publicitaire. L'ensemble se doit donc d'être adossé à une infrastructure permettant non seulement de les stocker, mais surtout d'en extraire la substantifique moelle.
Pour ce faire, Facebook s'appuierait sur un cluster unique, d'une capacité de plus de 100 Po (pétaoctet), faisant appel au système de fichiers HDFS (Hadoop Distributed File Sytem). Plutôt que de compartimenter les données de façon à les gérer plus simplement, le réseau mise donc sur un environnement unique, nécessaire selon lui pour que de nouvelles fonctionnalités (comprendre de nouveaux scénarios d'utilisation croisée de données) puissent être élaborées et testées simplement. Via Hive, le logiciel d'analyse associé au framework Hadoop, il saurait ainsi traiter jusqu'à 105 To d'informations en 30 minutes.
Pour Jay Parikh, ce silo unique serait l'une des clés de l'agilité de Facebook. « Nous élaborons un produit unique. Sur notre page d'accueil, vous trouvez des recommandations, des publicités, des notifications et des messages. Il y a des centaines de systèmes différents, mais ils sont livrés tous ensemble, au travers d'une expérience utilisateur unifiée », explique l'architecte.
Big Data Whiteboard-082212