Annoncé par Jensen Huang, PDG de Nvidia, lors de la GTC 2018 qui s'est tenu au Japon, le Nvidia Tesla T4 offrirait 12 fois les performances du Tesla P4. Conçu pour accélérer les processus d'inférence, la Tesla T4 est la première carte basée sur l'architecture Turing et destinée aux datacenters et au traitement de l'IA.
Le Tesla T4 peut traiter des requêtes 40 fois plus vite qu'un CPU
Après l'annonce de ses GPU gaming sous architecture Turing, c'est maintenant au tour de l'accélérateur GPU de profiter de cette nouvelle architecture. Le Tesla T4 est annoncé comme pouvant traiter des requêtes 40 fois plus rapidement qu'un CPU, ce qui en fait le candidat parfait pour le traitement de l'IA dans les datacenters, ou encore l'encodage vidéo.Conservant un format assez réduit ainsi que le même TDP de 75 watts que la précédente carte qui tournait sous l'architecture Pascal, la Tesla T4 offrira pourtant des performances bien plus élevées. Avec ses 320 cœurs Tensor Turing et ses 2 560 cœurs CUDA, Nvidia annonce une puissance de calcul de 65 TFLOPs en FP16, 130 DLTOPs en INT8, 260 DLOTPs en INT4 ou encore 8,1 TFLOPS en FP32. La carte est par ailleurs associée à 16 Go de mémoire GDDR6 sur une fréquence de 10 GHz et le tout est couronné avec une capacité de bande passante pouvant atteindre les 320 Go/s.
Le Tesla T4 est doté d'une couche logicielle qui permet la prouesse d'accélérer les processus d'inférences, le « Nvidia TensorRT Hyperscale Platform ». Il s'agit d'un ensemble complet de logiciels spécialement optimisés pour leur utilisation avec l'intelligence artificielle. Ian Buck, vice-président et directeur général de l'Accelerated Computing business unit chez Nvidia, a déclaré : "Nos clients se dirigent vers un avenir où tous les produits et services seront touchés et améliorés par l'IA. La plate-forme hyperscale NVIDIA TensorRT a été conçue pour que cela devienne réalité - plus rapidement et plus efficacement que prévu."
Le Tesla T4 bénéficie déjà d'un accueil chaleureux par les leaders mondiaux de la technologie, il faut dire que Nvidia se lance dans un marché très prometteur puisque les estimations montrent que le secteur de l'intelligence artificielle devrait croitre et atteindre un marché de 20 milliards de dollars dans les 5 ans à venir.