Inaugurée par la Radeon R9 Fury X, la mémoire HBM est située non plus sur la carte graphique mais directement sur la puce graphique. Cela permet d'optimiser les temps de latence mais aussi les débits : un point crucial dans les performances d'une puce graphique. Avec la HBM de première génération, les équipes d'AMD ont dû faire face à de nombreux challenges technologiques comme la mise au point d'un silicon interposer. Dans sa version actuelle, la mémoire HBM (High Bandwidth Memory) est constituée de 4 x 4 dies de 1 Go (4x 256 Mo) avec un débit supérieur à 100 Go/s par puce mémoire.
Samsung annonce pour sa HBM2 la possibilité d'empiler jusqu'à 8 dies de 1 Go en 20 nm permettant l'arrivée de puces graphiques avec 8 Go de mémoire HBM embarquée. Le conglomérat évoque une mise en production de la HBM2 dès cette année avec dans un premier temps des puces 4 Go, avant de viser les 8 Go, et un débit par puce qui pourrait atteindre les 256 Go/s. A temps pour le Pascal de NVIDIA ?
