Pourquoi les GPU ont besoin d’une mémoire à large bande passante
Sans puces HBM, le système de mémoire d’un serveur de centre de données ne serait pas en mesure de suivre un processeur hautes performances, tel qu’un GPU, selon Lee. Ce sont les HBM qui fournissent aux GPU les données qu’ils traitent. “Quiconque achète un GPU pour le calcul de l’IA aura également besoin d’une mémoire à large bande passante”, a déclaré Lee.
« En d’autres termes, les GPU hautes performances seraient mal utilisés et resteraient souvent inactifs en attendant les transferts de données. En résumé, la forte demande de puces mémoire SK Hynix est causée par la forte demande de puces GPU Nvidia et, dans une moindre mesure, associée à la demande de puces IA alternatives telles que celles d’AMD, Intel et autres », a-t-il déclaré.
“HBM est relativement nouveau et connaît une forte dynamique grâce à ce qu’offre HBM : plus de bande passante et de capacité”, a déclaré Gaurav Gupta, analyste chez Gartner. «C’est différent de ce que vendent Nvidia et Intel. Hormis SK Hynix, la situation pour HBM est similaire pour les autres lecteurs de mémoire. Pour Nvidia, je pense qu’il y a des contraintes, mais davantage liées à la capacité de conditionnement de leurs puces auprès des fonderies.
Alors que SK Hynix atteint ses limites d’approvisionnement, Samsung et Micron augmentent leur production de HBM et devraient être en mesure de soutenir la demande à mesure que le marché devient plus distribué, selon Lee.
Les pénuries actuelles de HBM concernent principalement l’emballage de TSMC (c’est-à-dire chip-on-wafer-on-substrate ou CoWoS), qui est le fournisseur exclusif de la technologie. Selon Lee, TSMC fait plus que doubler sa capacité SOIC et augmente la capacité de CoWoS de plus de 60 %. “Je m’attends à ce que les pénuries s’atténuent d’ici la fin de cette année”, a-t-il déclaré.
Dans le même temps, de plus en plus de fournisseurs d’emballages et de fonderies se mettent en ligne et qualifient leur technologie pour prendre en charge NVIDIA, AMD, Broadcom, Amazon et d’autres utilisant la technologie d’emballage de puces de TSMC, selon Lee.
