L'heure de gloire de la mémoire HBM a sonné ! Merci qui ?

On ne va pas faire durer le mystère : c’est bien entendu l’IA qui est en train de pousser la mémoire HBM vers de nouveaux sommets ! Enfin, plus spécifiquement, AMD et surtout NVIDIA avec leurs accélérateurs respectifs. Le premier en équipe ses Instinct MIxxx, le second en arme ses Hxx, GHxx, Bxx et GBxxx. Un équipement onéreux sujet à une très forte demande maintenant depuis des mois et ce n’est a priori pas près de s’arrêter. C’est ce succès qui va donc également permettre aux producteurs de DRAM (et souvent de NAND aussi) de vendre encore plus de High Bandwidth Memory et ce, visiblement sans trop d’effort.

Quoique, la concurrence est apparemment très rude tout de même entre les rares acteurs à en offrir, particulièrement entre Samsung et SK Hynix, en sachant que ce dernier détient à ce jour 90 % du marché. Mais Samsung veut une plus grosse part et le fondeur coréen a dernièrement mis en place une équipe entière dédiée entièrement à la signature d’un accord de fourniture de plusieurs milliards de dollars de HBM3e avec NVIDIA avant que son compatriote arrive à le faire. Attention, Micron aussi est à l'affut !

Mais que la HBM soit servie par l’un ou par l’autre, la capacité de production limitée et la demande très forte font que ses prix vont irrémédiablement encore grimper au fil des prochaines années. Normal, tout ce que l’IA touche, l’IA rend plus cher, c’est devenu une norme, pour l’instant. De ce fait, la HBM va progressivement représenter une part plus importante de la quantité de bits de DRAM produite mondialement, pour atteindre potentiellement les plus de 10 % en 2025. Ça ne parait pas beaucoup, mais selon TrendForce, ça représenterait alors déjà plus de 30 % du chiffre d’affaires de la DRAM pour les producteurs...

Une belle illustration des prix fous qui se pratiquent et vont encore se pratiquer pour ce type de mémoire et que les clients sont clairement prêts à payer ! Et justement, les perspectives pour l’IA du côté de la clientèle seraient telles que ça devrait encore continuer ainsi un p’tit moment. Les négociations pour 2025 ont déjà commencé, marquées déjà par une hausse préliminaire de 5 à 10 % des prix en raison du manque de capacité pour la HBM2e, HBM3 et HBM3e. Pour ne rien arranger, le rendement des TSV (ou "through-silicon via", des interconnects électriques gravés dans le wafer) de la HBM3e n’est en ce moment qu’entre 40 à 60 %.

Précédent Suivant

Bref, ça se bouscule auprès des fabricants de HBM pour sécuriser son approvisionnement de qualité de demain, coûte que coûte ! Et les producteurs auraient tort de s’en priver, alors que la demande devrait, selon TrendForce, croitre de presque 200 % cette année, puis doubler l’année suivante. En pratique, ceci dépendra bien entendu en grande partie des dispositions de NVIDIA et d’AMD à continuer à liquider leurs produits, en particulier les nouveautés B100, B200 et GB200 chez NVIDIA, et les futures nouveautés MI350 (pratiquement confirmée à ce stade, officieusement, certes) et MI375 (ça, c’est une nouveauté). En tout cas, ce n’est pas demain qu’on reverra de la HBM dans un GPU gaming, ça, c’est garanti. (Source : TrendForce, via TPU)