Samsung Hbm3e Icebolt

Prochaine génération de la HBM, la HBM4 commence petit à petit à faire parler d'elle, mais l'emploi du temps est encore un peu vague.

Certes, la mémoire High Bandwidth Memory ne concerne plus vraiment le grand public, où elle n'aura effectué qu'un très bref passage. En revanche, ce type de mémoire très rapide est un composant essentiel pour les datacenters et leurs accélérateurs. Ce marché en est actuellement à la HBM3 et le premier matériel a en être équipé vient à peine d'arriver cette année, par exemple l'accélérateur H100 de NVIDIA. Chez AMD, les MI300A et MI300X avec HBM3 devraient arriver au cours de ce dernier trimestre de 2023. L'année prochaine, c'est la HBM3E qui sera en principe à l'honneur. Les différents producteurs sont déjà sur le coup pour en livrer à partir de la première moitié de 2024 et NVIDIA a prévu d'en équiper son GPU Grace Hopper GH200. Et la suite ? La HBM4, bien sûr !

Micron et SK Hynix en ont déjà parlé dernièrement, parfois sous le nom de "HBMNext", en attendant peut-être de se mettre d'accord sur la nomenclature. Chez Micron, elle est officiellement au programme de 2026 et c'est également l'objectif chez SK Hynix, ce que le coréen avait reconfirmé fin juillet. Samsung, aussi un producteur de HBM, en a parlé pour la première fois très récemment dans le cadre d'un éditorial de SangJoon Hwang, le directeur de l'équipe des produits et technologies DRAM. Mais à l'inverse de ses concurrents, le géant coréen s'affiche plus ambitieux et s'attend à pouvoir introduire sa HBM4 dès 2025 !

Looking ahead, HBM4 is expected to be introduced by 2025 with technologies optimized for high thermal properties in development, such as non-conductive film (NCF) assembly and hybrid copper bonding (HCB).

Soit. Cependant, la subtilité se trouve probablement derrière la notion d'une introduction, qu'il faut certainement interpréter comme étant une présentation en 2025 plutôt qu'une commercialisation, éventuellement avec de premiers échantillons. En pratique, il semble assez peu probable que la production en volume démarre la même année, mais sûrement l'année suivante, plus ou moins en même temps que chez SK Hynix et Micron - ce dernier parle d'ailleurs de disponibilité en 2026, ce qui pourrait donc sous-entendre une présentation également en 2025. Nous verrons bien qui sera le premier avec son annonce pour la HBM4...

Que faut-il attendre de la HBM4 à ce jour ? Elle sera dans la continuité de ce qui se fait actuellement, avec une densité augmentée et des piles toujours plus grandes. L'interface 1024-bit utilisée depuis la HBM de première génération devrait laisser sa place à une interface 2048-bit, ce qui implique aussi que la quantité de pins pourrait alors largement dépasser les presque 4000 de la HBM existante. À l'inverse, l'horloge de la mémoire ne pourrait qu'évoluer que modestement. En effet, par sa conception rendant plus difficile la dissipation de la chaleur, la HBM ne peut monter en fréquence comme le font DRAM ou GDDR. En somme, le packaging, la chauffe et l'alimentation seront une affaire encore d'autant plus complexe avec la prochaine génération, mais certainement pas insurmontable. (Source : Hardwareluxx)

Pour illustration, la roadmap officielle de Micron pour la HBM de 2023 à 2026.

Matt


  • J'ai peur que ça devienne encore plus cher que la hbm actuelle

    Mais les hausse de perf et de densité donné envie

  • Alors c'est intéressant dit comme ça, mais j'ai quelques questions quand même sur l'efficacité (outre marketing) de cette évolution pour l'instant :

    • La latence n'est pas indiquée pour une transaction mémoire, c'est qui ne permet pas de savoir l'efficacité (qui n'est pas optimale parfois) en lecture aléatoire
    • Les bursts (technique permettant de communiquer entre la mémoire et les composants) ne sont toujours pas forcément maitrisés dans de nombreux domaine, est-ce que donc faire grimper le débit est-il vraiment la bonnes idées sur les accélérateurs actuels ?
    • Pareil, la gestion de mots longs de 1024 bits ce n'est pas toujours simple, alors 2048 bits ? Quid des impacts réels une fois implémentés ?

    On dirait tout de même une envie de jouer le kikimètre chez Samsung, possible que je me trompe, mais je trouve qu'il manque quelques détails importants pour vraiment juger d'un besoin d'aller toujours plus vite.

    • Il y aura toujours de la demande, c'est plus simple de se tourner vers un fabriquant que de retravailler son archi en interne :P ! Pour le coup l'interface 2048-bit et le débit, aucun doute que ça soit utilisé dans des accélérateurs de machine learning et autre code de simulation. Pour la latence par contre... c'est prévu pour être des machine à débits, il y a donc fort à parier qu'elle n'ait pas / peu évoluée, comme sur le RAM grand public

3 commentaires

Laissez votre commentaire

En réponse à Some User