Cerebras Wse 3

Cerebras se met à l'heure de l'IA avec son nouveau monstrueux processeur Cerebras WSE-3 qui repousse à nouveau les limites du raionnable !

Cerebras Systems nous a habitué ces dernières années à ses processeurs hors normes prenant tout un wafer. En août 2019 il y eut ainsi le Cerebras WSE gravé en 16 nm et offrant sur ses 46 225 mm² l'impressionnant total de 400 000 cœurs et 18 Go de SRAM embarquée. Au total, la puce disposait de 1 200 milliards de transistors. En avril 2021, la firme dévoilait le Cerebras WSE-2 qui offrait des caractéristiques encore bien plus impressionnantes grâce au passage au 7 nm : toujours 46 225 mm², dimensions du wafer oblige, mais avec cette fois 850 000 cœurs, 40 Go de SRAM et 2 600 milliards de transistors. Depuis, pas de nouveauté jusqu'à ce mois de mars 2024 et le passage au 5 nm de TSMC.

Cerebras Wse 3

Voici désormais venue l'ère du Cerebras WSE-3. On passe désormais à 900 000 cœurs et 44 Go de SRAM., toujours évidemment avec une surface de 46 225 mm². Le nombre de transistor augmente à nouveau beaucoup puisque nous sommes désormais à 4 000 milliards de transistors ! Vous vous dîtes peut-être que les calculs ne sont pas bon par rapport au Cerebras WSE-2 qui avait beaucoup moins de transistor et des quantités de cœurs et de SRAM finalement assez proches. L'explication tient dans le fait que les cœurs ont été retravaillés pour embrasser l'ère de l'intelligence artificielle. Ce sont désormais des "AI cores" pour reprendre la formulation de Cerebras Systems, avec une architecture revue pour offrir de meilleures performances dans ce domaine. Le Cerebras WSE-3 afficherait ainsi, en pointe, 125 PetaFlops en performances IA. Un petit mot sur la consommation d'un tel engin. Sauf surprise, le processeur Cerebras WSE-3 serait à nouveau à 15 000 W comme ses deux aînés. Nous déduisons cela de la consommation du système complet Cerebras CS-3, incluant le processeur WSE-3, qui est donnée pour 23 000 W au maximum. La consommation était identique pour les générations précédentes et Cerebras System avait alors précisé que les processeurs seuls consommaient 15 000 W. La logique voudrait donc qu'il en soit de même pour le nouveau venu, ou en tout cas une valeur très proche.

La société ne communique pas le tarif de sa puce, mais il sera certainement en millions de dollars comme c'était le cas avec les processeurs précédents...

Cerebras Wse 3 Taille

Tout savoir sur le Cerebras WSE-3, sur le site de Cerebras Systems

Et par ici pour voir le Cerebras CS-3, le système complet qui abrite le WSE-3

David


  • tu l"as vu ma grosse puce ?

    blague a par ça m'a toujours impressionné toujours plus de superlatif 

  • Pour quelles fréquences? Qu'est-ce qu'il faut pour refroidir tout ça? Combien de watts sur la balance?

    • Je n'ai rien trouvé sur les fréquences.
      Pour la consommation du WSE-3 je ne la vois pas également, sur les générations précédentes il était question de 15 kW pour le processeur et jusqu'à 23 kW pour le système complet baptisé "CS". Sur la toute nouvelle fiche produit du CS-3 il est toujours indiqué 23 kW au maximum donc je pense qu'on peut en déduire que le WSE-3 est à nouveau à 15 kW, je vais mettre à jour la news, merci d'avoir soulevé la chose.
      Je vais également mettre le lien vers le CS-3 pour les curieux qui veulent voir, y a deux cliché du système complet

  • De ce que j'ai lu, ils prétendent obtenir 125 000 Tflops en FP16/BF16 à comparer à environ 2 000 Tflops sur un H100 de Nvidia donc 62.5X plus en théorie ce qui est cohérent avec le rapport de surface entre les deux puces...
    Mais ça c'est la théorie, j'attends de voir en pratique car il faut aussi que le soft suive derrière !

  • J'ai vu passer pour le prix sue un cluster de 64 est facturé 1 milliards de $ 😅

9 commentaires

Laissez votre commentaire

En réponse à Some User