Si vous officiez dans le domaine de l’IA et que votre centre d’intérêt se situe plus dans les machines abordables basse consommation que les gros datacenter — un domaine nommé edge computing (calcul à la bordure, c’est-à-dire entre vous et le serveur) ou encore embedded HPC (calcul haute performance embarqué, un juste milieu entre les microcontrôleurs et les GPU), alors vous avez très probablement déjà entendu parler des NVIDIA Jetson. Depuis la première TK1 datant de 2014, la série s’est depuis bien renouvelée, jusqu’à un modèle Jetson Orin Nano gardant une partie CPU Arm conformément à sa lignée (ici un hexacore de Cortex-A78 cadencé à 1,5 GHz), en y rajoutant un iGPU de génération Ampère à 1024 cœurs CUDA et 32 Tensor Cores @ 635 MHz, de quoi propulser 20 TOPS INT8 (en calcul dense) dans une enveloppe thermique de 7 à 15 W.
Or, voilà que la plateforme se fait vieille, et NVIDIA souhaite bien la remettre au goût du jour, mais apatropcher. Comment cela ? Avec la magie de l’overclocking ! Ainsi, une mise à jour logicielle vient rajouter un profil 25 W pour envoyer mamie dans les orties et rajouter quelques 70 % de performances en plus dans certains cas d’usage de modèles d’IA générative. Via ce changement de version, le CPU prend 200 MHz (1,7 GHz en tout), le GPU double presque de fréquence (de 635 MHz à 1 020 MHz) et la RAM passe de 68 à 102 Go/s. Le résultat ? Cette « nouvelle » version nommée Super passe à 33 TOPS (INT8, dense toujours). Décoiffant !
Et le meilleur dans tout ça ? La mise à jour est gratuite, et le nouveau kit se pare d’une belle baisse de prix : 245 $ pour la nouvelle version, contre pas moins de 499 $ pour l’ancienne. Voilà de quoi faire plaisir aux usagers — bien que l’on puisse se poser la question de l’intérêt d’avoir conçu le bouzin avec une cible vraisemblablement de 25 W, si c’est pour la brider pendant un an à mi-puissance… Il n’empêche qu’un refresh dans ce sens est toujours plus que bienvenu ; à quand la même chose pour les CPU ? Ah, AMD l’a déjà fait !
Avec cette mise à jour, un partenaire du caméléon s’est senti poussé des ailes : PALIT. En effet, le bougre s’est dit que la plateforme était drôlement chouette, et que cela manquait d’OEM pour aller pimper un peu tout ça. C’est ainsi qu’est née la PALIT PANDORA, un mini-PC mini AI Hardware (selon les dires de la firme) tournant sans surprise sous Ubuntu et compatible avec le SDK de NVIDIA, puisque le boitier héberge une carte Jetson Orin NX (une version du SoC placé sur un module possédant un connecteur SO-DIMM pour s’insérer dans une carte d’extension, à la manière du Raspeberry Pi Compute Module).
Grâce à cela, la firme a pu caser 8 ou 18 Gio de RAM, un SSD de 128 Gio et un combo similaire Arm (mais en octocore) + 1024 cœurs CUDA NVIDIA/32 Tensor Cores, et 58 à 78 TOPS selon la configuration retenue. La cible du module est, sans surprise, l’éducation, la robotique ou encore l’IA générative de manière plus générale : avec le boum actuel, nous nous doutons qu’il y aura du monde pour s’équiper ! Enfin, la PANDORA est livrée avec sa documentation de manière à pouvoir venir concevoir et imprimer des modules 3D compatibles, par exemple des cartes d’acquisition — un header à 40 broches alliant I2C, GPIO, UART et autre SPI étant intégré pour relier tout ça. Reste que le prix et la disponibilité sont encore aux abonnés absents : rendez-vous l’an prochain pour tout découvrir là-dessus ?
