Qualcomm affirme avoir validé son silicium High Bandwidth Compute (HBC) de première génération pour l’inférence IA. L’entreprise présente HBC comme une architecture qui rapproche le calcul de la mémoire afin de réduire les déplacements de données, selon son annonce de validation.

Ce que recouvre la validation HBC

DiarioBitcoin rapporte que les essais en laboratoire portaient sur des lectures et des écritures mémoire, ainsi que sur des calculs effectués près de la mémoire. Le média décrit un protocole utilisant des équipements de test automatisés et des données aléatoires. Il rapporte également que la conception associe des couches de DRAM directement liées à une puce logique.

Les caractéristiques publiées pour l’AI250

Qualcomm présente le Dragonfly AI250 comme une plateforme d’inférence à l’échelle d’un rack, de deuxième génération, intégrant HBC Gen 1. Sa fiche produit distingue les caractéristiques de chaque carte de celles du rack complet.

ÉlémentCaractéristiques publiées par Qualcomm
Mémoire par carte768 GB
Bande passante mémoire effective par carte133 TB/s
Configuration du rack56 cartes et 43 TB de mémoire
Modèles et contexteModèles jusqu’à 10 000 milliards de paramètres et contexte jusqu’à 1 million de tokens
Norme et refroidissementRack conforme à Open Rack v3 (ORv3), avec refroidissement par air ou liquide direct
InterconnexionPCIe 6.0 pour le scale-up et Ethernet avec RoCE pour le scale-out
TDP du rack140 kW de puissance thermique de conception

La bande passante de 133 TB/s est une caractéristique indiquée par carte, tandis que les 43 TB de mémoire et le TDP de 140 kW concernent le rack. Qualcomm décrit ainsi une plateforme conçue pour des modèles et des contextes de grande taille, avec des besoins d’infrastructure précisés à l’échelle du rack.

Des échantillons visés au premier semestre 2027

DiarioBitcoin rapporte que Qualcomm prévoit de distribuer des échantillons du Dragonfly AI250 au premier semestre 2027.