SK hynix a présenté MARS comme architecture mémoire et HBF comme technologie NAND

Lors de l’OCP Global Summit 2026, SK hynix a présenté MARS comme une architecture qui mutualise la mémoire à l’échelle d’un rack, et HBF comme une technologie mémoire distincte fondée sur la NAND. Hoshik Kim, vice-président senior de SK hynix, a aussi décrit un scénario d’inférence où MARS aurait amélioré le délai avant le premier jeton de 3 à 5 fois par rapport au recalcul, selon le compte rendu publié par TrendForce le 13 octobre 2026. TrendForce rapporte les propos de Kim sur MARS, HBF et leur feuille de route.

MARS coordonne la mémoire à l’échelle d’un rack

MARS signifie Memory-Centric AI Rack-Scale System. L’architecture dissocie les ressources de calcul et de mémoire afin de les organiser comme une infrastructure partagée à l’échelle d’un rack, plutôt que de réserver la mémoire à chaque serveur. C’est une architecture système, pas un type de mémoire.

Kim a décrit un service d’inférence d’agents d’IA capable de mener plusieurs échanges. Dans ce scénario, la mémoire partagée conserve et réutilise le cache KV — les clés et valeurs intermédiaires produites pendant le traitement — au lieu de recalculer ces éléments. Kim a rapporté une amélioration de 3 à 5 fois du TTFT (time to first token, ou délai avant le premier jeton) par rapport au recalcul, ainsi qu’une baisse de la latence de queue, celle des requêtes les plus lentes. Ces chiffres concernent le service décrit par Kim.

HBF privilégie la capacité face à HBM

HBF (High Bandwidth Flash) est une technologie mémoire basée sur la NAND. Hoshik Kim l’a comparée à HBM, la mémoire à bande passante élevée utilisée comme référence dans ses propos : il a estimé que HBF offrait environ 14 fois sa capacité, avec généralement environ la moitié de sa bande passante.

Cette combinaison éclaire le positionnement de HBF pour l’inférence, où les modèles sont principalement lus. Dans son explication générale de la mémoire flash, IndexBox relève que les écritures sont plus lentes que les lectures et que l’endurance en écriture est limitée; ces caractéristiques conviennent davantage à un usage dominé par la lecture qu’à des écritures intensives comme celles de l’entraînement. IndexBox explique ce compromis général de la mémoire flash.

HBF dans la gamme AI NAND de SK hynix

Selon le quotidien sud-coréen MK, SK hynix distingue trois orientations dans sa gamme AI NAND : AINP pour les performances, AIND pour la capacité et AINB pour la bande passante. MK identifie AINB à HBF. Cette répartition situe HBF comme l’offre axée sur la bande passante au sein de la gamme, plutôt que comme un nom pour l’ensemble des mémoires AI NAND de SK hynix. MK rapporte les catégories AINP, AIND et AINB.

Le calendrier annoncé pour HBF

Hoshik Kim a indiqué que la spécification HBF de l’Open Compute Project (OCP), version 0.7, avait été publiée en juillet. La version 1.0 était attendue au début de l’année suivant ses propos tenus en 2026. Il a également déclaré que SK hynix développait un prototype conceptuel et prévoyait l’échantillonnage de HBF Cube au début de 2028.