A OCP Global Summit 2026, SK hynix ha descritto MARS come un’architettura che mette in comune la memoria a livello di rack e HBF come una distinta tecnologia di memoria basata su NAND. La prima organizza le risorse di calcolo e memoria; la seconda riguarda il tipo di memoria. Hoshik Kim, vicepresidente senior di SK hynix, ha illustrato entrambi gli sviluppi, secondo il resoconto di TrendForce.
MARS condivide la memoria tra i server del rack
MARS significa Memory-Centric AI Rack-Scale System: è un’architettura disaggregata, cioè separa le risorse di memoria dai singoli server e le coordina come un pool condiviso a livello di rack. L’obiettivo descritto da Kim è superare i vincoli della memoria disponibile su ciascun server, mettendo in comune le risorse per i carichi di lavoro dell’IA.
Lo scenario citato è un servizio di inferenza per agenti di IA con più turni di interazione. Il sistema usa una memoria condivisa per conservare e consultare la cache KV, i dati di contesto che il modello riutilizza tra un turno e l’altro. Kim ha riferito un miglioramento del TTFT — il tempo necessario per generare il primo token — da 3 a 5 volte rispetto alla ricomputazione, e una riduzione della latenza nei casi più lenti. Il dato riguarda quel servizio descritto da Kim, non una prestazione generale di MARS.
HBF punta a più capacità rispetto a HBM
HBF, acronimo di High Bandwidth Flash, è una tecnologia di memoria NAND distinta dall’architettura MARS. Nel confronto presentato da Kim, HBF offre una capacità pari a circa 14 volte quella di HBM, mentre la sua larghezza di banda è in genere circa la metà. Sono confronti approssimativi riferiti da Kim e riportati da TrendForce.
| Parametro | HBF rispetto a HBM, secondo Kim |
| Capacità | Circa 14 volte maggiore |
| Larghezza di banda | In genere circa la metà |
La memoria flash è adatta a carichi orientati alla lettura, ma scrive più lentamente e ha una resistenza limitata alle scritture. Questo compromesso aiuta a inquadrare il posizionamento di HBF per l’inferenza, dove i pesi del modello vengono letti ripetutamente, rispetto a carichi con scritture intensive come l’addestramento. È il contesto tecnico generale descritto da IndexBox.
HBF nella strategia AI NAND di SK hynix
Il portafoglio AI NAND di SK hynix distingue AINP, orientato alle prestazioni, AIND, alla capacità, e AINB, alla larghezza di banda. Un resoconto di MK identifica AINB con HBF: la tecnologia si colloca quindi nella categoria dedicata alla larghezza di banda, non come sinonimo dell’intera offerta AI NAND.
Le tappe indicate per lo sviluppo di HBF
Kim ha detto che la specifica HBF 0.7 dell’Open Compute Project (OCP) era stata pubblicata a luglio, senza specificare l’anno in quella dichiarazione. La versione 1.0 era attesa per l’inizio dell’anno successivo e SK hynix stava sviluppando un prototipo concettuale. Kim ha inoltre indicato l’inizio del 2028 come periodo previsto per il campionamento di HBF Cube.
