Tijdens OCP Global Summit 2026 beschreef SK hynix twee verschillende onderdelen van AI-infrastructuur: MARS is een architectuur die geheugen op rackniveau deelt, terwijl HBF een NAND-gebaseerde geheugentechnologie is. De ene organiseert hoe servers geheugen gebruiken; de andere is een type geheugen.
MARS deelt geheugen tussen servers
MARS staat voor Memory-Centric AI Rack-Scale System. De architectuur brengt rekenkracht en geheugen samen in een gedeelde voorziening op rackniveau, in plaats van het geheugen per server af te bakenen. Dat kan van belang zijn voor AI-diensten die veel geheugen nodig hebben, maar het maakt MARS en HBF niet tot hetzelfde onderdeel.
SK hynix Senior Vice President Hoshik Kim beschreef een toepassing voor een AI-agentdienst die meerdere beurten verwerkt. Die gebruikte gedeeld geheugen om de KV-cache op te slaan en te benutten. Een KV-cache bewaart informatie uit eerdere stappen van een model, zodat die bij vervolgvragen opnieuw kan worden gebruikt.
Volgens Kim verbeterde MARS in die dienst de tijd tot de eerste token (TTFT) met een factor 3 tot 5 ten opzichte van het opnieuw berekenen van die informatie; ook de staartlatentie nam volgens hem af. TrendForce berichtte over Kims toelichting tijdens de top. Het cijfer hoort bij die beschreven toepassing, niet bij elke AI-dienst of elk model. (TrendForce)
HBF legt de nadruk op capaciteit
HBF, voluit High Bandwidth Flash, is flashgeheugen op basis van NAND. Kim vergeleek de technologie met HBM (high-bandwidth memory): volgens zijn schatting biedt HBF ongeveer veertien keer zoveel capaciteit, bij doorgaans ongeveer de helft van de bandbreedte.
| Vergelijking | HBF ten opzichte van HBM, volgens Kim |
| Capaciteit | Ongeveer 14× zo groot |
| Bandbreedte | Doorgaans ongeveer de helft |
Die verhoudingen plaatsen HBF aan de kant van meer capaciteit, met minder bandbreedte dan de genoemde HBM-referentie. Ze geven geen absolute geheugencapaciteit of bandbreedte voor een specifieke HBF-configuratie.
De lees- en schrijfkenmerken van flash helpen verklaren waarom HBF met inferentie in verband wordt gebracht. IndexBox beschrijft in algemene zin dat flash langzamer schrijft dan leest en een beperkte schrijfduurzaamheid heeft. Dat past beter bij leesgerichte inferentie, waarbij modelgewichten relatief stabiel blijven, dan bij workloads met veel schrijfacties, zoals training. Dit is algemene technische context, geen meting van HBF Cube. (IndexBox)
HBF binnen de AI-NAND-portfolio van SK hynix
MK berichtte dat SK hynix drie AI-NAND-categorieën onderscheidde: AINP voor prestaties, AIND voor capaciteit en AINB voor bandbreedte. Het bericht identificeerde AINB als HBF. Die indeling plaatst HBF als de bandbreedtegerichte categorie binnen de bredere portfolio, naast de prestatie- en capaciteitsgerichte categorieën. (MK)
Genoemde ontwikkelplanning
Kim zei dat de OCP-specificatie voor HBF versie 0.7 in juli was uitgebracht; in zijn uitspraak werd geen jaar voor die maand genoemd. Versie 1.0 werd begin 2027 verwacht. Ook meldde Kim dat SK hynix aan een conceptprototype werkte en dat het bedrijf de HBF Cube volgens plan begin 2028 wilde bemonsteren.
