Na OCP Global Summit 2026, Hoshik Kim, vice-presidente sênior da SK hynix, descreveu MARS como uma arquitetura para compartilhar memória entre servidores de um rack e HBF como uma tecnologia de memória baseada em NAND, segundo relato da TrendForce. Em outras palavras: MARS organiza o sistema; HBF é um tipo de memória.
MARS coordena memória compartilhada em escala de rack
MARS significa Memory-Centric AI Rack-Scale System. A arquitetura desagrega computação e memória: em vez de limitar os recursos de memória a cada servidor, reúne-os em um conjunto compartilhado no rack. Isso pode ajudar a atender cargas de trabalho que precisam de mais memória do que um servidor individual oferece.
Kim associou MARS a um serviço de inferência com agentes de IA em várias interações. Nesse cenário, o sistema armazenava e consumia cache KV em memória compartilhada. Cache KV é a estrutura de chaves e valores usada durante o processamento do modelo; mantê-la disponível entre interações foi parte do exemplo apresentado.
Para essa carga específica, Kim relatou uma melhora de 3 a 5 vezes no tempo até o primeiro token (TTFT), em comparação com a recomputação, e disse que a latência de cauda diminuiu. O número se refere ao serviço descrito, não a um resultado para qualquer modelo ou implantação.
HBF troca largura de banda por capacidade, segundo Kim
HBF, ou High Bandwidth Flash, é uma tecnologia de memória baseada em NAND. Kim comparou suas características com as da HBM em termos aproximados:
| Critério | HBF em relação à HBM, segundo Kim |
| Capacidade | Cerca de 14 vezes maior |
| Largura de banda | Geralmente cerca de metade |
Essa combinação ajuda a situar a proposta: mais capacidade, sem igualar a largura de banda da HBM. A explicação geral da IndexBox acrescenta o contexto da memória flash: ela grava mais lentamente do que lê e tem resistência limitada a ciclos de gravação. Isso favorece cargas voltadas à leitura, como a inferência, em vez de usos com gravação intensa, como o treinamento. São características gerais da flash, não medições específicas do HBF Cube.
HBF no portfólio de NAND para IA da SK hynix
A reportagem da MK descreve três categorias de NAND para IA da SK hynix: AINP, voltada a desempenho; AIND, a capacidade; e AINB, a largura de banda. A reportagem identifica AINB como a categoria associada a HBF. Assim, HBF ocupa um lugar específico no portfólio, em vez de representar toda a estratégia de NAND da empresa.
O roteiro de desenvolvimento de HBF
Kim disse que a versão 0.7 da especificação OCP HBF havia sido lançada em julho. A versão 1.0 era esperada para o início do ano seguinte à apresentação de 2026. Na ocasião, a SK hynix também desenvolvia um protótipo conceitual, e a amostragem do HBF Cube estava planejada para o início de 2028.
