SK hynix opisuje MARS jako architekturę, a HBF jako pamięć

Podczas OCP Global Summit 2026 Hoshik Kim, starszy wiceprezes SK hynix, opisał MARS jako architekturę, która łączy zasoby pamięci na poziomie całej szafy serwerowej, a HBF — jako odrębną technologię pamięci NAND. TrendForce relacjonował jego wystąpienie 13 października 2026 r.

MARS łączy pamięć współdzieloną w skali racka

MARS, czyli Memory-Centric AI Rack-Scale System, to architektura dezagregowana: pula pamięci nie jest przypisana wyłącznie do pojedynczych serwerów, lecz ma być współdzielona w obrębie całego racka. System koordynuje zasoby obliczeniowe i pamięć, pozwalając obsługiwać je jako wspólną infrastrukturę.

HBF działa na innym poziomie. To technologia pamięci oparta na NAND, którą można umieścić w szerszym układzie infrastruktury, takim jak opisywany przez Kim system MARS. MARS jest więc architekturą organizacji zasobów, a HBF — rodzajem pamięci.

Skąd wziął się zgłoszony wynik TTFT

Kim opisał wieloturową usługę inferencji agentów AI, w której współdzielona pamięć przechowuje i udostępnia pamięć podręczną KV wykorzystywaną w kolejnych turach. Według jego relacji zastosowanie MARS przyniosło w tym scenariuszu 3–5-krotną poprawę czasu TTFT względem ponownego obliczania. TTFT to czas do wygenerowania pierwszego tokenu; Kim mówił też o ograniczeniu opóźnień ogonowych, czyli najdłuższych czasów odpowiedzi.

Ta liczba odnosi się do opisanego wieloturowego obciążenia i konkretnego porównania z ponownym obliczaniem. Nie jest ogólną obietnicą wydajności dla dowolnego modelu AI ani wdrożenia.

HBF stawia na pojemność, HBM na przepustowość

Kim porównał HBF z HBM, czyli pamięcią o wysokiej przepustowości. Według jego przybliżonej charakterystyki HBF ma około 14 razy większą pojemność niż HBM, a jego przepustowość zwykle wynosi około połowy przepustowości HBM.

Taki układ wskazuje na rolę HBF jako pamięci o dużej pojemności, a nie odpowiednika HBM pod względem przepustowości. Ogólny kompromis pamięci flash pomaga zrozumieć, dlaczego HBF wiąże się z inferencją: jak opisuje IndexBox w omówieniu technologii HBF, zapis w pamięci flash jest wolniejszy od odczytu, a jej komórki mają ograniczoną trwałość zapisu. To sprzyja obciążeniom z przewagą odczytu, takim jak korzystanie z względnie niezmiennych wag modelu podczas inferencji, a nie intensywnemu zapisywaniu danych w trakcie trenowania.

Miejsce HBF w portfolio AI NAND

W relacji MK o portfolio SK hynix AINP odpowiada kategorii nastawionej na wydajność, AIND — na pojemność, a AINB — na przepustowość. MK identyfikuje AINB jako HBF. Taki podział pokazuje, że SK hynix umieszcza HBF wśród rozwiązań AI NAND ukierunkowanych na przepustowość, obok odrębnych kategorii wydajności i pojemności.

Plan rozwoju HBF

Kim podał, że wersję 0.7 specyfikacji OCP HBF wydano w lipcu, bez wskazania roku. Wersja 1.0 była oczekiwana na początku 2027 r., a próbki HBF Cube zaplanowano na początek 2028 r. W czasie jego wystąpienia trwały też prace nad prototypem koncepcyjnym HBF.