Qualcomm ogłosił walidację krzemu High Bandwidth Compute (HBC) pierwszej generacji, technologii przeznaczonej do obsługi inferencji AI. Firma łączy HBC z platformą Dragonfly AI250, której karta ma mieć 768 GB pamięci i efektywną przepustowość pamięci 133 TB/s. DiarioBitcoin podał, że Qualcomm planuje rozsyłać próbki AI250 w pierwszej połowie 2027 roku.

Co Qualcomm zwalidował w układzie HBC?

HBC ma zbliżać obliczenia do pamięci, ograniczając przesyłanie danych podczas inferencji AI. Qualcomm opisał krzem pierwszej generacji jako zwalidowany w komunikacie firmy.

Według DiarioBitcoin testy laboratoryjne obejmowały odczyt i zapis pamięci oraz obliczenia wykonywane blisko niej. Do prób użyto automatycznego testera i losowych danych. W relacji opisano też konstrukcję z warstwami DRAM połączonymi bezpośrednio nad układem logicznym.

Jak HBC wiąże się z Dragonfly AI250?

Qualcomm opisuje AI250 jako platformę do inferencji AI w skali szafy serwerowej, wyposażoną w HBC Gen 1. Firma określa ją jako platformę drugiej generacji; HBC jest w niej technologią krzemową pierwszej generacji. To osobne oznaczenia generacji platformy i układu.

Jakie parametry AI250 podaje Qualcomm?

Na stronie produktu AI250 Qualcomm podaje parametry karty, konfigurację szafy i wymagania infrastrukturalne. Wartości w tabeli są specyfikacjami firmy.

ElementSpecyfikacjaZakres
Karta AI250768 GB pamięci; 133 TB/s efektywnej przepustowości pamięciWartości na kartę
PlatformaDruga generacja platformy do inferencji AI w skali szafy; HBC Gen 1Opis platformy
Obsługiwane modeleDo 10 bilionów parametrów; kontekst do 1 miliona tokenówDeklarowane możliwości platformy
Szafa56 kart; 43 TB pamięciKonfiguracja szafy
Chłodzenie i standardChłodzenie powietrzem lub bezpośrednie chłodzenie cieczą; zgodność z ORv3Opis szafy
PołączeniaPCIe 6.0 do komunikacji scale-up; Ethernet z RoCE do komunikacji scale-outOpis sieci i połączeń
TDP szafy140 kWWartość TDP szafy

TDP określa projektowy parametr cieplny systemu. Qualcomm podaje 140 kW dla szafy, a nie pomiar poboru mocy podczas konkretnego obciążenia. Przepustowość 133 TB/s również jest specyfikacją karty, nie wynikiem pomiaru pracy AI250 w centrum danych.

Kiedy mają pojawić się próbki AI250?

DiarioBitcoin podał, że Qualcomm planuje dystrybucję próbek AI250 w pierwszej połowie 2027 roku. Ten termin dotyczy próbek platformy.