Qualcomm ogłosił walidację krzemu High Bandwidth Compute (HBC) pierwszej generacji, technologii przeznaczonej do obsługi inferencji AI. Firma łączy HBC z platformą Dragonfly AI250, której karta ma mieć 768 GB pamięci i efektywną przepustowość pamięci 133 TB/s. DiarioBitcoin podał, że Qualcomm planuje rozsyłać próbki AI250 w pierwszej połowie 2027 roku.
Co Qualcomm zwalidował w układzie HBC?
HBC ma zbliżać obliczenia do pamięci, ograniczając przesyłanie danych podczas inferencji AI. Qualcomm opisał krzem pierwszej generacji jako zwalidowany w komunikacie firmy.
Według DiarioBitcoin testy laboratoryjne obejmowały odczyt i zapis pamięci oraz obliczenia wykonywane blisko niej. Do prób użyto automatycznego testera i losowych danych. W relacji opisano też konstrukcję z warstwami DRAM połączonymi bezpośrednio nad układem logicznym.
Jak HBC wiąże się z Dragonfly AI250?
Qualcomm opisuje AI250 jako platformę do inferencji AI w skali szafy serwerowej, wyposażoną w HBC Gen 1. Firma określa ją jako platformę drugiej generacji; HBC jest w niej technologią krzemową pierwszej generacji. To osobne oznaczenia generacji platformy i układu.
Jakie parametry AI250 podaje Qualcomm?
Na stronie produktu AI250 Qualcomm podaje parametry karty, konfigurację szafy i wymagania infrastrukturalne. Wartości w tabeli są specyfikacjami firmy.
| Element | Specyfikacja | Zakres |
| Karta AI250 | 768 GB pamięci; 133 TB/s efektywnej przepustowości pamięci | Wartości na kartę |
| Platforma | Druga generacja platformy do inferencji AI w skali szafy; HBC Gen 1 | Opis platformy |
| Obsługiwane modele | Do 10 bilionów parametrów; kontekst do 1 miliona tokenów | Deklarowane możliwości platformy |
| Szafa | 56 kart; 43 TB pamięci | Konfiguracja szafy |
| Chłodzenie i standard | Chłodzenie powietrzem lub bezpośrednie chłodzenie cieczą; zgodność z ORv3 | Opis szafy |
| Połączenia | PCIe 6.0 do komunikacji scale-up; Ethernet z RoCE do komunikacji scale-out | Opis sieci i połączeń |
| TDP szafy | 140 kW | Wartość TDP szafy |
TDP określa projektowy parametr cieplny systemu. Qualcomm podaje 140 kW dla szafy, a nie pomiar poboru mocy podczas konkretnego obciążenia. Przepustowość 133 TB/s również jest specyfikacją karty, nie wynikiem pomiaru pracy AI250 w centrum danych.
Kiedy mają pojawić się próbki AI250?
DiarioBitcoin podał, że Qualcomm planuje dystrybucję próbek AI250 w pierwszej połowie 2027 roku. Ten termin dotyczy próbek platformy.