W teście NVIDIA osiem połączonych przełącznikiem systemów DGX Spark uzyskało 52,58 tokenu na sekundę przy dekodowaniu Qwen3.8-27B-NVFP4, wobec 11,86 tokenu/s na jednym systemie. To 4,43 raza więcej w tym konkretnym pomiarze. NVIDIA opublikowała wyniki 22 października 2026 r.; test przeprowadzono przy współbieżności 1, z 8192 tokenami wejściowymi, 256 wyjściowymi i bez dekodowania spekulacyjnego.
Qwen: osobne wyniki dla dekodowania i przetwarzania wejścia
Tabela pokazuje wyniki podane przez NVIDIA dla Qwen3.8-27B-NVFP4. Prefill to etap przetwarzania tokenów wejściowych, a dekodowanie to generowanie kolejnych tokenów. Wartości dotyczą przepustowości, czyli liczby tokenów przetwarzanych w ciągu sekundy.
| Liczba systemów i topologia | Prefill (tokenów/s) | Dekodowanie (tokenów/s) |
| 1 system | 2 635 | 11,86 |
| 2 systemy, połączenie bezpośrednie | 3 285 | 21,71 |
| 4 systemy, fizyczny pierścień | 4 446 | 32,82 |
| 4 systemy, switch i RoCEnante | 4 556 | 36,34 |
| 8 systemów, fizyczny pierścień | 4 962 | 40,11 |
| 8 systemów, switch i RoCEnante | 5 105 | 52,58 |
Przy ośmiu systemach konfiguracja ze switchem i RoCEnante osiągnęła 4,43 raza wynik jednego systemu w dekodowaniu i 1,94 raza w prefill. To różne etapy pracy, a ich skalowanie w tym teście wyraźnie się różniło. Fizyczny pierścień z ośmiu systemów uzyskał 40,11 tokenu/s przy dekodowaniu, mniej niż konfiguracja przełączana z RoCEnante.
Pierścień czy switch? Zależy od układu pracy
NVIDIA opisuje bezpośrednio połączony pierścień jako prostsze i tańsze rozwiązanie dla inferencji na czterech systemach. Switch jest potrzebny w układzie ośmiowęzłowym, przy podziale klastra na niezależne grupy oraz przy wzorcach komunikacji wymagających bezpośredniego połączenia każdego węzła z pozostałymi.
RoCEnante to mechanizm komunikacji zbiorowej, czyli wymiany danych koordynowanej między wieloma GPU. NVIDIA opisuje go jako rozwiązanie przeznaczone dla połączeń przez switch, małych komunikatów, niskiej współbieżności i umiarkowanej liczby węzłów. W teście przełączanym dla Qwen3.8-27B-NVFP4 skalowanie dekodowania przy czterech systemach wyniosło 3,06 raza z RoCEnante i 2,56 raza bez niego; przy ośmiu systemach było to odpowiednio 4,43 i 3,05 raza.
Ten mechanizm ogranicza liczbę etapów komunikacji, ale przy większych komunikatach lub większej liczbie węzłów zwiększa ilość przesyłanych danych. NVIDIA wskazuje NCCL jako domyślnie wspieraną bibliotekę komunikacyjną; według firmy może lepiej pasować do większej współbieżności, większych klastrów i topologii pierścieniowej.
Switchyard kieruje zapytania do różnych modeli
W prototypie Switchyard NVIDIA kierowała prostsze zapytania do MiniCPM5 2B, a trudniejsze do Qwen3.8 Flash Next. W teście wykorzystania narzędzi agent uzyskał 91 punktów na 100 w zestawie 92 przypadków, tyle samo co konfiguracja oparta wyłącznie na Qwen.
Przepustowość zależała od podziału zapytań: NVIDIA podała wynik około 1,5 raza wyższy, gdy połowa zapytań trafiała do Qwen, oraz około 3 razy wyższy, gdy do Qwen kierowano jedną czwartą, a resztę do MiniCPM. W ośmiowęzłowej konfiguracji prototypu trzy dwuwęzłowe repliki Qwen działały obok dwóch jednowęzłowych replik MiniCPM. Wyniki opisują ten układ i te proporcje routingu.
Trening nanochat to inny rodzaj obciążenia
W osobnym teście wstępnego trenowania modelu nanochat NVIDIA podała przepustowość 68 079 tokenów/s na ośmiu systemach, czyli 7,79 raza więcej niż na jednym. Firma obliczyła sprawność skalowania konfiguracji ośmiowęzłowej na 97,4%. To wynik treningu, nie wskaźnik skalowania inferencji Qwen.
| Liczba systemów | Przepustowość treningu (tokenów/s) | Przyspieszenie | Sprawność skalowania |
| 1 | 8 741 | 1,00× | 100,0% |
| 2 | 17 202 | 1,97× | 98,4% |
| 4 | 33 640 | 3,85× | 96,2% |
| 8 | 68 079 | 7,79× | 97,4% |
Test dotyczył modelu o około 896,5 mln parametrów. NVIDIA podała globalną porcję 524 288 tokenów na krok oraz 32 sekwencje w mikroporcji przypadającej na każdy GPU.
Pamięć klastra, GLM 5.3 i harmonogram NVIDIA Sync
Każdy DGX Spark zapewnia 128 GB zunifikowanej pamięci, a osiem systemów łącznie 1 TB. NVIDIA podała, że w takim klastrze uruchomiła pełny checkpoint GLM 5.3 o 753 mld parametrów, zajmujący około 470 GB w formacie NVFP4.
Specyfikacje pojedynczego DGX Spark podane przez NVIDIA obejmują przepustowość pamięci 273 GB/s oraz kartę sieciową ConnectX-7 o szybkości 200 Gb/s. Są to parametry jednego systemu, nie pomiar przepustowości całego klastra.
W poście z 22 października 2026 r. NVIDIA zapowiedziała, że obsługa ośmiu systemów w NVIDIA Sync ma trafić do oprogramowania do końca roku. Firma podała też, że wsparcie dla klastrów ośmiowęzłowych ogłosiła podczas GTC Berlin.
