En un artículo publicado el 22 de octubre de 2026, NVIDIA comunicó que ocho equipos DGX Spark conectados mediante un switch alcanzaron 52,58 tokens por segundo (TPS) de decodificación con Qwen3.8-27B-NVFP4 y RoCEnante. En la prueba con un solo equipo, la cifra fue de 11,86 TPS: NVIDIA calculó un escalado de 4,43× para esa carga concreta.
La misma prueba registró un escalado de 1,94× en el prefill, la fase que procesa el texto de entrada, frente a 4,43× en la decodificación, que genera la respuesta. Son resultados distintos para fases distintas, no un multiplicador general para cualquier modelo o tarea.
Qué midió NVIDIA con Qwen3.8-27B-NVFP4
NVIDIA probó el modelo en formato NVFP4, con una solicitud concurrente, 8.192 tokens de entrada y 256 de salida. La decodificación especulativa estaba desactivada. La tabla recoge el rendimiento que la compañía comunicó para cada cantidad de equipos y topología; TPS significa tokens por segundo.
| Equipos y conexión | Prefill (TPS) | Decodificación (TPS) |
| 1 equipo | 2.635 | 11,86 |
| 2 equipos, conexión directa | 3.285 | 21,71 |
| 4 equipos, anillo físico | 4.446 | 32,82 |
| 4 equipos, switch con RoCEnante | 4.556 | 36,34 |
| 8 equipos, anillo físico | 4.962 | 40,11 |
| 8 equipos, switch con RoCEnante | 5.105 | 52,58 |
En la configuración de ocho equipos con switch, NVIDIA comunicó 5.105 TPS de prefill y 52,58 TPS de decodificación. Frente al equipo individual, el prefill escaló 1,94× y la decodificación 4,43×. La diferencia entre ambas cifras muestra por qué conviene mirar cada fase por separado.
En otra comparación de NVIDIA para la topología con switch, el escalado de decodificación a cuatro equipos fue de 3,06× con RoCEnante y 2,56× sin él; a ocho equipos, fue de 4,43× y 3,05×, respectivamente. Esos multiplicadores corresponden al mismo benchmark de Qwen3.8-27B-NVFP4, con la decodificación especulativa desactivada.
Anillo o switch: depende de la configuración
NVIDIA plantea el anillo sin switch como una opción más sencilla y de menor coste para inferencia con cuatro equipos. Para ocho, para separar el clúster en grupos independientes o para conectar los equipos directamente entre sí, indica que hace falta un switch.
RoCEnante es un backend colectivo, un componente de software que coordina la comunicación entre GPU, y NVIDIA lo limita a configuraciones con switch. La compañía lo describe como adecuado para mensajes pequeños, baja concurrencia y un número moderado de equipos: reduce los pasos de comunicación, pero mueve más datos cuando aumentan el tamaño de los mensajes o el número de nodos.
NVIDIA mantiene NCCL, su biblioteca de comunicaciones colectivas, como opción predeterminada compatible. La considera preferible con más concurrencia, clústeres mayores o topologías en anillo. Así, el mejor resultado de RoCEnante en la prueba de Qwen no implica que sea la opción adecuada para cualquier carga.
Switchyard distribuye las solicitudes entre modelos
En su prototipo Switchyard, NVIDIA envió las solicitudes sencillas a MiniCPM5 2B y las complejas a Qwen3.8 Flash Next. La configuración en ocho equipos asignó tres réplicas de Qwen, cada una con dos equipos, y dos réplicas de MiniCPM, cada una con uno.
NVIDIA comunicó que el sistema enrutado obtuvo 91 puntos sobre 100 en una prueba de uso de herramientas de 92 casos, igual que su configuración que utilizaba solo Qwen. La compañía también informó de alrededor de 1,5× más rendimiento agregado cuando la mitad de las solicitudes se dirigía a Qwen, y de alrededor de 3,0× cuando se enviaba a Qwen una cuarta parte y el resto iba a MiniCPM. Esos resultados corresponden a los repartos de solicitudes y al prototipo descritos.
El preentrenamiento de nanochat es una carga distinta
NVIDIA comunicó 68.079 TPS al preentrenar nanochat desde cero en ocho equipos, 7,79× el rendimiento de un equipo, con una eficiencia de escalado del 97,4 %. La prueba usó un lote global de 524.288 tokens por paso y 32 secuencias por microbatch de GPU. El modelo tenía alrededor de 896,5 millones de parámetros.
| Equipos | Rendimiento de entrenamiento (TPS) | Aceleración | Eficiencia de escalado |
| 1 | 8.741 | 1,00× | 100,0 % |
| 2 | 17.202 | 1,97× | 98,4 % |
| 4 | 33.640 | 3,85× | 96,2 % |
| 8 | 68.079 | 7,79× | 97,4 % |
La aceleración de 7,79× corresponde al preentrenamiento de nanochat y a esas condiciones de lote. No es el resultado de la prueba de inferencia con Qwen, que midió otras operaciones y escaló de manera diferente.
Memoria del clúster y calendario de NVIDIA Sync
Cada DGX Spark aporta 128 GB de memoria unificada; ocho equipos suman 1 TB, según NVIDIA. La compañía afirma que esa capacidad permite ejecutar el checkpoint completo de GLM 5.3, de 753.000 millones de parámetros y unos 470 GB en NVFP4.
La página de producto de NVIDIA especifica 273 GB/s de ancho de banda de memoria y una tarjeta de red ConnectX-7 de 200 Gbps por equipo. Son especificaciones del DGX Spark individual, no mediciones del rendimiento de red del clúster.
NVIDIA indicó en su publicación del 22 de octubre que la compatibilidad con ocho equipos en NVIDIA Sync llegaría antes de fin de año.
