CoreWeave habría puesto en producción siete racks NVIDIA Vera Rubin NVL72 repartidos entre dos regiones, con un total de 504 GPU Rubin. El salto importa porque un sistema de IA deja de ser una caja aislada cuando cruza el límite de un rack: la red, la refrigeración, el almacenamiento, la alimentación y la gestión de fallos pasan a formar parte del trabajo de cómputo.
CoreWeave lleva Vera Rubin más allá de un solo rack
El cálculo es directo: cada NVL72 incorpora 72 GPU Rubin y siete racks suman 504 GPU. CoreWeave describe su arquitectura multinrack como una red de dos niveles y sin bloqueo, con varios rails y planos de comunicación.
La compañía también sitúa su diseño en una escala arquitectónica de aproximadamente 128.000 GPU por rail. Esa cifra describe la capacidad prevista de la arquitectura; el despliegue de producción comunicado para CoreWeave es de 504 GPU.
En este entorno, un fallo de cableado, un conmutador congestionado o una pieza de software puede afectar a una tarea distribuida que depende de que muchos aceleradores avancen coordinados. CoreWeave prueba sus sistemas desactivando los enlaces GPU a GPU más rápidos y obligando al tráfico a recorrer la red posterior. El objetivo es sacar a la luz problemas en conmutadores, cables, software y otros componentes de red.
Qué hay dentro de un NVIDIA Vera Rubin NVL72
NVIDIA Vera Rubin no es una tarjeta gráfica para montar en un PC. Es una plataforma de infraestructura de centros de datos concebida para entrenamiento, inferencia, razonamiento y cargas de trabajo de IA agéntica.
NVIDIA presenta el NVL72 como un sistema de escala de rack con seis componentes principales: GPU Rubin, CPU Vera, conmutador NVLink 6, SuperNIC ConnectX-9, DPU BlueField-4 y Spectrum-X Ethernet CPO.
| Elemento | Valor publicado | Alcance |
| GPU Rubin | 72 | Por rack NVL72 |
| CPU Vera | 36 | Por rack NVL72 |
| Memoria HBM4 | 20,7 TB | Configuración publicada del rack |
| Ancho de banda de memoria | 1.400 TB/s | Configuración publicada del rack |
| Ancho de banda NVLink | 216 TB/s | Cifra bidireccional publicada para el NVL72 |
| Interfaz NVLink-C2C | 65 TB/s | Cifra publicada para el NVL72 |
| Núcleos de CPU | 3.168 núcleos NVIDIA Olympus y 6.336 hilos | Configuración publicada del rack |
| Memoria de CPU | Hasta 54 TB LPDDR5X | Configuración publicada del rack |
La conectividad de expansión alcanza hasta 1,6 Tbps por GPU, según CoreWeave, mediante dos SuperNIC ConnectX-9 por acelerador. En otras palabras, el enlace entre racks no es un accesorio periférico: determina cómo pueden intercambiar datos los aceleradores durante una carga distribuida.
Cuando la red se convierte en parte del ordenador
En un sistema multinrack, los aceleradores no trabajan como ordenadores independientes que simplemente comparten una conexión. El rendimiento de la aplicación depende de que los datos circulen entre GPU, CPU, memoria, almacenamiento y otros racks con la menor fricción posible.
Por eso CoreWeave combina varios rails y planos de red en una topología de dos niveles y sin bloqueo. La empresa afirma que su diseño puede crecer hasta aproximadamente 128.000 GPU por rail, pero esa escala pertenece al diseño de la arquitectura, no al número de GPU Rubin actualmente comunicado en producción.
La refrigeración también forma parte del problema. El NVL72 utiliza refrigeración líquida, y el sistema emplea placas de refrigeración colocadas directamente sobre los componentes de cómputo. NVIDIA afirma que el diseño modular puede reducir a cinco minutos una operación de servicio que en Blackwell requeriría dos horas; también sostiene que Vera Rubin ofrece aproximadamente diez veces más rendimiento por vatio que Blackwell.
La operación del rack también es software
CoreWeave trata cada rack como una unidad operativa. Su capa de gestión incluye Racky, para administrar el rack de forma unificada; Valvey, para controlar de manera programable las válvulas de refrigeración líquida; y el Rack LifeCycle Controller, que coordina las operaciones del ciclo de vida del rack.
Este enfoque permite tratar el hardware como una unidad que puede ponerse en servicio, mantenerse y retirarse mediante operaciones estandarizadas. En una infraestructura multinrack, esa normalización es tan importante como la potencia bruta de las GPU: cada intervención debe encajar en un sistema que continúa ejecutando cargas distribuidas.
Acercar los datos a las GPU
El almacenamiento es otra pieza crítica. CoreWeave utiliza LOTA —Local Object Transport Accelerator— como un punto final NVMe local al cómputo para los datos de objetos almacenados en caché.
CoreWeave afirma que LOTA puede reducir ocho veces la latencia frente a las lecturas directas desde almacenamiento de objetos tradicional y alcanzar hasta 7 GB/s por GPU cuando coinciden las condiciones adecuadas de carga y caché. La compañía también indica que la migración de datos de objetos entre regiones suele completarse en 72 horas mientras las cargas continúan usando la copia local duradera.
La idea es sencilla: si una carga de IA necesita consultar repetidamente los mismos datos, llevarlos a un punto NVMe cercano a las GPU evita convertir el almacenamiento remoto en el cuello de botella. En un sistema de cientos de aceleradores, pequeñas esperas repetidas pueden terminar dominando el tiempo total de ejecución.
