A CoreWeave colocou sete racks NVIDIA Vera Rubin NVL72 em produção, distribuídos por duas regiões e somando 504 GPUs Rubin. O número é importante menos pelo volume bruto do que pelo salto operacional: quando a carga de IA atravessa vários racks, rede, energia, refrigeração líquida, armazenamento e tratamento de falhas deixam de ser infraestrutura periférica e passam a fazer parte do próprio computador.
CoreWeave leva Vera Rubin além de um único rack
O NVIDIA Vera Rubin é uma plataforma de infraestrutura de IA para data centers, voltada a treinamento, inferência, raciocínio e cargas de trabalho agentivas. O NVL72 é seu sistema em escala de rack: cada unidade combina 72 GPUs Rubin e 36 CPUs Vera.
A conta da implantação é direta: sete racks × 72 GPUs por rack = 504 GPUs. O ambiente opera em duas regiões, mas os nomes e as localizações delas não foram divulgados.
A mudança de escala altera o problema. Um rack isolado pode ser tratado como uma unidade relativamente contida; vários racks precisam trocar dados com baixa latência, dividir o trabalho de maneira coordenada e continuar operando quando um componente de rede, armazenamento ou refrigeração exige intervenção. É aí que a engenharia do operador ganha tanto peso quanto o hardware fornecido pela NVIDIA.
O que há dentro de um NVIDIA Vera Rubin NVL72
A configuração publicada pela NVIDIA combina computação, interconexão, memória e processamento de dados em um sistema único. Não se trata de uma placa de vídeo para montar em um PC, mas de uma infraestrutura de rack refrigerada a líquido.
| Elemento | Valor publicado | Alcance |
| GPUs Rubin | 72 | Por rack NVL72 |
| CPUs Vera | 36 | Por rack NVL72 |
| Memória HBM4 | 20,7 TB | Configuração publicada do rack |
| Largura de banda da memória | 1.400 TB/s | Configuração publicada do rack |
| Interconexão NVLink | NVLink 6 | Escala de rack |
| Largura de banda NVLink | 216 TB/s | Valor bidirecional publicado para o NVL72 |
| Interface NVLink-C2C | 65 TB/s | Valor publicado para o NVL72 |
| Memória das CPUs | Até 54 TB de LPDDR5X | Configuração publicada do rack |
A plataforma também reúne ConnectX-9 SuperNICs, BlueField-4 DPUs e o switch NVLink 6. Na apresentação da NVIDIA, esses componentes aparecem ao lado do Rubin GPU, da Vera CPU e do Spectrum-X Ethernet CPO como seis elementos centrais do desenho da plataforma.
Quando a rede vira parte do computador
A CoreWeave descreve a conexão entre racks como uma arquitetura de dois níveis, não bloqueante, com múltiplos trilhos e planos. Cada GPU Rubin usa duas ConnectX-9 SuperNICs e pode alcançar até 1,6 Tbps de conectividade de expansão, segundo a empresa.
Em cargas distribuídas, as GPUs não trabalham como ilhas independentes. Elas precisam trocar parâmetros, resultados intermediários e dados de entrada em sincronia. Uma rede congestionada ou uma falha em um caminho pode atrasar o trabalho inteiro, mesmo quando a capacidade de processamento continua disponível.
A CoreWeave afirma que sua arquitetura pode escalar para cerca de 128.000 GPUs por trilho. Essa é uma meta de escala arquitetural; a implantação em produção descrita para a empresa reúne 504 GPUs Rubin.
A operação do rack também é software
A CoreWeave usa o Racky para o gerenciamento unificado dos racks, o Valvey para controlar programaticamente as válvulas de refrigeração líquida e o Rack LifeCycle Controller para operações de ciclo de vida em nível de rack.
Essa camada transforma um conjunto físico de servidores, cabos, switches e circuitos de refrigeração em uma unidade que pode ser monitorada e operada de forma padronizada. A empresa também testa os sistemas desativando os enlaces mais rápidos entre GPUs e forçando o tráfego pela rede de retaguarda. O objetivo é expor problemas em switches, cabos, software e outros componentes de rede antes que eles interrompam uma carga distribuída.
A refrigeração líquida é parte central desse desenho. O sistema utiliza placas de contato direto com os chips, e a NVIDIA afirma que a modularidade do Vera Rubin reduz o tempo de manutenção de bandejas de computação. A própria NVIDIA também declara um ganho de cerca de dez vezes em desempenho por watt em relação ao Blackwell; trata-se de uma afirmação da fabricante, não de uma medição independente.
LOTA aproxima os dados das GPUs
O armazenamento é outro ponto crítico. O Local Object Transport Accelerator (LOTA) fornece um endpoint NVMe local para dados de objetos mantidos em cache próximo à computação.
A CoreWeave afirma que o LOTA pode reduzir em oito vezes a latência em comparação com leituras diretas do armazenamento tradicional de objetos e alcançar até 7 GB/s por GPU, dependendo da carga de trabalho e das condições do cache. A ferramenta também faz parte de uma camada mais ampla de armazenamento que inclui armazenamento de objetos, aceleração de gravações entre regiões e uma camada de arquivo.
Para dados que precisam ser replicados entre regiões, a CoreWeave afirma que a migração costuma terminar em até 72 horas enquanto as cargas continuam usando a cópia durável local. O desenho tenta evitar que a movimentação de dados paralise a computação — um detalhe pouco glamouroso, mas decisivo quando milhares de aceleradores estão ocupados.
A Vera Rubin continua sendo uma plataforma de data center. As páginas da NVIDIA descrevem o NVL72 como infraestrutura de IA em escala de rack, não como uma GPU gaming para consumidores.
