CoreWeave ha portato in produzione sette rack NVIDIA Vera Rubin NVL72, distribuiti su due regioni, per un totale di 504 GPU Rubin. Il passaggio oltre il singolo rack è il vero punto della notizia: in un sistema AI di queste dimensioni, rete, alimentazione, raffreddamento, storage e gestione dei guasti entrano direttamente nel progetto del calcolo.
CoreWeave porta Vera Rubin oltre un solo rack
Il conteggio è semplice: ogni NVL72 integra 72 GPU Rubin e sette rack fanno 504 GPU. Il risultato non descrive una scheda grafica per PC, ma una piattaforma rack-scale pensata da NVIDIA per addestramento, inferenza, ragionamento e carichi di lavoro di intelligenza artificiale agentica.
Il salto operativo arriva quando più rack devono lavorare insieme. Un rallentamento nella rete o un problema termico può incidere su un carico distribuito intero, non soltanto su una macchina isolata. Per questo CoreWeave tratta il rack come un'unità operativa e costruisce attorno a esso una serie di sistemi software e infrastrutturali.
Cosa contiene un NVIDIA Vera Rubin NVL72
NVIDIA descrive il Vera Rubin NVL72 come un sistema composto da più elementi coordinati: GPU Rubin, CPU Vera, switch NVLink 6, SuperNIC ConnectX-9, DPU BlueField-4 e piattaforma Ethernet Spectrum-X. Il rack usa inoltre raffreddamento a liquido e storage ad alta velocità.
| Elemento | Valore pubblicato | Ambito |
| GPU Rubin | 72 | Per rack NVL72 |
| CPU Vera | 36 | Per rack NVL72 |
| Memoria HBM4 | 20,7 TB | Configurazione pubblicata del rack |
| Banda della memoria HBM4 | 1.400 TB/s | Configurazione pubblicata del rack |
| Banda NVLink | 216 TB/s | Valore bidirezionale pubblicato per NVL72 |
| Banda NVLink-C2C | 65 TB/s | Valore pubblicato per NVL72 |
| Core CPU | 3.168 core e 6.336 thread | Configurazione pubblicata del rack |
| Memoria CPU | Fino a 54 TB LPDDR5X | Configurazione pubblicata del rack |
Questa impostazione chiarisce perché Vera Rubin non sia una GPU gaming destinata ai consumatori. NVIDIA la presenta come infrastruttura AI per data center, con componenti di calcolo, interconnessione, rete e gestione progettati per funzionare come un insieme.
Quando la rete diventa parte del computer
La rete di CoreWeave è descritta come a due livelli e non bloccante, con più rail e piani di comunicazione. Ogni GPU Rubin dispone di due SuperNIC ConnectX-9 e CoreWeave dichiara fino a 1,6 Tbps di connettività scale-out per GPU.
In pratica, la rete non serve soltanto a collegare server separati: deve mantenere sincronizzati i componenti che partecipano allo stesso carico AI. CoreWeave sottopone i sistemi anche a test in cui disabilita i collegamenti GPU-GPU più veloci e forza il traffico sulla rete posteriore. L'obiettivo è far emergere problemi in switch, cavi, software e altri componenti della rete.
CoreWeave indica inoltre una capacità architetturale di circa 128.000 GPU per rail. È una scala progettuale della rete, non il numero di GPU presenti nel deployment attuale: i rack Vera Rubin messi in produzione sono sette, per 504 GPU complessive.
La gestione del rack è anch'essa software
Per amministrare l'infrastruttura, CoreWeave usa Racky per la gestione unificata del rack, Valvey per il controllo programmabile delle valvole del raffreddamento a liquido e il Rack LifeCycle Controller per le operazioni sull'intero ciclo di vita del sistema.
Questi strumenti servono a trattare il rack come un oggetto operativo standardizzato: installazione, controllo termico, manutenzione e gestione dei guasti devono essere coordinati senza trasformare ogni rack in un progetto artigianale. È una differenza importante rispetto all'idea di aggiungere semplicemente altre GPU a un server.
Il raffreddamento è parte dello stesso problema. I rack Vera Rubin usano circuiti a liquido e piastre a contatto diretto con i componenti di calcolo; la temperatura non è quindi un dettaglio accessorio, ma una condizione da governare insieme a rete e alimentazione.
Avvicinare i dati alle GPU
La parte storage ruota attorno a LOTA, il Local Object Transport Accelerator di CoreWeave. Il sistema fornisce un endpoint NVMe locale al calcolo per i dati degli oggetti conservati nella cache, riducendo il percorso tra dati e GPU.
CoreWeave sostiene che LOTA possa ridurre di otto volte la latenza rispetto alla lettura diretta da uno storage a oggetti tradizionale e raggiungere fino a 7 GB/s per GPU, quando carico di lavoro e condizioni della cache lo consentono. La stessa architettura comprende storage a oggetti, accelerazione delle scritture tra regioni e un livello Archive.
CoreWeave afferma anche che la migrazione dei dati a oggetti tra regioni si completa normalmente entro 72 ore mentre i carichi continuano a usare la copia durevole locale. In questo modello, la posizione dei dati diventa una variabile del calcolo: spostare un dataset non è più un'operazione separata dal lavoro delle GPU, ma parte della sua organizzazione operativa.
La produzione di sette rack mostra quindi un cambio di scala concreto per Vera Rubin: 504 GPU devono funzionare come un ambiente coordinato, con rete, raffreddamento, gestione del rack e accesso ai dati progettati intorno allo stesso carico AI.
