CoreWeave aurait placé sept racks NVIDIA Vera Rubin NVL72 en production dans deux régions, pour un total de 504 GPU Rubin, le 16 septembre 2026. L’intérêt de ce déploiement ne tient pas seulement au chiffre : dès que plusieurs racks travaillent ensemble, le réseau, le refroidissement liquide, le stockage et la gestion des pannes deviennent des composants du système de calcul.

CoreWeave fait passer Vera Rubin à l’échelle multi-racks

Un rack NVL72 réunit 72 GPU Rubin et 36 processeurs Vera. Sept racks donnent donc 504 GPU — une capacité de production rapportée pour CoreWeave, et non une simple configuration théorique.

Le chiffre de 128 000 GPU par rail décrit une capacité d’architecture annoncée par CoreWeave, pas la taille du déploiement actuellement rapporté. Les deux valeurs ne parlent pas du même niveau : l’une concerne l’échelle visée par l’architecture réseau, l’autre les sept racks placés en production.

NVIDIA présente Vera Rubin comme une plateforme d’infrastructure pour centres de données. Elle associe calcul, interconnexion, réseau et traitement des données afin de prendre en charge l’entraînement, l’inférence, le raisonnement et les charges de travail agentiques. Ce n’est donc pas une carte graphique destinée aux PC de jeu, mais une installation complète pensée pour fonctionner en baie.

Ce que contient un NVIDIA Vera Rubin NVL72

La configuration publiée du NVL72 rassemble les éléments suivants :

ÉlémentValeur publiéePortée
GPU Rubin72Par rack NVL72
Processeurs Vera36Par rack NVL72
Mémoire HBM420,7 ToConfiguration publiée du rack
Bande passante mémoire1 400 To/sConfiguration publiée du rack
Interconnexion GPUNVLink 6À l’échelle du rack
Bande passante NVLink216 To/sValeur bidirectionnelle publiée
Liaison NVLink-C2C65 To/sValeur publiée du NVL72
Mémoire des processeursJusqu’à 54 To de LPDDR5XConfiguration publiée du rack

La plateforme comprend également des SuperNIC ConnectX-9, des DPU BlueField-4, du stockage à haut débit et un refroidissement liquide. NVIDIA décrit cet ensemble comme une famille de systèmes composée de six éléments majeurs : le GPU Rubin, le processeur Vera, le commutateur NVLink 6, le SuperNIC ConnectX-9, le DPU BlueField-4 et la plateforme Ethernet Spectrum-X avec liaison optique co-packagée.

Quand le réseau devient une partie du calcul

Architecture modulaire, refroidissement liquide et maintenance d’un système NVIDIA Vera Rubin

Dans un système d’IA distribué, les GPU doivent échanger rapidement des données pendant les calculs. CoreWeave décrit son infrastructure multi-racks comme une architecture à deux niveaux et non bloquante, organisée autour de plusieurs rails et plans réseau.

Chaque GPU Rubin dispose de deux SuperNIC ConnectX-9. CoreWeave avance une connectivité réseau d’extension pouvant atteindre 1,6 Tbit/s par GPU. À cette échelle, le réseau ne sert plus seulement à relier des serveurs : il conditionne directement la capacité des GPU à travailler comme un ensemble synchronisé.

CoreWeave teste aussi ses systèmes en désactivant les liaisons GPU à GPU les plus rapides afin de faire passer le trafic par le réseau dorsal. Cette méthode permet de solliciter les commutateurs, le câblage, les logiciels et les autres éléments du réseau dans des conditions plus exigeantes.

La gestion du rack devient un logiciel

Passer d’un rack à plusieurs ne consiste pas à empiler des armoires et à espérer que tout se comporte comme prévu. CoreWeave utilise Racky pour la gestion unifiée des racks, Valvey pour piloter les vannes du refroidissement liquide et le Rack LifeCycle Controller pour les opérations liées au cycle de vie de chaque rack.

Cette approche conserve le rack comme unité opérationnelle, tout en permettant à l’ensemble de la plateforme de fonctionner à plus grande échelle. L’objectif est concret : isoler une panne, intervenir sur un élément ou modifier une configuration sans transformer un incident local en interruption générale.

Le refroidissement est lui aussi intégré à cette logique. Les systèmes Vera Rubin utilisent des plaques de refroidissement directes sur les composants, avec des circuits liquides adaptés à la densité thermique d’une infrastructure de ce type. NVIDIA affirme par ailleurs que le remplacement d’un plateau de calcul peut être réalisé bien plus rapidement que sur Blackwell ; cette amélioration relève de la promesse de NVIDIA sur la maintenance et les performances de sa plateforme.

LOTA rapproche les données des GPU

Le calcul n’est pas le seul goulet d’étranglement. Les modèles d’IA doivent constamment accéder à des données, et faire venir ces données depuis un stockage objet traditionnel peut ralentir les GPU.

CoreWeave utilise LOTA — pour Local Object Transport Accelerator — comme point de terminaison NVMe local au calcul. Le système met en cache les données objet afin de les rapprocher des GPU au lieu de solliciter directement le stockage objet à chaque lecture.

CoreWeave revendique une latence jusqu’à huit fois plus faible que celle d’une lecture directe depuis un stockage objet traditionnel, ainsi qu’un débit pouvant atteindre 7 Go/s par GPU lorsque la charge de travail et les conditions de cache s’y prêtent. L’entreprise indique aussi que la migration de données objet entre régions s’effectue généralement en 72 heures, tandis que les charges continuent d’utiliser leur copie durable locale.

Cette organisation fait du chemin des données une partie de la conception du calcul. Les GPU, le réseau, le cache local et le stockage durable doivent avancer au même rythme ; un seul maillon trop lent peut retarder un traitement distribué de longue durée.