CoreWeave hat laut einem am 16. September 2026 veröffentlichten Bericht sieben NVIDIA Vera Rubin NVL72 in zwei Regionen in Produktion gebracht. Zusammen kommen die Racks auf 504 Rubin-GPUs. Der entscheidende Punkt ist nicht nur die Zahl der Chips: Sobald mehrere Racks gemeinsam arbeiten, werden Netzwerk, Flüssigkühlung, Speicher, Stromversorgung und Fehlerbehandlung zu einem Teil des eigentlichen KI-Systems.
CoreWeave bringt Vera Rubin über ein einzelnes Rack hinaus
Ein NVIDIA Vera Rubin NVL72 ist als Rack-System mit 72 Rubin-GPUs und 36 Vera-CPUs ausgelegt. Sieben solcher Racks ergeben rechnerisch 504 GPUs. Die Produktion über mehrere Racks verschiebt damit die technische Aufgabe: Nicht mehr nur ein einzelnes System muss funktionieren, sondern die Verbindung zwischen mehreren Systemen muss dauerhaft synchron bleiben.
CoreWeave beschreibt seine Multi-Rack-Architektur als zweistufig und nicht blockierend. Mehrere Netzwerk-Rails und -Ebenen sollen den Datenverkehr zwischen den Racks tragen. Pro Rubin-GPU sind dabei zwei ConnectX-9-SuperNICs vorgesehen; CoreWeave nennt dafür bis zu 1,6 Tbit/s Scale-out-Konnektivität pro GPU.
Rund 128.000 GPUs pro Rail nennt CoreWeave als architektonische Skalierungsgröße. Der gemeldete Produktionsbestand umfasst dagegen 504 Rubin-GPUs. Das sind zwei unterschiedliche Maßstäbe: geplante Netzwerkkapazität auf der einen Seite, konkret betriebene NVL72-Racks auf der anderen.
Was in einem NVIDIA Vera Rubin NVL72 steckt
NVIDIA positioniert Vera Rubin als Rechenzentrumsplattform für Training, Inferenz, Reasoning und agentische KI. Es handelt sich nicht um eine einzelne Gaming-Grafikkarte, sondern um eine Rack-Architektur, in der Rechenchips, Verbindungen, Datenverarbeitung und Kühlung zusammenarbeiten.
| Bauteil oder Kennzahl | Veröffentlichter Wert | Geltungsbereich |
| Rubin-GPUs | 72 | Pro NVIDIA Vera Rubin NVL72 |
| Vera-CPUs | 36 | Pro NVIDIA Vera Rubin NVL72 |
| HBM4-Speicher | 20,7 TB | Veröffentlichte NVL72-Rackkonfiguration |
| HBM4-Speicherbandbreite | 1.400 TB/s | Veröffentlichte NVL72-Rackkonfiguration |
| NVLink | NVLink 6 | GPU-Verbindung im NVL72 |
| NVLink-Bandbreite | 216 TB/s | Bidirektionaler veröffentlichter NVL72-Wert |
| NVLink-C2C-Bandbreite | 65 TB/s | Veröffentlichter NVL72-Wert |
| CPU-Rechenkerne | 3.168 | Benutzerdefinierte NVIDIA-Olympus-Kerne im NVL72 |
| CPU-Threads | 6.336 | Veröffentlichter NVL72-Wert |
| CPU-Speicher | Bis zu 54 TB LPDDR5X | Veröffentlichte NVL72-Konfiguration |
Zur Plattform gehören außerdem ConnectX-9-SuperNICs, BlueField-4-DPUs und die NVLink-6-Switches. NVIDIA nennt insgesamt sechs zentrale Chips oder Komponenten der Rubin-Plattform: Rubin-GPU, Vera-CPU, NVLink 6, ConnectX-9 SuperNIC, BlueField-4 DPU und Spectrum-X Ethernet CPO.
Wenn Netzwerk und Kühlung zum Rechenwerk werden
Bei verteilten KI-Workloads ist das Netzwerk nicht bloß die Leitung zwischen Servern. Daten und Zwischenergebnisse müssen zwischen vielen GPUs mit möglichst wenig Verzögerung bewegt werden. Fällt ein Netzwerkpfad aus oder wird ein Rack zu heiß, kann das einen langen Rechenlauf ausbremsen.
Vera Rubin setzt auf Flüssigkühlung. Die modulare Bauweise umfasst direkt an den Rechenkomponenten sitzende Kühlplatten und austauschbare Compute-Trays. NVIDIA erklärt, ein Tray lasse sich deutlich schneller warten als bei Blackwell; für den Austausch nennt das Unternehmen fünf Minuten statt zwei Stunden. NVIDIA behauptet außerdem, Vera Rubin erreiche gegenüber Blackwell etwa die zehnfache Performance pro Watt. Beide Angaben sind Aussagen des Unternehmens.
Rack-Betrieb ist ebenfalls Software
CoreWeave behandelt das Rack als eigene Betriebseinheit. Dafür nutzt der Anbieter Racky zur einheitlichen Rack-Verwaltung, Valvey zur programmierbaren Steuerung der Flüssigkühlung und den Rack LifeCycle Controller für Abläufe über den gesamten Lebenszyklus eines Racks.
Das ist bei mehreren NVL72-Systemen praktisch entscheidend. Ein Betreiber muss nicht nur GPUs bereitstellen, sondern auch Kühlung, Netzwerkverbindungen, Speicherpfade und Wartungszustände in denselben Ablauf einordnen. CoreWeave testet die Rubin-Systeme deshalb unter anderem, indem schnellere GPU-zu-GPU-Verbindungen deaktiviert und Daten über das Backend-Netzwerk geleitet werden. So sollen Fehler in Switches, Kabeln, Software und weiteren Netzwerkkomponenten sichtbar werden.
LOTA bringt zwischengespeicherte Daten näher an die GPU
Für die Datenversorgung nutzt CoreWeave LOTA, den Local Object Transport Accelerator. Die Komponente stellt einen rechenlokalen NVMe-Endpunkt für zwischengespeicherte Objektdaten bereit. Der Ansatz verschiebt häufig benötigte Daten näher an die GPUs, statt sie bei jedem Zugriff aus einem klassischen Objektspeicher zu lesen.
CoreWeave nennt für LOTA eine bis zu achtfach geringere Latenz gegenüber direkten Zugriffen auf herkömmlichen Objektspeicher sowie bis zu 7 GB/s pro GPU. Diese Werte gelten laut CoreWeave unter passenden Arbeitslast- und Cache-Bedingungen.
Für die standortübergreifende Datenbewegung gibt CoreWeave außerdem eine typische Dauer von bis zu 72 Stunden an. Währenddessen sollen Workloads die lokale, dauerhaft gespeicherte Kopie weiterverwenden können.
Die sieben produktiven NVL72-Racks machen damit sichtbar, worin die eigentliche Herausforderung großer KI-Systeme liegt: Die GPU ist nur ein Baustein. Erst Netzwerk, Kühlung, Rack-Verwaltung und Datenpfade entscheiden darüber, ob viele solcher Bausteine als ein zusammenhängendes Rechensystem arbeiten.
