NVIDIA-Netzwerkchef Gilad Shainer ordnet die Netzwerke für KI-Fabriken fünf funktionalen Rollen zu: Sie verbinden GPUs innerhalb eines Racks, Racks untereinander und getrennte Rechenzentren. Hinzu kommen ein Speichernetz für Inferenz sowie sicherer Zugang für Nutzer und Agenten. Linda Hardesty berichtete am 14. Oktober 2026 für Fierce Network über Shainers Erklärung beim OCP Global Summit.
Eine KI-Fabrik ist speziell ausgelegte Infrastruktur, die den KI-Lebenszyklus von der Datenaufnahme über Training und Feinabstimmung bis zur Inferenz abdeckt, wie NVIDIA den Begriff beschreibt (NVIDIA-Glossar). Die fünf Netzwerkrollen betreffen unterschiedliche Teile dieser Infrastruktur:
Fünf Netzwerkrollen in einer KI-Fabrik
| Netzwerkrolle | Aufgabe oder Verbindung | Beispiel und Bedeutung |
| scale-up | Verbindet GPUs innerhalb eines Rack-Systems. | Im Beispiel Vera Rubin NVL72 übernimmt NVLink die Verbindung. Das System umfasst laut Fierce Network 72 Rubin-GPUs und 36 Vera-CPUs. |
| scale-out | Verbindet Racks, damit größere Rechenaufgaben auf mehr Systeme verteilt werden können. | Shainer beschrieb Trainingsaufgaben mit Hunderttausenden GPUs. Diese Zahl bezeichnet eine mögliche Größenordnung, keine feste Konfiguration. |
| scale-across | Verbindet getrennte Rechenzentren über größere Entfernungen. | Shainer nannte unzureichende Stromversorgung an einem einzelnen Standort als einen möglichen Anlass, Standorte gemeinsam zu nutzen. |
| context-scale | Stellt ein separates Speichernetz für Inferenz bereit. | Die Rolle betrifft den Zugriff auf Speicher während der Inferenz. |
| scale-in | Unterstützt den sicheren Zugang von Nutzern zur KI-Fabrik und die Sicherheit der darin laufenden Agenten. | Die Rolle umfasst sowohl Nutzerzugang als auch die Agenten innerhalb der Infrastruktur. |
Die Namen beschreiben also nicht fünf Varianten derselben Verbindung. Sie unterscheiden Verbindungen innerhalb eines Systems, zwischen Racks und zwischen Rechenzentren von Speicherzugriff und sicherem Zugang.
Warum verteilte GPUs synchron arbeiten müssen
Bei einer verteilten Rechenaufgabe bearbeiten GPUs Teilaufgaben. Bevor die nächste Phase beginnt, müssen die erforderlichen Ergebnisse zusammengeführt werden. Treffen Daten zu unterschiedlichen Zeitpunkten ein, kann der Verbund auf noch ausstehende Ergebnisse warten. Shainer erklärte diesen Zusammenhang in seinem Interview bei Fierce Network: Netzwerke gehören damit zum Ablauf der Berechnung und sind nicht bloß eine Verbindung zwischen Geräten.
Die englischsprachige Präsentation von NVIDIA-Netzwerkchef Gilad Shainer bei NextGenInfra zeigt Folien zu scale-up, scale-out und scale-across und erläutert die koordinierte Arbeit großer GPU-Cluster.
Kupfer für kurze, Glasfaser für längere Verbindungen
Shainer beschrieb Kupfer als kostengünstige, zuverlässige und stromsparende Option für kurze Verbindungen, auch innerhalb und zwischen Racks. Für längere Distanzen komme Glasfaser zum Einsatz. Die Einteilung bleibt qualitativ: Sie legt keine konkreten Entfernungsgrenzen fest.
Das Rollenmodell ist keine Einkaufsliste
Cisco beschreibt seine Secure AI Factory mit Rechenzentrumsswitches auf Basis von Cisco Silicon One oder NVIDIA Spectrum-X sowie separaten Komponenten für Sicherheit, Observability, Software und Speicher (Cisco Secure AI Factory). Das Beispiel unterscheidet eine funktionale Architekturkarte von einem konkreten Anbieterangebot: Die fünf Rollen legen für sich genommen keinen einheitlichen Komplett-Stack fest.
