NVIDIA kündigte am 13. Oktober 2026 an, die vollständige Run:ai-Plattform als Open-Source-Software freizugeben – einschließlich Control Plane und Cluster-Diensten. Das selbst gehostete Community Product setzt kein kostenpflichtiges Run:ai-Abonnement oder Support-Entitlement voraus; NVIDIA Enterprise Support ist jedoch nicht enthalten. NVIDIAs Ankündigung
Run:ai organisiert KI-Workloads und GPU-Ressourcen auf Kubernetes. Die vollständige Plattform besteht aus einer zentralen Steuerungsebene und Diensten für die Cluster. Daneben können Teams vier einzelne Komponenten je nach Aufgabe auch separat einsetzen.
Was die Open-Source-Freigabe umfasst
Das offizielle Run:ai-Repository nennt die Apache License 2.0 für den Softwarecode. Für bestimmte enthaltene Drittanbieter-Codes und -Assets führt es gesonderte Lizenzen auf.
Für den Download des Community Product über NVIDIA NGC müssen Nutzer die jeweils geltenden NVIDIA-Software- und produktspezifischen Bedingungen akzeptieren. Die Open-Source-Images und Helm-Charts sind laut NVIDIAs Installationsdokumentation ohne NGC-API-Schlüssel zugänglich. Beim Support-Entitled Release ist ein solcher Schlüssel erforderlich.
Welche Aufgaben die vier Komponenten übernehmen
NVIDIA beschreibt die vier Module als eigenständig einsetzbare Bausteine. Sie adressieren unterschiedliche Ebenen der GPU-Verwaltung und sind keine austauschbaren Scheduler. Die Ankündigung nennt für sie folgende Funktionen und Abgrenzungen:
| Komponente | Aufgabe | Abgrenzung oder Zusammenspiel |
| KAI Scheduler | Platziert GPU-Workloads; unterstützt unter anderem Gang Scheduling, Fair-Share und Quoten, topology-aware placement, GPU-Sharing und Dynamic Resource Allocation. | Kann in einem bestehenden Cluster auch ohne die vollständige Run:ai-Plattform eingesetzt werden. |
| GPU Fractioning Operator | Bindet CUDA-native GPU-Anteile in Kubernetes ein und stellt Metriken pro Pod bereit. | Der CUDA-Treiber setzt für den Anteil jedes Workloads eine Speichergrenze durch; der Operator ist schedulerunabhängig. |
| KAI Resource Management | Organisiert Projekte und Abteilungen und verwaltet Zuteilungen mit Garantien, Sharing, Fair-Share, Quoten und Node Pools. | Kann mit KAI Scheduler kombiniert werden. |
| Workload Map | Stellt als Go-Bibliothek eine gemeinsame Beschreibung für unterschiedliche Kubernetes-Workloadtypen bereit und unterstützt unter anderem Erkennung, Status, Zustandsüberwachung und Richtlinienintegration. | Funktioniert auch offline, plant oder reiht Workloads aber nicht selbst ein, skaliert sie nicht automatisch und verteilt sie nicht über Cluster hinweg. |
Für ein bestehendes Cluster kann KAI Scheduler die passende Komponente sein, wenn GPU-Workloads geplant und Ressourcen verteilt werden sollen. GPU Fractioning Operator setzt dagegen bei der Aufteilung von GPU-Ressourcen an; KAI Resource Management organisiert deren Zuteilung über Teams oder Projekte hinweg. Workload Map dient der einheitlichen Beschreibung von Workloads – nicht ihrer Ausführung oder Planung.
So ist eine selbst gehostete Installation aufgebaut
Jede Run:ai-Installation umfasst eine Control Plane und mindestens einen Run:ai-Cluster. Die Control Plane bündelt Ressourcenverwaltung, Workload-Einreichung, Überwachung und Analysen; die Cluster-Dienste erweitern die Planung und Verwaltung der Workloads. NVIDIA beschreibt beide Komponenten in der Installationsdokumentation als Teil der Plattform.
Beide können auf demselben Kubernetes-Cluster laufen. Alternativ lässt sich die Control Plane auf einem eigenen Cluster betreiben und mit einem oder mehreren Run:ai-Clustern verbinden; dafür ist eine Netzwerkverbindung zwischen ihnen nötig.
NVIDIA beschreibt Installationen auf Kubernetes oder OpenShift, sowohl in verbundenen als auch in air-gapped Umgebungen. Als Installationswege nennt das Unternehmen Guided Installation, Manual Helm und Base Command Manager; Letzterer ist für das Support-Entitled Release vorgesehen.
Was Betreiber selbst bereitstellen
Die Open-Source-Software ist kein gehosteter Dienst: Betreiber stellen die zugrunde liegende Hardware, das Betriebssystem, die Kubernetes-Distribution, das Netzwerk und den Speicher bereit und betreiben diese Infrastruktur. NVIDIA nennt außerdem GPU Operator und Prometheus als Voraussetzungen.
Wer NVIDIA Enterprise Support mit Service-Level-Agreements und weiteren Leistungsansprüchen benötigt, kann das Support-Entitled Release nutzen. Es basiert laut NVIDIA auf derselben Plattform; die Support- und Zugangsbedingungen unterscheiden sich vom Community Product.
