Google kündigte Cloud Pathways am 9. November 2026 als allgemein verfügbar auf Google Kubernetes Engine (GKE) an. Die Integration für Slurm-TPU-Cluster über Cluster Director stellte das Unternehmen separat als Preview vor. Googles Ankündigung

Für Teams, die den Runtime auf GKE einsetzen wollen, ist vor allem das Steuerungsmodell entscheidend: Ein JAX-Client koordiniert damit Arbeit über mehrere TPU-Slices. Googles Anleitung für den GKE-Aufbau nennt außerdem die benötigten Werkzeuge, den erforderlichen TPU-Zugang und die Kostenpflicht der bereitgestellten Ressourcen.

Ein JAX-Client steuert mehrere TPU-Slices

Cloud Pathways stellt JAX eine gemeinsame Sicht auf Geräte in mehreren TPU-Slices bereit. Beim Standardmodell mit mehreren Controllern laufen dagegen mehrere Prozesse mit jeweils eigenem Python-Interpreter; jeder Prozess sieht die lokal verbundenen Geräte. Googles technische Dokumentation beschreibt die Unterschiede so:

AspektStandard-JAX mit mehreren ControllernCloud Pathways mit einem Controller
SteuerungMehrere Prozesse koordinieren die Arbeit.Ein JAX-Client steuert die Arbeit über mehrere TPU-Slices.
Sicht auf GeräteJeder Prozess sieht die lokal verbundenen Geräte.Der JAX-Client erhält eine gemeinsame Sicht auf die Geräte über die TPU-Slices hinweg.
ProgrammiermusterVorwiegend SPMD: Die Geräte führen dasselbe Programm aus.Unterstützt auch Muster jenseits von SPMD, darunter asymmetrische Pipeline-Parallelität und Rechensparsität.

Der Unterschied wird relevant, wenn ein Workload Geräte über mehrere Slices hinweg koordinieren muss: Statt die Geräte jeweils aus getrennten Prozessen zu verwalten, kann das Team sie über einen JAX-Client ansprechen. Das gemeinsame Gerätemodell erweitert auch die möglichen Programmiermuster über SPMD hinaus.

Google nennt außerdem interaktive Workloads, gemeinsam genutzte TPU-Kapazität, Python-Sidecars nahe den TPUs und einen persistenten Cloud-Storage-Cache für Kompilierungen als Funktionen von Cloud Pathways. Für elastisches Training beschreibt Google, wie Host-Speicher-Snapshots nach einem Hardwareausfall eine Neuverteilung auf N−1 TPU-Slices ermöglichen sollen, ohne den Client abstürzen zu lassen. Das sind von Google beschriebene Funktionen. Die angekündigten versionierten Container-Images unterstützen JAX 0.10.1 und neuer.

Die GKE-Ankündigung bezog sich auf Google-Cloud-Regionen, die Cloud TPU v5e, TPU v5p, Trillium (TPU v6e) und Ironwood (TPU 7x) auf GKE unterstützen. Das Unternehmen kündigte die Cluster-Director-Integration für Slurm-TPU-Cluster als separate Preview an.

Was der GKE-Aufbau voraussetzt

Für die von Google beschriebene Einrichtung braucht ein Team die gcloud-Befehlszeile, kubectl, das gke-gcloud-auth-plugin, Zugriff auf die Kubernetes-Engine-API und genügend TPU-Kontingent oder eine TPU-Reservierung. Googles Bereitstellungsanleitung beschreibt außerdem ein Beispiel mit CPU- und TPU-Knotenpools, der JobSet-API sowie Cloud Storage für temporäre Dateien und den Kompilierungscache.

Für die in der Anleitung gezeigte Konfiguration mit Knotenmetadaten muss das Dienstkonto der Knoten die Rolle roles/storage.objectAdmin für den verwendeten Bucket erhalten. Das ist eine Vorgabe für diese Konfiguration; die Anleitung nennt die Werte ihrer Beispielbereitstellung nicht als allgemeingültige Mindestanforderungen.

Google weist darauf hin, dass das Einrichten des Beispiels abrechenbare GKE-, TPU- und CPU-Ressourcen erzeugt. Die Anleitung empfiehlt, den Cluster nach dem Einsatz zu löschen, damit diese Ressourcen keine weiteren Kosten verursachen.

Vor dem Start TPU-Kontingent oder Reservierung klären und den Beispielcluster nach dem Einsatz löschen, damit bereitgestellte Ressourcen nicht weiter Kosten verursachen.