Google kondigde op 9 november 2026 aan dat Cloud Pathways algemeen beschikbaar was op Google Kubernetes Engine (GKE). De integratie met Slurm-TPU-clusters via Cluster Director kondigde Google afzonderlijk aan als Preview. Voor teams die de GKE-configuratie willen opzetten, noemt de implementatiehandleiding van Google concrete vereisten, waaronder voldoende TPU-quota of een reservering.

Eén JAX-client voor meerdere TPU-slices

Cloud Pathways is een runtime voor machinelearningwerklasten op grote TPU-clusters. Eén JAX-client kan er werk mee aansturen over meerdere TPU-slices, die voor de client als één geheel zichtbaar zijn. De runtime bouwt op IFRT, de open-source Interim Framework Runtime. Google beschrijft dit model in zijn technische documentatie.

Bij de standaard multi-controlleraanpak van JAX draait op elke host een afzonderlijk Python-proces, dat de lokaal aangesloten apparaten ziet. Cloud Pathways centraliseert de aansturing bij één client. Dat is vooral relevant voor workloads die over meerdere slices verdeeld zijn; het verandert hoe de apparaten worden aangestuurd, niet de TPU-hardware zelf.

KenmerkStandaard multi-controller-JAXCloud Pathways met één controller
AansturingMeerdere processen, elk met een eigen Python-interpreterEén JAX-client coördineert het werk
Zicht op apparatenElk proces ziet de lokaal aangesloten apparatenDe client krijgt een gezamenlijk overzicht van apparaten over TPU-slices
ProgrammeermodelVooral SPMD: apparaten voeren hetzelfde programma uitOndersteunt ook onder meer asymmetrische pipeline-parallelisatie en computationele sparsity

Google noemt daarnaast interactieve workloads, Python-sidecars naast de TPU-hosts, een blijvende compilatiecache in Cloud Storage en asynchrone XLA HLO-dispatch als mogelijkheden. Voor elastische training beschrijft Google het gebruik van snapshots in hostgeheugen om een workload na een hardwarestoring opnieuw over één slice minder te verdelen, zonder de client te laten crashen.

De aankondiging noemt GKE-regio’s die Cloud TPU v5e, TPU v5p, Trillium (TPU v6e) en Ironwood (TPU 7x) ondersteunen. De aangekondigde versiegebonden containerimages ondersteunen volgens Google JAX 0.10.1 en hoger. Google meldde ook dat Pathways op GKE in de 90 dagen vóór de aankondiging meer dan 130 miljoen Cloud TPU-chipuren verwerkte.

Controleer vóór de installatie of je voldoende TPU-quota hebt of een reservering kunt gebruiken. Verwijder het cluster na afloop om doorlopende kosten voor de aangemaakte resources te voorkomen.

Wat de GKE-configuratie vereist

Voor de beschreven installatie noemt Google de gcloud CLI, kubectl, de gke-gcloud-auth-plugin, toegang tot de Kubernetes Engine API en voldoende TPU-quota of een TPU-reservering. De voorbeeldconfiguratie maakt CPU- en TPU-nodepools aan en gebruikt JobSet voor het indienen van workloads.

De handleiding gebruikt Cloud Storage voor tijdelijke bestanden en de cache met gecompileerde code. Bij de beschreven configuratie met node-metadata moet het serviceaccount van de nodes de rol roles/storage.objectAdmin op de bucket krijgen. Dat is een vereiste voor die configuratie, geen algemene minimale instelling voor elke mogelijke implementatie.

De voorbeeldstappen maken factureerbare GKE-, CPU- en TPU-resources aan. Google adviseert het cluster te verwijderen wanneer je klaar bent, zodat de resources geen doorlopende kosten blijven veroorzaken.