Google maakte dynamische TPU-slicing in Google Kubernetes Engine (GKE) op 9 november 2026 algemeen beschikbaar. GKE kan vooraf ingerichte TPU-pools samenvoegen tot een grotere slice of één pool opdelen in kleinere, onafhankelijke slices. Daardoor hoeft een beheerteam niet voor elke workloadtopologie een aparte pool in te richten. Google Cloud

Twee manieren om TPU-capaciteit in te delen

Bij super-slicing verbindt GKE meerdere vooraf ingerichte pools tot één grotere slice. De netwerkfabric met optische circuitschakelaars (optical circuit switching, OCS) breidt daarbij de verbinding tussen TPU-chips uit. Google beschrijft deze modus voor topologieën vanaf 4×4×4.

Bij sub-slicing verdeelt GKE één pool in kleinere, zelfstandige slices. Voor Ironwood (TPU7x) noemt Google de topologieën 2×2×1, 2×2×2, 2×2×4 en 2×4×4. De fysieke TPU-capaciteit staat dus vooraf klaar; GKE vormt de gevraagde logische indeling wanneer een workload wordt ingepland. De GKE-documentatie over dynamic slicing

De beschreven Ironwood-pool bestaat uit een groep van 16 nodes met een 4×4×4-topologie, die Google een sub-block noemt. Super-slicing kan zulke pools combineren; sub-slicing maakt er kleinere slices van. Google beschrijft de pool- en slicetopologieën

Hardware- en GKE-vereisten

De concreet beschreven configuratie gebruikt Ironwood (TPU7x), een Standard-cluster op het Rapid-releasekanaal, Container-Optimized OS en TPU-reserveringen in de modus All Capacity. De minimale GKE-versie hangt af van de gekozen modus:

ModusMinimale GKE-versie op Rapid
Super-slicing1.35.2-gke.1842000 of hoger
Sub-slicing1.36.0-gke.3712000 of hoger

De versiegrens is niet hetzelfde voor beide werkwijzen. Een team dat kleinere slices uit één pool wil maken, moet dus de hogere vermelde GKE-versie voor sub-slicing aanhouden. Google zet de vereisten per modus uiteen

Controleer eerst de TPU-generatie, het Rapid-cluster en de GKE-versie; pas daarna heeft het zin de scheduler voor de gewenste slice in te richten.

Controller en scheduler inrichten

De GKE slice controller beheert de levenscyclus van een Slice-resource: aanmaken, bewaken en verwijderen. Die resource stelt de logische TPU-slice voor en zet de configuratie van de verbindingen tussen chips in gang.

De installatiehandleiding beschrijft deze volgorde: schakel de slice controller in, richt de TPU-nodepools in en configureer vervolgens de workloadplanning. Een route is Kueue met Topology Aware Scheduling (TAS), dat automatisch Slice-resources kan aanmaken. Een eigen scheduler kan die resources ook beheren. De officiële installatiehandleiding voor dynamic slicing en de conceptdocumentatie beschrijven deze opties.

Voor de schedulercomponenten verschillen de genoemde versies eveneens per modus. De installatiehandleiding noemt Kueue 0.16.6 of hoger en JobSet 0.11.1 of hoger voor super-slicing; voor sub-slicing zijn dat Kueue 0.18.2 of hoger en JobSet 0.12.0 of hoger. JobSet is nodig voor workloads met meerdere slices. LeaderWorkerSet is volgens de handleiding alleen vereist voor sub-slicing. De GKE-installatiehandleiding

Google rapporteert snellere start en herstel

Google rapporteerde dat workloads tot 5× sneller kunnen starten en herstel tot 4,5× sneller kan verlopen dan met statische nodepools. Voor super-slicing meldde Google daarnaast dat een ongezonde TPU-cube binnen één tot twee minuten kan worden vervangen. Deze cijfers beschrijven Googles vergelijking met statische poolinrichting en -recreatie. Google Cloud