Google Cloud a annoncé le 9 novembre 2026 la disponibilité générale du découpage dynamique des TPU dans Google Kubernetes Engine (GKE). La fonction permet à GKE de réunir des pools TPU préprovisionnés pour former une grande tranche de calcul, ou de diviser un pool en tranches plus petites au moment de planifier une charge de travail. Les exigences détaillées publiées par Google précisent le matériel, la configuration du cluster et les versions logicielles à prévoir. Google Cloud Documentation GKE sur le découpage dynamique

Pour évaluer un déploiement, vérifiez d’abord le mode visé : les versions minimales de GKE et certaines dépendances de planification ne sont pas les mêmes.

Deux façons de composer les tranches TPU

Le super-slicing réunit plusieurs pools préprovisionnés afin de former une tranche plus grande. Pour les topologies égales ou supérieures à 4×4×4, GKE s’appuie sur le réseau à commutation optique (OCS) pour étendre l’interconnexion entre les puces, appelée ICI.

Le sub-slicing, ou découpage en sous-tranches, partitionne un seul pool en tranches plus petites et indépendantes. Pour Ironwood, Google décrit un pool sous la forme d’un groupe de 16 nœuds associé à une topologie 4×4×4, appelé « sous-bloc ». Les topologies de sous-tranche indiquées sont 2×2×1, 2×2×2, 2×2×4 et 2×4×4. Documentation GKE sur les topologies

Dans un pool TPU statique, la topologie est définie lors de sa création. Le découpage dynamique permet à GKE d’assembler la topologie demandée par une charge de travail à partir des pools déjà provisionnés, au moment de sa planification. Cela évite le cycle de suppression et de recréation des pools que Google décrit lorsque les besoins de topologie changent.

Matériel et versions minimales de GKE

Les exigences détaillées de Google portent sur Ironwood (TPU7x), un cluster GKE Standard sur le canal Rapid, des nœuds utilisant Container-Optimized OS et des réservations TPU en mode All Capacity. Les versions minimales de GKE dépendent du mode :

ModeVersion minimale de GKE sur le canal Rapid
Super-slicing1.35.2-gke.1842000 ou ultérieure
Sub-slicing1.36.0-gke.3712000 ou ultérieure

Ces prérequis aident à déterminer si une configuration correspond au déploiement décrit par Google avant de préparer l’ordonnancement des charges. Prérequis du découpage dynamique dans GKE

Préparer le cluster et planifier les charges

La configuration commence par l’activation du contrôleur de tranches de GKE et la préparation des pools TPU. Une équipe peut ensuite utiliser Kueue avec Topology Aware Scheduling (TAS) pour créer automatiquement les ressources personnalisées Slice, que GKE gère pendant leur cycle de vie, ou confier cette gestion à un ordonnanceur personnalisé. Guide de configuration de GKE

Le guide de Google précise aussi des dépendances qui varient selon le mode :

  • Pour le sub-slicing : Kueue v0.18.2 ou ultérieure et JobSet v0.12.0 ou ultérieure. LeaderWorkerSet est également requis.
  • Pour le super-slicing : Kueue v0.16.6 ou ultérieure et JobSet v0.11.1 ou ultérieure.

Le contrôleur de tranches crée et surveille les ressources Slice, puis gère leur suppression et la transmission des informations de santé aux étiquettes des nœuds. Une autre option consiste à gérer directement ces ressources avec un ordonnanceur personnalisé. Guide de configuration de GKE Concepts du découpage dynamique

Les gains de performance annoncés par Google

Google annonce un démarrage des charges de travail jusqu’à cinq fois plus rapide et une reprise jusqu’à 4,5 fois plus rapide par rapport aux méthodes utilisant des pools statiques, notamment leur création ou leur recréation. Pour le super-slicing, Google indique aussi qu’un cube défaillant peut être remplacé en une à deux minutes. Ces chiffres sont des comparaisons avancées par Google pour GKE dynamic slicing. Annonce de Google Cloud