Pour dimensionner un pool de nœuds GKE pour des agents IA, estimez combien de temps leurs sandboxes retiennent des workers, puis ajoutez la marge nécessaire pour les pics. Dans son modèle de 100 agents de programmation, Google estime que la mise en veille des sessions réduit presque de 40 % le coût des nœuds à raison de deux requêtes par heure. Cette estimation dépend du scénario retenu et de la région us-central1.
Dimensionnez le pool selon le temps pendant lequel les sandboxes mobilisent des workers, pas selon le seul nombre de sessions ouvertes.
Une session ouverte ne mobilise pas forcément un worker
Une session conserve l’échange avec l’agent entre deux requêtes ; le worker, lui, exécute le calcul pendant les phases d’activité. Dans le modèle présenté par Google, une journée de travail de huit heures et deux requêtes par heure correspondent à environ 22 % du temps consacré au travail de l’agent.
Avec Agent Substrate, l’environnement isolé d’un agent, appelé actor, peut être suspendu lorsqu’il est inactif. Le worker qui l’héberge est alors libéré et peut servir à un autre actor. La suspension ne se déclenche pas seule : le programme qui pilote l’agent, ou un service placé devant lui, doit appeler l’API après le délai d’inactivité choisi. Google décrit une suspension qui enregistre la mémoire par défaut, avec les fichiers comme solution de repli. Le guide de Google sur les sessions d’agents et les pools GKE
Réduire simplement un Pod à zéro ne préserve pas le processus ni sa mémoire : une requête suivante relance un processus. Une suspension d’actor vise au contraire à reprendre l’environnement suspendu tout en libérant le worker pendant l’attente.
Les limites des actors déterminent la capacité utile
Dans l’exemple détaillé de Google, un délai d’inactivité de deux minutes laisse les sessions retenir un worker pendant près de 29 % de leur durée d’ouverture. Le modèle dimensionne le pool de pointe selon le 99e percentile du nombre de sessions qui occupent simultanément un worker, puis ajoute 15 % de marge. Ce calcul suppose que les sessions se comportent indépendamment.
Pour Agent Substrate v1.0, la capacité d’un worker ne se déduit pas des requests Kubernetes des Pods. Le placement d’un actor dépend de ses limites de processeur et de mémoire, auxquelles s’ajoute la surcharge d’exécution ; la capacité déclarée du worker est partagée entre les actors qu’il héberge. Le guide API d’Agent Substrate v1.0 sur le dimensionnement des ressources
La distinction compte si un Pod demande peu de processeur mais peut en consommer davantage jusqu’à sa limite : la règle de placement décrite pour les actors tient compte de cette limite, et non de la seule demande du Pod. Le guide API v1.0 indique aussi que les appareils GPU ne sont pas pris en charge dans les actors. Un worker sur un nœud équipé d’un GPU ne rend donc pas ce GPU accessible à l’actor.
Ce qui se passe quand le pool manque de capacité
La mise en attente des requêtes est activée par défaut dans la documentation Agent Substrate v1.0. En cas d’échec transitoire de reprise — par exemple, si le pool manque momentanément de ressources — le routeur réessaie dans une fenêtre maximale par tentative de reprise de cinq secondes. Ce délai n’entraîne pas automatiquement une erreur au bout de cinq secondes : une réponse HTTP 503 peut survenir si le manque de capacité persiste jusqu’à l’expiration de la fenêtre.
La file d’attente accepte par défaut jusqu’à 1 024 requêtes en attente simultanément. Une requête peut également recevoir une erreur 503 si cette limite est atteinte. La documentation Agent Substrate v1.0 sur la mise en attente des requêtes
Les estimations de Google varient avec le rythme des requêtes
Les chiffres suivants proviennent du modèle de Google pour 100 agents de programmation. La comparaison utilise les tarifs à la demande de us-central1 en novembre 2026 ; elle n’établit pas le coût d’un déploiement en France.
| Requêtes par heure et par agent | Résultat estimé par le modèle de Google |
| 2 | Près de 40 % de coût de nœuds en moins avec la mise en veille |
| 4 | 4 % d’économies ; le pool détaillé atteint 27 nœuds et les agents travaillent 44 % de l’heure |
| Plus de 4 | Un Pod par session devient moins coûteux dans le modèle |
Pour le scénario à deux requêtes par heure, Google compare 34 nœuds avec un Pod de 1 vCPU et 1 Gio de mémoire par session à 16 nœuds lorsque les sessions inactives sont mises en veille. Son exemple détaillé de pool de pointe retient une autre configuration : 15 nœuds chauds et un nœud toujours actif pour le plan de contrôle Agent Substrate et PostgreSQL. Le guide estime le coût de la première configuration à environ 1 288 $ US par mois, selon les tarifs catalogue à la demande de us-central1 en novembre 2026. Google détaille les hypothèses de son modèle de coûts
Pour appliquer ces estimations à votre charge, Google recommande de mesurer pendant une semaine la fréquence des requêtes dans les journaux de la passerelle, puis de comparer l’heure la plus chargée au seuil d’environ quatre requêtes par heure. Le guide recommande aussi de ramener le pool de workers à zéro en dehors des heures d’activité ; dans son modèle, le laisser tourner les 730 heures du mois coûte presque deux fois plus que l’option d’un Pod par session.