Para dimensionar pools de nós do GKE para agentes de IA, estime quantos workers ficam ocupados por sandboxes ativos ou ainda não suspensos. Uma sessão pode continuar aberta entre prompts sem manter seu ambiente de computação em execução o tempo todo; planejar pela contagem de sessões, por si só, pode superestimar ou subestimar a capacidade necessária.

Dimensione pelo tempo em que os sandboxes seguram workers e pelo pico de retomadas, não só pelo total de sessões abertas.

Por que contar sessões abertas não basta

Uma sessão conserva a interação com o agente; o sandbox é o ambiente que executa seus processos. Se o usuário passa um intervalo entre prompts, a conversa pode continuar enquanto o processamento fica ocioso. O que importa para o pool é quanto tempo cada sandbox mantém um worker ocupado e quantas retomadas coincidem.

Google atribui a um estudo de rastros de agentes de julho de 2026 a estimativa de que, numa sessão típica com vários prompts, o usuário espera cerca de 80% do tempo e o agente trabalha em média 6,5 minutos por turno. Em seu exemplo de dimensionamento, Google considera 100 agentes de programação, dois prompts por hora durante uma jornada de oito horas e uma fração de trabalho de cerca de 22% do dia. Esses números descrevem contextos distintos: o estudo é resumido por Google, enquanto a jornada é uma premissa do modelo de custos.

No Agent Substrate, o ator é o sandbox isolado de um agente e o worker é um Pod Kubernetes aquecido que pode receber vários atores. Ao suspender um ator ocioso, SuspendActor salva seu estado em armazenamento de objetos e libera o worker; a descrição de Google diz que a memória é capturada por padrão, com os arquivos como alternativa. A suspensão não ocorre automaticamente: o harness do agente ou um serviço à frente dele precisa chamar a API depois do tempo ocioso escolhido.

Na descrição do fluxo do AX, a suspensão preserva /workspace por meio de um snapshot de volume, mas os processos do agente começam de novo na retomada. A documentação do runner do AX descreve esse comportamento.

O que acontece quando um ator não encontra worker

No Agent Substrate v1.0, o estacionamento de solicitações vem ativado por padrão. Quando uma retomada encontra uma falha transitória de falta de recursos ou de indisponibilidade do plano de controle, o sistema tenta novamente dentro de um orçamento padrão de cinco segundos por operação de retomada. Esse orçamento limita as tentativas; não significa uma espera fixa seguida de falha.

O limite padrão do estacionamento é de 1.024 solicitações simultâneas. Um erro HTTP 503 ainda pode ocorrer se a capacidade continuar indisponível até o fim do orçamento ou se a fila atingir o limite. A documentação de request parking do Agent Substrate v1.0 especifica esses limites e as condições de erro. Na prática, o dimensionamento precisa considerar tanto os workers ocupados quanto os picos de retomadas que chegam juntos.

Como os limites dos atores afetam o pool

O Agent Substrate posiciona um ator quando a capacidade restante do worker cobre os limites de CPU e memória declarados pelo ator, mais o overhead do runtime. Essa capacidade é compartilhada pelos atores no mesmo worker. Por isso, os limites do ator não equivalem aos requests de um Pod Kubernetes: a documentação da API do Agent Substrate não define o dimensionamento dos atores por um campo de requests.

A mesma documentação v1.0 informa que dispositivos GPU estão temporariamente sem suporte para atores. Reservar um recurso de GPU no worker não disponibiliza o dispositivo dentro do sandbox. O guia da API do Agent Substrate detalha a regra de posicionamento e a limitação de GPU.

O que o modelo de custos do Google estima

No cenário de 100 agentes, Google estima que um Pod de 1 vCPU e 1 GiB por sessão exige 34 nós c3-standard-4. O cálculo atribui a essa configuração cerca de US$ 1.288 por mês, com preços de lista sob demanda do Google Cloud em us-central1 em novembro de 2026.

Em outra comparação para a mesma frota, o modelo estima que estacionar sessões ociosas reduz a necessidade de 34 para 16 nós. Um exemplo detalhado separa 15 nós aquecidos para os picos e um nó sempre ligado para o plano de controle do Agent Substrate e o PostgreSQL. São configurações diferentes do modelo, não uma receita universal para qualquer cluster.

Com um tempo ocioso de dois minutos, Google estima que cada sessão mantém um worker ocupado durante quase 29% do período em que fica aberta. Para dimensionar o pool de rajada, o modelo usa o percentil 99 das sessões que seguram workers ao mesmo tempo, acrescenta 15% de folga e pressupõe que o comportamento das sessões seja independente.

A frequência de prompts muda o resultado. Para duas solicitações por hora, o modelo estima uma redução de quase 40% no custo dos nós ao estacionar sessões. Com quatro prompts por hora, a economia estimada cai para 4%; acima de cerca de quatro, o modelo favorece um Pod por sessão. No pool de 15 nós, Google estima saturação em 3% dos turnos a 2,5 prompts por hora. Esses resultados pertencem ao modelo de custos de Google e às premissas desse cenário.

Para aproximar o dimensionamento da própria carga, Google recomenda medir a frequência de prompts durante uma semana de registros do gateway e comparar a hora mais movimentada com o ponto de equilíbrio estimado. O guia também recomenda programar o pool para chegar a zero fora do horário de uso; no modelo, mantê-lo ativo durante as 730 horas do mês custa quase o dobro da configuração de um Pod por sessão.