Per dimensionare un pool GKE per agenti IA, stima quanti worker sono occupati dagli attori attivi o non ancora sospesi, invece di contare le sessioni aperte. La conversazione può restare in attesa mentre la sandbox che esegue l’agente libera le risorse: è questa separazione a determinare quanta capacità serve davvero.
Parti dai tempi di occupazione dei worker e dai limiti degli attori; usa i risparmi stimati come scenario da confrontare con il tuo carico, non come dimensionamento predefinito.
Una sessione può restare aperta mentre la sandbox è in pausa
Una sessione conserva il contesto dell’interazione tra un prompt e l’altro; la sandbox è invece l’ambiente di calcolo che esegue i processi dell’agente. Sospendere la sandbox non equivale quindi a chiudere la sessione: permette di liberare il worker mentre l’utente attende il turno successivo.
Google descrive un attore di Agent Substrate come una sandbox isolata e un worker come un Pod Kubernetes riutilizzabile, che può ospitare più attori. La sospensione va richiesta dall’harness dell’agente o da un servizio che gli fa da tramite, dopo il timeout di inattività scelto: non scatta automaticamente al primo intervallo senza prompt. Nel flusso descritto da Google, SuspendActor salva l’attore nell’object storage e libera il worker; la memoria viene acquisita per impostazione predefinita e i file fungono da ripiego.
La differenza pratica è simile a lasciare aperta una conversazione mentre si mette in pausa il computer che la sta elaborando. Se si ridimensiona a zero un Pod senza sospendere lo stato dell’attore, un volume persistente può conservare i file, ma non mantiene in esecuzione il processo né la memoria. Google descrive anche AX come un sistema con un Task, che specifica immagine, comando e limiti, e un Workspace, che definisce repository e file. Nel flusso di sospensione descritto per AX, /workspace viene conservato tramite snapshot del volume, mentre i processi dell’agente ripartono alla ripresa.
La capacità dipende dai limiti degli attori e dalle richieste in attesa
Per assegnare un attore a un worker, Agent Substrate v1.0 considera i limiti di CPU e memoria dichiarati dall’attore, aggiungendo l’overhead del runtime. La capacità residua del worker è condivisa tra gli attori che ospita: i valori di requests dei Pod non sostituiscono i limiti richiesti dalla configurazione dell’attore. La guida API di Agent Substrate v1.0 descrive la regola di posizionamento e specifica che i dispositivi GPU non sono supportati per gli attori: collocare un worker su un nodo con GPU non rende il dispositivo accessibile all’attore.
Se un attore sospeso deve ripartire ma manca capacità, la gestione delle richieste in Agent Substrate v1.0 riprova per impostazione predefinita gli errori transitori di esaurimento risorse e indisponibilità. Il budget è di 5 secondi per ogni tentativo di ripresa: è una finestra di tentativi, non un’attesa fissa seguita sempre da un errore. La documentazione sul request parking fissa inoltre a 1.024 richieste parcheggiate il limite predefinito. Può arrivare una risposta HTTP 503 se il problema di capacità persiste oltre il budget oppure se il parcheggio è pieno.
In fase di dimensionamento, quindi, valuta insieme i limiti degli attori, l’overhead e quante richieste possono restare in attesa. Il meccanismo di retry assorbe alcuni problemi transitori, ma non elimina il limite del pool né quello della coda.
Cosa stima il modello di costo di Google
Nel suo scenario per 100 agenti di coding, Google assume due prompt all’ora durante una giornata lavorativa di otto ore. Con un timeout di inattività di due minuti, il modello stima che le sessioni trattengano un worker per quasi il 29% del tempo in cui restano aperte. Per questa configurazione, Google stima un costo dei nodi inferiore di quasi il 40% parcheggiando le sessioni; a quattro prompt all’ora il risparmio scende al 4%, e oltre circa quattro prompt all’ora il modello favorisce un Pod per sessione.
Sono risultati del modello di Google, non misure universali: dipendono dal carico assunto, dalla configurazione del pool e dai prezzi considerati. Nel caso con un Pod da 1 vCPU e 1 GiB per sessione, Google calcola 34 nodi c3-standard-4 e circa 1.288 dollari USA al mese, usando i prezzi di listino on-demand di Google Cloud nella regione us-central1 a novembre 2026. In un confronto separato, il requisito passa da 34 a 16 nodi parcheggiando le sessioni; l’esempio dettagliato del pool burst usa invece 15 nodi warm e uno sempre attivo per il control plane e PostgreSQL.
La frequenza dei prompt è la variabile che orienta il confronto: Google suggerisce di ricavarla dai log del gateway raccolti in una settimana e di guardare l’ora di maggiore attività. La soglia di circa quattro prompt all’ora è un riferimento del suo scenario da 100 agenti, non una regola per qualsiasi carico. Il modello stima inoltre che lasciare acceso il pool per tutte le 730 ore del mese costi quasi il doppio rispetto all’alternativa con un Pod per sessione.