Pulę węzłów GKE dla agentów AI warto dobierać do liczby workerów zajętych przez aktywne lub jeszcze niezaparkowane sandboxy, a nie do samej liczby otwartych sesji. W modelu Google parkowanie bezczynnych sesji obniża koszt węzłów o niemal 40% przy dwóch promptach na godzinę, ale ten wynik dotyczy konkretnego scenariusza 100 agentów. O tym, jak przełożyć go na własne obciążenie, decydują też czas bezczynności przed zawieszeniem aktora i limity jego zasobów. Google opisuje model dla GKE, a dokumentacja Agent Substrate 1.0 precyzuje zasady wznawiania i przydziału pojemności.

Przy skalowaniu licz czas zajęcia workera, nie liczbę sesji widocznych dla użytkowników.

Dlaczego otwarta sesja nie oznacza stale zajętego workera

Sesja agenta może trwać między promptami, choć sandbox wykonuje pracę tylko po otrzymaniu zadania. Agent Substrate nazywa izolowane środowisko jednego agenta aktorem, a workerem — wielokrotnego użytku Pod Kubernetes, który może obsługiwać kilku aktorów. Zawieszenie bezczynnego aktora zwalnia workera, podczas gdy sesja może pozostać otwarta. Google wyjaśnia ten podział.

Samo parkowanie nie włącza się automatycznie po bezczynności: uprząż agenta albo usługa pośrednicząca musi wywołać API zawieszania po wybranym czasie oczekiwania. W opisie Google SuspendActor zapisuje stan aktora w magazynie obiektowym i zwalnia workera; pamięć jest przechwytywana domyślnie, a pliki stanowią rozwiązanie zapasowe.

Warto odróżnić taki aktor od modelu, w którym Pod skaluje się do zera, a po kolejnym prompcie uruchamia nowy proces agenta. Według opisu Google dla AX zawieszenie zachowuje /workspace przez migawkę woluminu, ale procesy agenta po wznowieniu startują od nowa. Dokumentacja uruchamiania AX opisuje ten sposób pracy.

Jak limity aktorów wpływają na pojemność puli

W Agent Substrate 1.0 aktor potrzebuje określonych limitów CPU i pamięci. Scheduler umieszcza go na workerze tylko wtedy, gdy pozostała pojemność pokrywa te limity oraz narzut środowiska uruchomieniowego. Pojemność workera jest współdzielona przez przypisanych do niego aktorów; do obliczeń nie służy żądanie zasobów Poda (requests). Przewodnik API Agent Substrate 1.0 opisuje tę regułę rozmieszczania.

To ważne przy upakowywaniu wielu aktorów na jednym workerze: deklarowane limity, a nie same żądania Poda, wyznaczają wymagane miejsce według tej dokumentacji. Ten sam przewodnik podaje też, że aktorzy nie obsługują urządzeń GPU. Worker z zasobem GPU nie przekazuje więc takiego urządzenia do działającego na nim aktora.

Co dzieje się, gdy brakuje miejsca na wznowienie

Agent Substrate 1.0 domyślnie włącza parkowanie żądań i ponawia wznowienie po przejściowych błędach braku zasobów lub niedostępności. Budżet wynosi domyślnie 5 sekund na pojedynczą próbę wznowienia. To limit na ponawianie, a nie gwarancja, że aktor zawsze wznowi pracę w tym czasie.

Domyślna kolejka parkowania mieści do 1 024 równoczesnych żądań. Jeśli pojemność nadal jest niedostępna po wyczerpaniu budżetu albo kolejka jest pełna, system może zwrócić HTTP 503. Dokumentacja parkowania żądań opisuje zarówno ponawianie, jak i te warunki błędu. Przy planowaniu puli uwzględnij więc nie tylko liczbę workerów, lecz także to, ile równoczesnych wznowień może trafić do kolejki.

Co pokazuje model kosztów Google

Szacunki Google dotyczą 100 agentów kodujących, dwóch promptów na godzinę w ośmiogodzinnym dniu pracy oraz cen na żądanie w regionie us-central1 z listopada 2026 roku. Przy dwuminutowym limicie bezczynności sesje zajmują worker przez niemal 29% czasu, w którym pozostają otwarte. W przykładzie wielkość puli opiera się na 99. percentylu liczby jednocześnie zajętych workerów, z dodatkowym 15% zapasem, przy założeniu niezależności sesji.

Prompty na godzinęWynik modelu Google dla 100 agentów
2Niemal 40% niższy koszt węzłów przy parkowaniu sesji
44% oszczędności; pula rośnie do 27 węzłów, a agenci pracują przez 44% godziny
Powyżej około 4Model wskazuje, że tańszy staje się jeden Pod na sesję

Google porównuje też wymaganie 34 węzłów dla osobnego Poda na sesję z 16 węzłami w wariancie parkowania. W bardziej szczegółowym przykładzie drugą konfigurację rozpisuje jako 15 ciepłych węzłów oraz jeden stale działający węzeł dla płaszczyzny sterowania Agent Substrate i PostgreSQL. Przy 2,5 promptu na godzinę ta sama pula 15 ciepłych węzłów jest zajęta przy 3% tur. To wyniki modelu Google, nie pomiary wdrożenia klienta. Opis założeń i wyników modelu wiąże je z konkretnym obciążeniem i regionem.

Aby odnieść te liczby do własnej infrastruktury, Google zaleca mierzyć częstotliwość promptów w logach bramy przez tydzień i porównać najbardziej obciążoną godzinę z progiem modelu. Warto osobno policzyć, jak często aktorzy są wznawiani po parkowaniu oraz czy przewidziany zapas wystarcza na równoczesne żądania.