GKE-Node-Pools für KI-Agenten sollten nach der Kapazität bemessen werden, die aktive oder noch nicht angehaltene Sandboxes belegen – nicht nach der Zahl offener Sitzungen. Eine Sitzung kann zwischen Prompts bestehen bleiben, während ihr Rechenprozess pausiert. Wie viele Worker dafür nötig sind, hängt deshalb vom Prompt-Takt, der gewählten Leerlaufzeit und den Ressourcenlimits der Actors ab.
Für die Poolgröße zählt, wie lange ein Actor einen Worker belegt – nicht, wie lange die Unterhaltung offen bleibt.
Warum eine offene Sitzung keinen dauerhaft belegten Worker braucht
Eine Agenten-Sitzung umfasst den fortlaufenden Dialog und den Arbeitskontext. Die Sandbox ist dagegen die isolierte Rechenumgebung, in der der Agent seine Prozesse ausführt. Werden Sitzungen zwischen Nutzeranfragen angehalten, kann der Worker wiederverwendet werden, obwohl die Unterhaltung offen bleibt.
Google beschreibt in seinem am 16. November 2026 veröffentlichten Leitfaden zur Dimensionierung von GKE-Node-Pools diesen Unterschied anhand persistenter Agenten-Sitzungen. Im dortigen Rechenbeispiel kommen zwei Prompts pro Stunde während eines achtstündigen Arbeitstags vor. Google setzt dafür im Modell eine Arbeitszeit von rund 22 Prozent an; die übrige Zeit entfällt auf das Warten zwischen den Arbeitsphasen.
Was beim Anhalten eines Actors erhalten bleibt
Bei Agent Substrate ist ein Actor die isolierte Sandbox eines Agenten. Ein Worker ist ein wiederverwendbarer Kubernetes-Pod, der einen oder mehrere Actors beherbergen kann. SuspendActor legt laut Google einen Snapshot eines untätigen Actors im Objektspeicher ab und gibt dessen Worker frei. Der Leitfaden beschreibt, dass der Speicher standardmäßig erfasst wird und Dateien als Rückfalloption dienen.
Das Anhalten geschieht nicht automatisch, sobald ein Actor untätig wird: Das Agenten-Harness oder ein vorgeschalteter Dienst muss nach dem gewählten Leerlaufintervall die Suspend-API aufrufen. Die Sitzungsdauer allein bestimmt daher nicht, wie lange ein Worker gebunden bleibt.
Google beschreibt daneben AX mit einer Trennung zwischen Task und Workspace: Der Task legt unter anderem Image, Befehl und Ressourcenlimits fest; der Workspace enthält Repositories und Dateien. Beim beschriebenen ax suspend bleibt /workspace über einen Volume-Snapshot erhalten, während die Agentenprozesse beim Fortsetzen neu starten. Das ist ein anderer Umgang mit dem Prozesszustand als das im Leitfaden beschriebene Suspendieren eines Agent-Substrate-Actors.
Was bei voller Worker-Kapazität passiert
In Agent Substrate v1.0 ist Request Parking standardmäßig aktiviert. Kann ein Actor beim Fortsetzen vorübergehend keinen Worker erhalten, versucht der Router die Wiederaufnahme erneut. Das Standardbudget beträgt fünf Sekunden pro Wiederaufnahmeversuch; es ist ein begrenztes Wiederholungsfenster, keine garantierte Wartezeit bis zu einem Fehler. Die v1.0-Dokumentation zum Request Parking nennt außerdem eine standardmäßige Obergrenze von 1.024 gleichzeitig geparkten Anfragen.
Ein HTTP-503-Fehler kann zurückkommen, wenn die Kapazität nach Ablauf des Wiederholungsbudgets weiter fehlt oder die Warteschlange ihre Obergrenze erreicht. Für die Planung zählen damit nicht nur die Worker, sondern auch die Frage, wie viele gleichzeitige Wiederaufnahmen die Warteschlange auffangen soll.
Actor-Limits bestimmen die belegte Kapazität
Agent Substrate platziert Actors anhand ihrer CPU- und Speicherlimits, nicht anhand von Kubernetes-Pod-Requests. Ein Worker muss noch genügend deklarierte Kapazität für die Limits eines Actors zuzüglich des Laufzeit-Overheads haben; die verfügbare Kapazität wird zwischen den Actors auf dem Worker geteilt. Die v1.0-API-Dokumentation zur Ressourcendimensionierung beschreibt diese Platzierungsregel.
Das ist wichtig, wenn Pod-Requests unter den Limits liegen: Ein niedriger Request-Wert bedeutet nicht, dass der Scheduler einen Actor anhand dieses Werts einplant. Für GPU-Actors gilt eine weitere Grenze: Laut derselben v1.0-Dokumentation werden GPU-Geräte vorübergehend nicht an Actors durchgereicht. Ein GPU-Worker allein macht die GPU also nicht innerhalb des Actors verfügbar.
Was Googles Modell für verschiedene Prompt-Takte schätzt
Googles Kostenmodell betrachtet 100 Coding-Agenten und On-Demand-Listenpreise für us-central1 mit Stand November 2026. Bei einem Pod mit 1 vCPU und 1 GiB Speicher pro Sitzung setzt die Rechnung 34 c3-standard-4-Knoten und rund 1.288 US-Dollar pro Monat an. In diesem Szenario schätzt Google bei zwei Prompts pro Stunde knapp 40 Prozent geringere Knotenkosten durch das Parken inaktiver Sitzungen. Bei vier Prompts pro Stunde schrumpft die geschätzte Ersparnis auf 4 Prozent; oberhalb von ungefähr vier Prompts pro Stunde wird laut Modell ein Pod pro Sitzung günstiger.
Diese Werte gehören zu Googles Modellrechnung für die genannte Region, den Prompt-Takt und die dortigen Preisannahmen. Zwei weitere Knotenzahlen im Leitfaden beschreiben unterschiedliche Modellansichten: Ein Vergleich reduziert den Bedarf für 100 Agenten durch das Parken von 34 auf 16 Knoten. Das detailliertere Burst-Beispiel rechnet mit 15 warmen Pool-Knoten und einem dauerhaft laufenden Knoten für Control Plane und PostgreSQL.
Für dieses Burst-Beispiel setzt Google eine Leerlaufzeit von zwei Minuten an. Im Modell belegt eine Sitzung dadurch während knapp 29 Prozent ihrer offenen Zeit einen Worker. Der Pool wird auf das 99. Perzentil der gleichzeitig Worker belegenden Sitzungen ausgelegt, unter der Annahme unabhängigen Sitzungsverhaltens, und erhält zusätzlich 15 Prozent Reserve. Bei vier Prompts pro Stunde wächst der Pool in der Modellrechnung auf 27 Knoten.
Für die eigene Planung lässt sich daraus eine konkrete Messaufgabe ableiten: Prompt-Raten aus einer Woche Gateway-Logs auswerten und besonders die geschäftigste Stunde mit dem modellierten Bereich um vier Prompts pro Stunde vergleichen. Der Wert ist ein Orientierungspunkt aus Googles Szenario, keine allgemeine Schwelle für jeden GKE-Cluster; auch die Leerlaufzeit und die Actor-Limits verändern die benötigte Worker-Kapazität.