Google kondigde op 9 november 2026 TPU 8tx en TPU 8i Max aan, twee configuraties voor verschillende AI-workloads. Google richt 8tx op vertrouwelijke inferentie en kleinschalige training; 8i Max combineert twee TPU 8i-chips voor werk met grote contexten en meer rekendichtheid per rack. De aankondiging volgde op de introductie van TPU 8t en TPU 8i tijdens Cloud Next in april 2026. Google beschrijft de systemen en de bijbehorende software.
Twee configuraties voor verschillende knelpunten
TPU 8tx is bedoeld voor organisaties die gevoelige gegevens en modelgewichten tijdens actieve verwerking willen beschermen en isoleren, aldus Google. De configuratie gebruikt hetzelfde silicium als TPU 8t, met CPU-hosts van de vijfde generatie AMD EPYC en Googles Boardfly-netwerk. Google noemt vertrouwelijke inferentie en kleinschalige training als toepassingen, waaronder het verfijnen van modellen met privégegevens, distillatie en het trainen van agents met reinforcement learning.
Google claimt voor TPU 8tx tot twee keer lagere latentie dan voor TPU 8t, met vrijwel geen prestatieverlies. Dat is een claim van Google, geen uitkomst die voor iedere workload geldt.
TPU 8i Max richt zich op een ander knelpunt: rekenkracht en geheugenbandbreedte voor workloads met grote contexten. Het systeem combineert twee TPU 8i-chips in één pakket. Volgens Google verdubbelt het daarmee de rekenkracht, SRAM en HBM-bandbreedte ten opzichte van één TPU 8i. SRAM is snel geheugen op de chip; HBM is geheugen met een hoge bandbreedte. Google zegt ook dat de configuratie tweemaal zoveel silicium binnen dezelfde rackvoetafdruk plaatst.
| Configuratie | Ontwerp | Door Google genoemde toepassing |
| TPU 8tx | Hetzelfde silicium als TPU 8t, met AMD EPYC-hosts van de vijfde generatie en Boardfly-netwerk | Vertrouwelijke inferentie en kleinschalige training |
| TPU 8i Max | Twee TPU 8i-chips in één pakket; volgens Google dubbel zoveel rekenkracht, SRAM en HBM-bandbreedte als één TPU 8i | Workloads met grote contexten en meer rekendichtheid per rack |
Een verdubbeling van bandbreedte of rekenkracht betekent niet automatisch dat elke toepassing twee keer zo snel wordt. De keuze hangt af van welk knelpunt voor een workload telt: bescherming tijdens verwerking bij 8tx, of geheugen en rekencapaciteit bij 8i Max.
Kies de configuratie op basis van de beperking die je workload daadwerkelijk tegenkomt: vertrouwelijke verwerking of capaciteit voor grote contexten.
De softwarelaag rond de TPU-systemen
Google noemt naast de hardware ook tools voor ontwikkeling en uitvoering. TorchTPU is volgens het bedrijf open source en laat PyTorch-code en Hugging Face-modellen op TPU’s draaien. Google noemt daarnaast kant-en-klare TPU-backends voor vLLM en SGLang.
De TPU-agenttoolset is in preview en is bedoeld voor onboarding, diagnostiek en het afstemmen van kernels. Google zegt dat de toolset werkt met Claude Code, Cursor en Google Antigravity. XLA Serving Engine is gericht op model-serving via TPU’s, GPU’s en CPU’s. Agent Compute Engine kan inactieve agentsessies opschorten en hervatten.
TPU Sync beheert volgens Google de verplaatsing van modelstatus tussen HBM, hostgeheugen, gedeelde opslag en het datacenternetwerk. Google claimt dat dit de latentie van KV-overdracht en de tijd tot het eerste token met meer dan 90 procent kan verlagen.
Google noemt Cloud Pathways en GKE dynamic slicing algemeen beschikbaar.