Google ogłosiło TPU 8tx i TPU 8i Max 9 listopada 2026 r. Według firmy TPU 8tx ma służyć poufnemu wnioskowaniu i treningowi na mniejszą skalę, a TPU 8i Max — obciążeniom pracującym z dużym kontekstem i zwiększeniu gęstości obliczeń w szafie serwerowej. To dwie różne odpowiedzi na potrzeby infrastruktury AI: ochronę danych podczas obliczeń oraz większe zasoby pamięci i mocy obliczeniowej.

Google przedstawiło TPU 8t i TPU 8i podczas Cloud Next w kwietniu 2026 r. Nowe konfiguracje rozszerzyły linię ósmej generacji. W oficjalnym ogłoszeniu firma opisała ich przeznaczenie oraz dodatkowe narzędzia programowe.

Dwie konfiguracje, różne potrzeby infrastruktury

KonfiguracjaKonstrukcja opisana przez GoogleZadanie, do którego kieruje ją Google
TPU 8txTen sam układ krzemowy co w TPU 8t, hosty z procesorami AMD EPYC 5. generacji oraz sieć BoardflyPoufne wnioskowanie i trening na mniejszą skalę
TPU 8i MaxDwa układy TPU 8i połączone w jednym pakiecieZadania z dużym kontekstem i większa gęstość obliczeń w szafie serwerowej

W przypadku TPU 8tx głównym wyróżnikiem jest poufne przetwarzanie: Google deklaruje, że wrażliwe dane i wagi modelu pozostają chronione i odizolowane podczas obliczeń. Firma wiąże tę konfigurację także z dostrajaniem modeli na prywatnych danych, destylacją oraz treningiem agentów uczenia przez wzmacnianie w jednym systemie. Według Google TPU 8tx może osiągać do dwukrotnie niższe opóźnienia niż TPU 8t przy niemal zerowym koszcie wydajnościowym.

TPU 8i Max odpowiada na inny problem. Google twierdzi, że względem pojedynczego TPU 8i podwaja moc obliczeniową, pamięć SRAM i przepustowość HBM, czyli pamięci o dużej przepustowości. Firma podaje też, że w tej samej przestrzeni szafy mieści się dwukrotnie więcej krzemu. Większa przepustowość pamięci może pomóc przy obciążeniach, które intensywnie przesyłają dane, ale sama w sobie nie oznacza, że każdy model lub każda aplikacja będzie działać dwa razy szybciej.

Przy wyborze liczy się ograniczenie, które chcesz usunąć: potrzebujesz ochrony danych podczas obliczeń czy większej przepustowości pamięci dla zadań z dużym kontekstem?

Narzędzia programowe to część ogłoszenia

Google opisało również oprogramowanie wspierające pracę z TPU. TorchTPU ma umożliwiać uruchamianie kodu PyTorch i modeli Hugging Face na TPU; firma wymienia też gotowe zaplecza dla vLLM i SGLang. Zestaw narzędzi TPU dla agentów, oznaczony jako dostępny w wersji zapoznawczej, ma wspierać wdrażanie, diagnostykę i dostrajanie jąder obliczeniowych. Google wymieniło integracje z Claude Code, Cursor i Google Antigravity.

Wśród pozostałych narzędzi znalazły się XLA Serving Engine do obsługi modeli na TPU, GPU i CPU oraz Agent Compute Engine do wstrzymywania i wznawiania bezczynnych sesji agentów. TPU Sync ma zarządzać przenoszeniem stanu modelu między pamięcią HBM, pamięcią hosta, współdzielonym magazynem i siecią centrum danych. Google deklaruje, że narzędzie może skrócić o ponad 90% opóźnienie transferu stanu KV oraz czas do pierwszego tokenu. Cloud Pathways i GKE dynamic slicing firma określiła jako ogólnie dostępne.