Google ha annunciato TPU 8tx e TPU 8i Max il 9 novembre 2026, ampliando la famiglia di TPU di ottava generazione a quattro sistemi. Google orienta 8tx al calcolo confidenziale e all’addestramento su piccola scala; 8i Max combina due chip TPU 8i per aumentare la capacità di calcolo e la larghezza di banda della memoria. Nell’annuncio ufficiale, i due modelli rispondono quindi a esigenze infrastrutturali diverse.
Due configurazioni per esigenze diverse
TPU 8tx usa lo stesso silicio di TPU 8t, affiancato da CPU host AMD EPYC di quinta generazione e dalla rete a bassa latenza Boardfly. Google descrive la configurazione come adatta all’inferenza confidenziale e all’addestramento su piccola scala: il calcolo confidenziale è progettato per proteggere i dati mentre vengono elaborati. L’azienda afferma che dati sensibili e pesi del modello restano protetti e isolati durante l’uso.
Google indica anche il fine-tuning su dati privati, la distillazione dei modelli e l’addestramento di agenti con apprendimento per rinforzo tra i carichi gestibili sullo stesso sistema, senza spostare i dati sensibili fra cluster separati. Per TPU 8tx, l’azienda dichiara una latenza fino a due volte inferiore rispetto a TPU 8t e una penalità prestazionale prossima allo zero.
TPU 8i Max riunisce due chip TPU 8i in un unico package. Secondo Google, rispetto a un TPU 8i raddoppia la potenza di calcolo, la SRAM — memoria veloce integrata nel chip — e la larghezza di banda della HBM, la memoria ad alta larghezza di banda. L’azienda lo orienta ai carichi con contesti molto ampi e a una maggiore densità di calcolo per rack; dichiara inoltre che il sistema racchiude il doppio del silicio nello spazio rack già previsto.
| Configurazione | Architettura descritta da Google | Carichi di lavoro indicati da Google |
| TPU 8tx | Silicio di TPU 8t, host AMD EPYC di quinta generazione e rete Boardfly | Inferenza confidenziale e addestramento su piccola scala |
| TPU 8i Max | Due chip TPU 8i in un unico package; raddoppio dichiarato di calcolo, SRAM e larghezza di banda HBM rispetto a un TPU 8i | Contesti molto ampi e maggiore densità di calcolo per rack |
La distinzione pratica è nel collo di bottiglia da affrontare: 8tx mette al centro la protezione dei dati durante l’elaborazione; 8i Max punta su calcolo e trasferimento dei dati dalla memoria. Il raddoppio dichiarato della larghezza di banda HBM descrive una caratteristica della memoria, non un raddoppio automatico della velocità di ogni applicazione.
Per scegliere fra le due configurazioni, parti dal vincolo dominante del carico: riservatezza dei dati con 8tx, capacità di memoria e densità di calcolo con 8i Max.
Gli strumenti software che accompagnano le TPU
L’annuncio riguarda anche l’ambiente software. Google presenta TorchTPU, un progetto open source che permette di eseguire in modo nativo codice PyTorch e modelli Hugging Face sulle TPU, e indica backend TPU pronti all’uso per vLLM e SGLang.
La suite di agenti TPU è in anteprima e si integra con Claude Code, Cursor e Google Antigravity per facilitare l’avvio, la diagnostica e la messa a punto dei kernel. Google descrive inoltre XLA Serving Engine per l’inferenza a bassa latenza su TPU, GPU e CPU; Agent Compute Engine per sospendere e riprendere le sessioni inattive degli agenti; e TPU Sync per spostare lo stato dei modelli fra HBM, memoria DRAM dell’host, archiviazione condivisa e rete del data center. Per TPU Sync, Google dichiara riduzioni superiori al 90% nella latenza del trasferimento dei dati KV e nel tempo al primo token.
Google indica Cloud Pathways e il dynamic slicing di GKE come generalmente disponibili. Questi strumenti accompagnano le nuove configurazioni con funzioni per sviluppo, serving e gestione delle risorse, mentre la suite di agenti resta in anteprima.