Google ha annunciato TPU 8tx e TPU 8i Max il 9 novembre 2026 per due esigenze diverse: la prima è destinata all’inferenza confidenziale e ad alcuni compiti di addestramento su scala ridotta; la seconda punta ai carichi con contesti molto estesi e alta densità di calcolo. Sono configurazioni di sistema basate su silicio TPU esistente, non due nuove architetture di chip. Google
Per capire quale sistema serve, guarda prima al vincolo del carico di lavoro: protezione dei dati con TPU 8tx, contesti lunghi e risorse di memoria con TPU 8i Max.
Due configurazioni per carichi diversi
| Sistema | Configurazione | Carico di lavoro indicato da Google |
| TPU 8tx | Silicio di TPU 8t, host con CPU AMD EPYC di quinta generazione e rete Boardfly | Inferenza confidenziale e addestramento su piccola scala |
| TPU 8i Max | Due chip TPU 8i integrati in un unico package | Contesti molto estesi e alta densità di calcolo |
TPU 8tx riutilizza il silicio di TPU 8t, ma Google la descrive come un sistema orientato alla protezione di dati sensibili e pesi dei modelli durante l’elaborazione. La configurazione comprende host con CPU AMD EPYC di quinta generazione e la rete Boardfly. Google afferma anche che offre una latenza fino a due volte inferiore rispetto a TPU 8t, con una penalità prestazionale quasi nulla.
TPU 8i Max affronta un problema diverso: elaborare finestre di contesto molto ampie, per esempio quando un agente AI lavora su un’intera base di codice o su ore di video. Google la descrive come adatta a contesti nell’ordine del milione di token. Un token è una porzione di testo elaborata dal modello; la finestra di contesto indica quante di queste porzioni può considerare durante un’attività.
Che cosa significano le cifre sulle prestazioni
Google dichiara per TPU 8i Max il doppio delle risorse di calcolo e della SRAM, oltre al doppio della larghezza di banda HBM rispetto a TPU 8i. La SRAM è una memoria rapida vicina al calcolo; HBM indica memoria ad alta larghezza di banda. Google afferma inoltre che la configurazione concentra il doppio del silicio nello spazio rack già esistente.
Questi rapporti descrivono risorse hardware, non una velocità applicativa garantita. Il doppio della banda HBM, per esempio, non significa automaticamente che ogni modello generi token o completi richieste due volte più velocemente: il risultato dipende anche dal carico e dal modo in cui usa memoria e calcolo. Per TPU 8tx, la cifra sulla latenza riguarda il confronto specifico con TPU 8t; non è una misura generale del vantaggio rispetto a qualsiasi altro sistema.
Il resto della piattaforma TPU
Google afferma che la propria attività TPU serve quasi 100 clienti, tra cui laboratori di frontiera, società di trading, rivenditori e università. È un dato riferito all’attività TPU nel suo complesso. L’azienda ha inoltre descritto strumenti software per sviluppare e gestire carichi AI: XLA Serving Engine, open source, consente di addestrare in Python e servire modelli tramite un ambiente C++ a bassa latenza su TPU, GPU e CPU; Agent Compute Engine sospende e riprende le sessioni inattive degli agenti.
Google indica Cloud Pathways e il partizionamento dinamico di GKE come generalmente disponibili. Per quest’ultimo, l’azienda dichiara un avvio dei lavori fino a cinque volte più rapido e un recupero dagli errori fino a 4,5 volte più rapido. Sono risultati attribuiti da Google a questa funzione della piattaforma, non alle sole TPU 8tx o TPU 8i Max.
