Google geeft TPU 8tx en TPU 8i Max elk een eigen taak

Google kondigde op 9 november 2026 twee nieuwe TPU-systemen aan voor verschillende AI-taken: TPU 8tx is bedoeld voor vertrouwelijke inferentie en kleinschalige training, terwijl TPU 8i Max zich richt op workloads met grote contextvensters en hoge rekendichtheid. Het zijn systeemconfiguraties rond bestaand TPU-silicium, geen twee volledig nieuwe chiparchitecturen, aldus Google.

Twee systemen voor verschillende knelpunten

TPU 8tx combineert hetzelfde silicium als TPU 8t met hosts op basis van 5th Generation AMD EPYC-processors en Googles Boardfly-netwerk. Google positioneert het systeem voor inferentie waarbij gevoelige gegevens en modelgewichten tijdens gebruik beschermd moeten blijven, en noemt ook kleinschalige training als toepassing.

TPU 8i Max pakt een ander probleem aan: het combineert twee TPU 8i-chips in één pakket. Google richt die configuratie op toepassingen met zeer lange contextvensters, zoals agenten die met grote softwarecodebases of uren aan video werken.

Google introduceerde TPU 8t en TPU 8i in april 2026. Het bedrijf positioneerde TPU 8t voor training en TPU 8i voor redeneren met lage latentie. Met TPU 8tx en TPU 8i Max telt de achtste TPU-generatie volgens Google vier systemen.

Wat Googles prestatiecijfers wel en niet zeggen

Google claimt voor TPU 8tx tot twee keer lagere latentie dan voor TPU 8t, met volgens het bedrijf vrijwel geen prestatieverlies. Voor TPU 8i Max noemt Google tweemaal zoveel rekenkracht, SRAM en HBM-bandbreedte als bij TPU 8i. SRAM is snel geheugen op de chip; HBM is geheugen met hoge bandbreedte. Google zegt bovendien dat TPU 8i Max tweemaal zoveel silicium binnen dezelfde bestaande rackvoetafdruk plaatst.

Die verhoudingen zijn geen belofte dat een toepassing twee keer zo snel draait. De uitkomst hangt ook af van de workload. S5 Labs wijst bij evaluaties onder meer op contextlengte en gelijktijdige verzoeken, en noemt tijd tot het eerste token en generatiesnelheid als relevante meetpunten voor een concrete taak (technische analyse van S5 Labs).

Kijk eerst naar het knelpunt van je workload: vertrouwelijke verwerking bij TPU 8tx, of lange contexten en geheugenbandbreedte bij TPU 8i Max. Een verdubbeling van hardwarebronnen voorspelt op zichzelf geen verdubbeling van de applicatiesnelheid.

De TPU’s zijn onderdeel van een bredere softwarestack

Google koppelde de hardwareaankondiging aan software voor ontwikkeling en inzet. De open-source XLA Serving Engine is bedoeld om modellen in Python te trainen en ze vervolgens met een C++-runtime te serveren op TPU’s, GPU’s en CPU’s. De TPU-agentensuite, die in preview is, moet helpen bij onboarding, het opsporen van knelpunten en het afstemmen van kernels via codeertools zoals Claude Code, Cursor en Google Antigravity.

Google beschrijft TPU Sync als een geheugensysteem dat HBM, host-DRAM, gedeelde opslag en het datacenternetwerk samenbrengt. Het bedrijf claimt daarbij een daling van meer dan 90% in KV-transferlatentie en in de tijd tot het eerste token. Die cijfers beschrijven Googles TPU Sync-claims; ze zijn geen afzonderlijke workloadresultaten voor TPU 8tx of TPU 8i Max.