Google kondigde op 9 november 2026 TPU 8tx aan voor vertrouwelijke inferentie en kleinschalige training. Volgens Google gebruikt het systeem hetzelfde silicium als TPU 8t, gecombineerd met AMD EPYC-hostprocessors van de vijfde generatie en het Boardfly-netwerk. Het gaat dus om een systeemconfiguratie rond bestaande TPU-chips, niet om een nieuw TPU-siliciumontwerp. (Google)

Bij vertrouwelijk rekenen draait de aankondiging niet alleen om de accelerator: ook de hostprocessors en de verbinding tussen CPU en TPU horen bij de systeemopzet.

Dezelfde TPU-chip, een andere taak

Google positioneert TPU 8tx voor vertrouwelijke inferentie en kleinschalige training. TPU 8t is bedoeld voor training op grote schaal. Google zegt dat beide systemen hetzelfde TPU-silicium gebruiken; de verschillen zitten in de systeemconfiguratie en de beoogde toepassing.

SysteemDoor Google genoemde toepassingSilicium
TPU 8txVertrouwelijke inferentie en kleinschalige trainingHetzelfde silicium als TPU 8t
TPU 8tTraining op grote schaalTPU 8t-silicium

Wat AMD EPYC en de beveiliging doen

De AMD EPYC-processors dienen als hosts: ze bereiden gegevens voor, verdelen taken en verzorgen de communicatie met de TPU. De TPU voert de AI-berekeningen uit. ChosunBiz schrijft dat TPU 8tx AMD Secure Encrypted Virtualization (SEV) gebruikt en gegevens beschermt die in het CPU-geheugen staan of tussen de CPU en TPU worden verstuurd. (ChosunBiz)

Google omschrijft het doel breder: gevoelige gegevens en modelgewichten moeten tijdens actief gebruik beschermd en afgeschermd blijven. In het gedetailleerdere verslag van ChosunBiz vallen ook prompts en tussentijdse berekeningsgegevens onder de bescherming. ChosunBiz meldt bovendien dat de accelerator vóór toegang tot beschermd geheugen de apparaatidentiteit en beveiligingsconfiguratie controleert.

Werkzaamheden met gevoelige gegevens

Google noemt het bijwerken van modellen met privégegevens, modeldistillatie en reinforcement learning voor AI-agenten als mogelijke toepassingen. Volgens Google kunnen zulke werkzaamheden binnen één systeem plaatsvinden, zonder gevoelige gegevens tussen afzonderlijke clusters te verplaatsen. Dat maakt TPU 8tx gericht op inferentie en training waarbij gegevensbescherming tijdens het rekenen centraal staat.

Googles prestatieclaims

Google zegt dat TPU 8tx met het Boardfly-netwerk, dat ook met TPU 8i wordt geassocieerd, tot 2× lagere latentie biedt dan TPU 8t. Ook noemt Google de prestatie-impact van de beveiligingsfuncties vrijwel nihil. Dat zijn claims van Google over de aangekondigde configuratie. (Google)