Google kondigde op 9 november 2026 TPU 8tx aan voor vertrouwelijke inferentie en kleinschalige training. Volgens Google gebruikt het systeem hetzelfde silicium als TPU 8t, gecombineerd met AMD EPYC-hostprocessors van de vijfde generatie en het Boardfly-netwerk. Het gaat dus om een systeemconfiguratie rond bestaande TPU-chips, niet om een nieuw TPU-siliciumontwerp. (Google)
Bij vertrouwelijk rekenen draait de aankondiging niet alleen om de accelerator: ook de hostprocessors en de verbinding tussen CPU en TPU horen bij de systeemopzet.
Dezelfde TPU-chip, een andere taak
Google positioneert TPU 8tx voor vertrouwelijke inferentie en kleinschalige training. TPU 8t is bedoeld voor training op grote schaal. Google zegt dat beide systemen hetzelfde TPU-silicium gebruiken; de verschillen zitten in de systeemconfiguratie en de beoogde toepassing.
| Systeem | Door Google genoemde toepassing | Silicium |
| TPU 8tx | Vertrouwelijke inferentie en kleinschalige training | Hetzelfde silicium als TPU 8t |
| TPU 8t | Training op grote schaal | TPU 8t-silicium |
Wat AMD EPYC en de beveiliging doen
De AMD EPYC-processors dienen als hosts: ze bereiden gegevens voor, verdelen taken en verzorgen de communicatie met de TPU. De TPU voert de AI-berekeningen uit. ChosunBiz schrijft dat TPU 8tx AMD Secure Encrypted Virtualization (SEV) gebruikt en gegevens beschermt die in het CPU-geheugen staan of tussen de CPU en TPU worden verstuurd. (ChosunBiz)
Google omschrijft het doel breder: gevoelige gegevens en modelgewichten moeten tijdens actief gebruik beschermd en afgeschermd blijven. In het gedetailleerdere verslag van ChosunBiz vallen ook prompts en tussentijdse berekeningsgegevens onder de bescherming. ChosunBiz meldt bovendien dat de accelerator vóór toegang tot beschermd geheugen de apparaatidentiteit en beveiligingsconfiguratie controleert.
Werkzaamheden met gevoelige gegevens
Google noemt het bijwerken van modellen met privégegevens, modeldistillatie en reinforcement learning voor AI-agenten als mogelijke toepassingen. Volgens Google kunnen zulke werkzaamheden binnen één systeem plaatsvinden, zonder gevoelige gegevens tussen afzonderlijke clusters te verplaatsen. Dat maakt TPU 8tx gericht op inferentie en training waarbij gegevensbescherming tijdens het rekenen centraal staat.
Googles prestatieclaims
Google zegt dat TPU 8tx met het Boardfly-netwerk, dat ook met TPU 8i wordt geassocieerd, tot 2× lagere latentie biedt dan TPU 8t. Ook noemt Google de prestatie-impact van de beveiligingsfuncties vrijwel nihil. Dat zijn claims van Google over de aangekondigde configuratie. (Google)