Google kündigte am 9. November 2026 die TPU 8tx an, ein System für vertrauliche Inferenz und Training in kleinem Maßstab. Laut Google verwendet es dasselbe Silizium wie die TPU 8t, kombiniert es aber mit AMD-EPYC-Hostprozessoren der fünften Generation und dem Boardfly-Netzwerk.

TPU 8tx und TPU 8t im Vergleich

SystemVon Google genannter EinsatzzweckSilizium
TPU 8txVertrauliche Inferenz und Training in kleinem MaßstabDasselbe Silizium wie bei der TPU 8t
TPU 8tTraining großer ModelleSilizium der TPU 8t
Entscheidend an der TPU 8tx ist die Systemkonfiguration: Google verbindet vorhandenes TPU-Silizium mit Hostprozessoren und einem Netzwerk für vertrauliche KI-Aufgaben.

Welche Rolle AMD EPYC im System spielt

Die EPYC-Prozessoren fungieren als Hosts für die TPU. ChosunBiz zufolge bereiten sie Daten vor, verteilen Arbeitslasten, versorgen den Beschleuniger mit Daten und verwalten Rechenaufträge. Die TPU übernimmt dem Bericht zufolge die KI-Berechnungen. ChosunBiz beschreibt außerdem die Sicherheitsmechanismen, die das System für vertrauliches Computing einsetzen soll.

Google sagt, die TPU 8tx solle sensible Daten und Modellgewichte während ihrer aktiven Nutzung schützen und isolieren. ChosunBiz führt die Umsetzung auf AMD Secure Encrypted Virtualization (SEV) zurück. Der Bericht nennt außerdem Prompts, Modellgewichte und Zwischenergebnisse als geschützte Daten sowie Informationen im CPU-Speicher und Übertragungen zwischen CPU und TPU. Demnach prüft der Beschleuniger vor dem Zugriff auf geschützten Speicher seine Geräteidentität und Sicherheitskonfiguration.

Vorgesehene Aufgaben und Googles Leistungsangaben

Google nennt neben vertraulicher Inferenz auch das Feinabstimmen von Modellen mit privaten Daten, Modelldestillation und Reinforcement Learning für KI-Agenten als Aufgaben für die TPU 8tx. Dabei sollen sensible Daten nicht zwischen getrennten Clustern verschoben werden müssen.

Für die Latenz gibt Google einen Vorteil von bis zu einem Faktor zwei gegenüber der TPU 8t an. Auch die Leistungseinbußen durch die Sicherheitsfunktionen beschreibt das Unternehmen als nahezu null. Die Werte sind Googles Leistungsangaben; das Unternehmen verbindet die Latenzbehauptung mit dem Boardfly-Netzwerk, das auch bei der TPU 8i zum Einsatz kommt.