Google stellte am 9. November 2026 TPU 8tx für vertrauliche Inferenz und kleinere Trainingsaufgaben sowie TPU 8i Max für große Kontextfenster und hohe Rechendichte vor. Die beiden Systeme setzen auf unterschiedliche TPU-Konfigurationen: 8tx verwendet dasselbe Silizium wie TPU 8t, während 8i Max zwei TPU 8i-Chips in einem Paket vereint. Google beschreibt beide Systeme als Ergänzungen seiner TPU-Plattform.
Worin sich TPU 8tx und TPU 8i Max unterscheiden
| System | Konfiguration | Von Google genannter Einsatzbereich |
| TPU 8tx | Silizium von TPU 8t, Hosts mit AMD-EPYC-CPUs der fünften Generation und das Boardfly-Netzwerk | Vertrauliche Inferenz und Training in kleinerem Maßstab |
| TPU 8i Max | Zwei TPU 8i-Chips in einem Paket | Große Kontextfenster und hohe Rechendichte |
TPU 8tx ist damit keine vollständig neue Chiparchitektur, sondern eine Systemkonfiguration rund um das Silizium von TPU 8t. Google zufolge soll sie sensible Daten und Modellgewichte während der Verarbeitung schützen. Das Unternehmen nennt neben vertraulicher Inferenz auch das Feinabstimmen von Modellen und Training in kleinerem Maßstab als Einsatzfelder.
TPU 8i Max setzt an einem anderen Engpass an: Google bündelt zwei TPU 8i-Chips, um mehr Rechen- und Speicherressourcen bereitzustellen. Das System ist für Aufgaben mit sehr langen Kontexten gedacht, etwa die Verarbeitung umfangreicher Software-Codebasen oder stundenlanger Videos.
Was Googles Leistungsangaben aussagen
Für TPU 8tx nennt Google eine bis zu doppelt so niedrige Latenz wie bei TPU 8t und nahezu keine Leistungseinbußen. Für TPU 8i Max gibt das Unternehmen gegenüber TPU 8i doppelte Rechenleistung, doppelt so viel SRAM und die doppelte HBM-Bandbreite an. Zudem soll 8i Max doppelt so viel Silizium auf derselben Rackfläche unterbringen.
Diese Angaben beziehen sich auf jeweils benannte Ressourcen oder Vergleichswerte. Doppelte Rechenleistung oder Speicherbandbreite bedeutet nicht automatisch, dass jede Anwendung doppelt so schnell läuft: Das Ergebnis hängt davon ab, wie stark die konkrete Aufgabe von diesen Ressourcen profitiert.
Für die Einordnung zählt der Engpass: TPU 8tx zielt auf vertrauliche Verarbeitung, TPU 8i Max auf große Kontexte und mehr Rechen- und Speicherressourcen.
Die TPU-Plattform rund um die neuen Systeme
Google stellte mit den Systemen auch Software für Entwicklung und Betrieb vor. Die Open-Source-Umgebung XLA Serving Engine soll das Training mit Python und die Bereitstellung über eine latenzarme C++-Laufzeit auf TPUs, GPUs und CPUs ermöglichen. Die TPU-Agent-Suite ist als Vorschau verfügbar und soll unter anderem beim Einstieg, bei der Fehlersuche und beim Abstimmen von Kerneln helfen.
Für TPU Sync beansprucht Google eine Verringerung der Latenz beim KV-Transfer und der Zeit bis zum ersten Token um mehr als 90 Prozent. Die Angaben beziehen sich auf Googles Softwarebeschreibung, nicht auf einen Leistungswert speziell für TPU 8tx oder TPU 8i Max. Für dynamisches Slicing in Google Kubernetes Engine nennt das Unternehmen einen bis zu fünfmal schnelleren Jobstart und eine bis zu 4,5-mal schnellere Fehlerbehebung. Google zufolge hat sein TPU-Geschäft insgesamt knapp 100 Kunden.
