Google anunció TPU 8tx y TPU 8i Max el 9 de noviembre de 2026 para necesidades distintas: la primera se orienta a la inferencia confidencial y a cierto entrenamiento de menor escala; la segunda, a cargas con contextos extensos y alta densidad de cómputo. Google las presentó como configuraciones de sistema basadas en silicio TPU existente, no como dos diseños de chip completamente nuevos (anuncio de Google).
Dos sistemas para cargas diferentes
| Sistema | Configuración | Carga de trabajo indicada por Google |
| TPU 8tx | Silicio de TPU 8t, hosts con CPU AMD EPYC de quinta generación y red Boardfly | Inferencia confidencial y entrenamiento de menor escala |
| TPU 8i Max | Dos chips TPU 8i en un mismo paquete | Contextos extensos y alta densidad de cómputo |
La diferencia práctica está en el tipo de carga que aborda cada sistema. La inferencia —cuando un modelo genera una respuesta a partir de una entrada— puede implicar datos sensibles que se quieren proteger mientras se procesan. Google afirma que TPU 8tx protege y aísla esos datos y los pesos del modelo durante su uso activo. También la presenta para ajustar modelos con datos privados, destilar modelos grandes en otros más pequeños y entrenar agentes mediante aprendizaje por refuerzo.
TPU 8i Max apunta a otro cuello de botella: trabajar con grandes cantidades de contexto. Google menciona agentes que recorren bases de código o procesan horas de vídeo, y sitúa la capacidad de contexto en la escala del millón de tokens. Cada token es una unidad de texto que procesa el modelo.
Para entender qué sistema encaja con una carga, empieza por su necesidad principal: confidencialidad durante la inferencia o contexto y densidad de cómputo.
Qué dicen las cifras de rendimiento
Google afirma que TPU 8tx ofrece hasta 2× menos latencia que TPU 8t, con una penalización de rendimiento casi nula. Para TPU 8i Max, afirma que duplica el cómputo, la SRAM (memoria estática) y el ancho de banda de HBM (memoria de alto ancho de banda) respecto a TPU 8i; también dice que concentra el doble de silicio en el espacio de rack existente.
Esas relaciones describen recursos y latencia frente a modelos concretos, pero no se traducen automáticamente en el doble de velocidad para cualquier aplicación. En un servicio real, importa medir el tiempo hasta la primera respuesta y la velocidad de generación con el modelo, el contexto y la concurrencia previstos. S5 Labs plantea esas medidas como parte de la evaluación de una carga, junto con la memoria máxima y el coste total.
El contexto de la plataforma TPU
Google cifra en casi 100 los clientes de su negocio TPU en conjunto y señala que algunos instalan estos sistemas en sus propios centros de datos; esa cifra se refiere a toda la plataforma, no específicamente a TPU 8tx o TPU 8i Max.
En la misma presentación, Google describió herramientas de software para trabajar con esta infraestructura. XLA Serving Engine permite entrenar en Python y servir modelos mediante un entorno de ejecución en C++ para TPU, GPU y CPU. Agent Compute Engine suspende y reanuda sesiones inactivas de agentes para reducir el coste de infraestructura. Google también indicó que Cloud Pathways y el fraccionamiento dinámico de GKE están disponibles de forma general; para este último, atribuyó a la herramienta un inicio de trabajos hasta 5 veces más rápido y una recuperación de fallos hasta 4,5 veces más rápida.
