TPU 8tx et TPU 8i Max : deux usages de l’IA chez Google

Google a annoncé TPU 8tx pour l’inférence confidentielle et certains entraînements de petite ampleur, et TPU 8i Max pour les charges qui réclament de très longues fenêtres de contexte et davantage de ressources de calcul et de mémoire. L’annonce, publiée le 9 novembre 2026, présente deux configurations système fondées sur des puces TPU existantes, chacune conçue pour répondre à un besoin différent. Google détaille ces systèmes et leurs usages.

Deux systèmes, deux types de charge

Google compte désormais quatre systèmes dans sa huitième génération de TPU. L’entreprise avait présenté TPU 8t pour l’entraînement à grande échelle et TPU 8i pour le raisonnement en temps réel ; les deux nouveaux systèmes reprennent ces bases pour viser d’autres contraintes.

Pour comprendre la différence, partez du besoin : protéger les données pendant l’inférence avec TPU 8tx, ou traiter de très longs contextes avec TPU 8i Max.

TPU 8tx mise sur l’inférence confidentielle

TPU 8tx reprend le silicium de TPU 8t, auquel Google associe des hôtes équipés de processeurs AMD EPYC de 5e génération et son réseau Boardfly. Google indique que le système protège les données sensibles et les poids des modèles pendant leur utilisation. Il le destine aussi à certains entraînements de petite ampleur.

Pour TPU 8tx, Google annonce une latence jusqu’à deux fois plus faible que celle de TPU 8t, avec une pénalité de performances quasi nulle. Cette comparaison concerne la latence de ces deux systèmes ; elle ne décrit pas le gain général de vitesse d’une application.

TPU 8i Max augmente les ressources pour les contextes longs

TPU 8i Max réunit deux puces TPU 8i dans un même boîtier. Selon Google, cette configuration double la puissance de calcul, la SRAM et la bande passante HBM par rapport à TPU 8i. L’entreprise affirme également qu’elle concentre deux fois plus de silicium dans l’empreinte de rack existante.

Google vise les tâches qui doivent traiter de très grands contextes, par exemple des agents travaillant sur une base de code entière ou plusieurs heures de vidéo. L’entreprise évoque des contextes à l’échelle du million de jetons. Les ressources annoncées décrivent la configuration matérielle : elles ne signifient pas qu’une application donnée s’exécutera deux fois plus vite. Le résultat dépend de la charge de travail et de la façon dont elle utilise le calcul et la mémoire.

Les systèmes s’inscrivent dans une plateforme logicielle plus large

Google indique que son activité TPU compte près de 100 clients, parmi lesquels des laboratoires d’IA, des sociétés de trading, des détaillants et des universités ; certains installent des TPU dans leurs propres centres de données. Ce chiffre concerne l’activité TPU dans son ensemble.

L’entreprise a aussi annoncé une suite open source d’agents TPU, en aperçu, destinée à faciliter la prise en main, le diagnostic des goulots d’étranglement et l’optimisation des noyaux de calcul avec des outils comme Claude Code, Cursor et Google Antigravity. Son XLA Serving Engine propose un flux allant de l’entraînement en Python à l’exécution dans un moteur C++ à faible latence, sur TPU, GPU ou CPU. Agent Compute Engine peut suspendre puis reprendre des sessions d’agents inactives.

Google décrit également TPU Sync comme une hiérarchie de mémoire réunissant la HBM des puces, la mémoire vive des hôtes, le stockage partagé et le réseau du centre de données. L’entreprise lui attribue une réduction de plus de 90 % de la latence des transferts KV et du délai avant le premier jeton. Elle indique enfin que Cloud Pathways et le découpage dynamique de GKE sont disponibles en version générale ; pour ce dernier, Google annonce un démarrage des tâches jusqu’à cinq fois plus rapide et une reprise après panne jusqu’à 4,5 fois plus rapide. Ces chiffres portent sur les outils de la plateforme TPU, et non sur une mesure propre à TPU 8tx ou TPU 8i Max.