Le 20 octobre 2026, Zongwei Zhou, responsable de PyTorch-TPU chez Meta, a déclaré que SGLang-TorchTPU fonctionnait en production chez Meta. Ce même jour, Google a annoncé des backends PyTorch natifs pour SGLang et vLLM sur ses TPU, des accélérateurs conçus pour les calculs d’intelligence artificielle. La déclaration sur Meta concerne SGLang-TorchTPU : elle décrit un déploiement logiciel, pas un achat de puces.
Ce que TorchTPU change pour PyTorch
TorchTPU permet d’utiliser les TPU comme périphériques natifs de PyTorch. Les tenseurs peuvent ainsi être placés sur le périphérique tpu, et les modèles peuvent s’exécuter directement ou être compilés avec torch.compile et XLA. Les opérations collectives de torch.distributed, qui coordonnent les calculs entre plusieurs accélérateurs, sont également prises en charge.
Google indique que la plupart des modèles peuvent conserver leurs définitions PyTorch standard. Des noyaux Pallas et des implémentations de couches optimisés pour les TPU complètent cette base. Cela réduit le besoin de réécrire les modèles pour les exécuter sur ces accélérateurs, sans signifier que chaque modèle fonctionne sans adaptation.
Avant cette annonce, vLLM et SGLang disposaient déjà de backends TPU fondés sur JAX. Google a annoncé les nouvelles versions natives de PyTorch pour les deux moteurs; la déclaration de Zongwei Zhou sur l’usage en production chez Meta porte sur SGLang-TorchTPU. Google a travaillé avec l’équipe PyTorch de Meta sur TorchTPU, avec RadixArk pour le backend SGLang et Inferact pour celui de vLLM.
Usage en production et achat de matériel sont deux sujets distincts
L’annonce de Google rapporte que SGLang-TorchTPU fonctionne en production chez Meta. Elle ne présente pas cet usage comme une vente de puces à Meta. Google indique par ailleurs que son service Cloud TPU destiné aux clients a été lancé au début de 2018 : les clients peuvent accéder à de la capacité TPU dans le cloud, une formule distincte de l’achat de puces physiques.
