OpenAI présente Jalapeño comme un ASIC — un circuit intégré conçu pour une tâche précise — dédié principalement à l’inférence des grands modèles de langage. Développée avec Broadcom, cette puce doit servir des modèles déjà entraînés, produire des tokens et exécuter des charges agentiques au sein de l’infrastructure d’OpenAI. Les premiers résultats publiés sont impressionnants face à certains systèmes Nvidia GB200 et GB300, mais ils décrivent un avantage ciblé, pas une victoire générale sur Nvidia.
Jalapeño est une puce d’inférence spécialisée
L’inférence correspond à la phase où un modèle déjà entraîné répond à une demande. C’est le moteur invisible derrière chaque réponse générée : plus le système traite de requêtes, plus la consommation électrique, la latence et le coût par token deviennent importants.
Jalapeño a été conçu pour cette tâche plutôt que comme un accélérateur polyvalent destiné à couvrir indistinctement l’entraînement et l’inférence. OpenAI cherche ainsi à rapprocher le silicium, la mémoire, le réseau, les logiciels de service et ses propres modèles. Richard Ho, responsable du matériel chez OpenAI, a résumé cette logique en expliquant que l’entreprise voulait « contrôler l’ensemble de la pile IA ».
Cette spécialisation a une conséquence importante : une puce peut être très efficace sur les charges qu’elle vise sans devenir un substitut universel aux GPU. OpenAI affirme d’ailleurs que Nvidia restera largement utilisé pour l’entraînement et l’inférence. Jalapeño s’inscrit donc dans une infrastructure mixte.
Une architecture conçue pour limiter les déplacements de données
Les caractéristiques publiées décrivent un boîtier annoncé à 700 W, avec jusqu’à 15,4 To/s de bande passante mémoire. Son organisation associe 64 tranches de calcul à des tranches de mémoire HBM4 dans une architecture de type NUMA : chaque partie du calcul travaille au plus près d’une portion de la mémoire, ce qui peut réduire les déplacements de données.
Le composant combine aussi un réseau collectif à faible latence et un réseau sur puce plus général. Le premier vise les échanges rapides entre accélérateurs ; le second assure des communications plus classiques à l’intérieur du système. Ce découpage correspond à un choix d’ingénierie assez clair : optimiser les chemins qui comptent pour le service des modèles plutôt que de fournir toutes les fonctions d’un GPU généraliste.
À l’échelle des serveurs, OpenAI décrit une montée en charge jusqu’à 128 accélérateurs dans un rack local et jusqu’à 2 048 ASIC dans un ensemble de 16 racks. Ces chiffres décrivent une architecture prévue pour des déploiements de centre de données, pas une carte que l’on pourrait installer dans un PC.
Les résultats InferenceX, modèle par modèle
Dans ses résultats InferenceX publiés le 25 août 2026, OpenAI compare Jalapeño à des systèmes Nvidia GB200 et GB300 sur trois modèles : GPT-OSS 120B, DeepSeek R1 670B et Kimi K2.5 1T. Selon OpenAI, Jalapeño atteint 1,5 à 1,9 fois plus de performances par watt et 1,7 à 3,6 fois moins de latence de bout en bout sur les points de fonctionnement mesurés.
La comparaison utilise notamment le débit rapporté à la puissance du boîtier. C’est essentiel : une machine qui produit davantage de tokens tout en consommant moins peut réduire le coût d’un service à grande échelle, même si le chiffre de vitesse brute n’est pas le seul élément déterminant.
Pour GPT-OSS 120B, OpenAI rapporte 85 448 tokens mixtes par seconde et par kilowatt pour Jalapeño, contre 44 960 pour le système Nvidia GB200. Avec DeepSeek R1 670B, les valeurs sont de 19 641 contre 11 781 tokens mixtes par seconde et par kilowatt face au Nvidia GB300. Pour Kimi K2.5 1T, elles atteignent 18 195 contre 11 862 face au Nvidia GB300.
Le débit par utilisateur donne un autre aperçu : 1 459 contre 535 tokens par seconde pour GPT-OSS 120B, 700 contre 169 pour DeepSeek R1 670B, et 694 contre 182 pour Kimi K2.5 1T, selon les résultats publiés par OpenAI.
L’écart maximal de 104,3 fois parfois associé à cette présentation demande une précaution supplémentaire : il correspond au débit mesuré au point de fonctionnement où Nvidia visait sa latence minimale. Il ne signifie pas que Jalapeño est 104,3 fois plus rapide dans tous les usages.
Les résultats restent donc liés à des modèles, des configurations et des métriques précises. La comparaison publique porte sur Nvidia GB200 et GB300 ; elle n’inclut pas Vera Rubin. Elle ne permet pas non plus de conclure sur les longues séquences, les échanges multi-tours ou les charges agentiques complexes.
Le logiciel fait partie de l’accélérateur
Jalapeño ne cherche pas seulement à accélérer un calcul isolé. OpenAI a travaillé sur la manière dont les modèles, les noyaux logiciels, le placement des données et la planification des tâches utilisent le matériel. L’entreprise indique avoir employé ses propres modèles et Codex pour aider à l’exploration de l’architecture, à l’optimisation, au développement de noyaux et à la planification.
La pile logicielle comprend Gluon, construit sur des abstractions bas niveau liées à Triton. Cette approche peut permettre à OpenAI d’adapter finement le système à ses charges connues. En contrepartie, elle est moins naturellement portable que l’écosystème CUDA qui accompagne les accélérateurs Nvidia et une grande variété de logiciels.
C’est le cœur du pari : accepter davantage de spécialisation pour gagner en efficacité sur un ensemble de modèles et de services que l’on contrôle. Pour OpenAI, le calcul ne s’arrête pas à la puce ; la mémoire, le réseau et le logiciel font partie du même produit technique.
Du RTL au silicium en neuf mois
Le calendrier communiqué par OpenAI situe le début des travaux RTL — la description logique du circuit — en février 2025, puis le tape-out en novembre 2025. Cette période de neuf mois correspond à l’intervalle entre ces deux étapes, et non à l’ensemble du projet depuis la formation de l’équipe.
Le premier silicium est arrivé en mai 2026. OpenAI et Broadcom ont présenté publiquement Jalapeño le 24 juin 2026, avant la publication des premiers résultats mesurés le 25 août. Cette séquence montre une progression rapide entre la conception logique, la fabrication et les premiers essais, sans transformer pour autant le calendrier annoncé en disponibilité commerciale.
Une étape vers le déploiement, pas un produit disponible
OpenAI prévoit un premier déploiement de Jalapeño dans sa propre infrastructure d’ici la fin de 2026 et anticipe une montée en production en 2027. Il s’agit d’un plan annoncé, pas d’un déploiement achevé. La puce n’est pas présentée comme un produit autonome destiné à l’achat par le public.
Cela explique aussi pourquoi la question « Jalapeño remplace-t-il Nvidia ? » appelle une réponse nette : non. OpenAI continue de s’appuyer sur Nvidia et d’autres accélérateurs partenaires pour l’entraînement et pour une infrastructure aux usages variés. Jalapeño vise plutôt à réduire la dépendance à un matériel généraliste sur une partie particulièrement coûteuse du service des modèles.
Le véritable test sera donc l’échelle du déploiement et la diversité des charges prises en charge. Les résultats InferenceX montrent un potentiel intéressant sur les scénarios publiés, mais ils ne suffisent pas à mesurer le comportement d’un système complet sur toutes les conversations longues, les agents ou les générations de modèles à venir.
Ce que Jalapeño change réellement
Pour les utilisateurs, Jalapeño ne constitue pas un composant à acheter ni une nouvelle fonction directement visible. Son intérêt est indirect : si l’architecture tient ses promesses à grande échelle, une meilleure efficacité énergétique et une latence réduite pourraient aider OpenAI à servir davantage de requêtes avec la même infrastructure.
Pour l’industrie, le signal est plus stratégique. OpenAI ne se contente plus de consommer des accélérateurs ; l’entreprise veut ajuster le matériel à ses modèles et à son logiciel. Broadcom apporte son concours au développement du silicium, tandis que l’intégration en rack et en système s’inscrit dans une chaîne plus large.
Le verdict raisonnable tient en une phrase : Jalapeño ressemble à un accélérateur spécialisé prometteur pour l’inférence, pas à une revanche définitive contre Nvidia. Les chiffres publiés sont suffisamment forts pour justifier l’intérêt, mais leur portée reste celle de tests InferenceX ciblés. La suite se jouera dans les charges réelles, l’échelle des déploiements et la capacité d’OpenAI à transformer cette optimisation de toute la pile en avantage durable.
