OpenAI’s Jalapeño is een speciaal ontwikkelde ASIC voor AI-inferentie: het uitvoeren van getrainde taalmodellen en het genereren van antwoorden. In geselecteerde InferenceX-tests rapporteert OpenAI hogere prestaties per watt en lagere latency dan bepaalde Nvidia GB200- en GB300-systemen. Dat is interessant nieuws, maar geen bewijs dat Nvidia als geheel buitenspel staat. Jalapeño is ontworpen als aanvulling op OpenAI’s bestaande infrastructuur.
Wat Jalapeño is
Een ASIC is een chip die voor een specifieke taak wordt ontworpen, in plaats van voor een brede reeks toepassingen. Jalapeño richt zich primair op het bedienen van grote taalmodellen. Training — waarbij een model wordt opgebouwd — is een ander soort workload dan inferentie, waarbij het model antwoorden berekent voor gebruikers.
OpenAI ontwikkelde de chip samen met Broadcom. Die samenwerking past in een bredere poging om meer onderdelen van de AI-stack zelf te beheersen: van het model en de software tot het geheugen, de netwerken en de hardware waarop antwoorden worden gegenereerd. Minder gegevensverplaatsing en een lagere reactietijd kunnen vooral belangrijk zijn wanneer een systeem veel opeenvolgende stappen uitvoert, zoals bij agentachtige toepassingen.
Een architectuur die data lokaal houdt
Jalapeño is niet bedoeld als een algemene GPU voor elk soort AI-werk. De architectuur is afgestemd op de modellen en diensten die OpenAI zelf wil draaien. Volgens de technische beschrijving bestaat de chip uit 64 rekeneenheden die elk met een lokaal deel van het HBM-geheugen zijn verbonden. Dat is een NUMA-achtige opzet: de afstand tussen rekenwerk en geheugen wordt zo een expliciet onderdeel van de planning.
Die specialisatie kan efficiënt zijn wanneer de software precies weet waar data moet staan en welke bewerkingen vaak terugkeren. Het nadeel is minder algemene flexibiliteit dan in een breed inzetbaar GPU-platform. Nvidia heeft bovendien een veel groter software-ecosysteem, terwijl Jalapeño afhankelijk is van OpenAI’s eigen stack, waaronder Gluon en Triton-gerelateerde abstraheringen.
OpenAI gebruikte zijn modellen en Codex naar eigen zeggen onder meer voor ontwerpverkenning, optimalisatie, kernelontwikkeling, dataplacement en planning. Dat betekent niet dat een productiechip zonder menselijke engineering en validatie is gegenereerd. Het laat vooral zien hoe nauw hardware en software hier op elkaar worden afgestemd.
De InferenceX-resultaten lezen
OpenAI publiceerde op 25 augustus 2026 de eerste gemeten resultaten. Over drie geselecteerde workloads rapporteert het bedrijf 1,5 tot 1,9 keer hogere piekprestaties per watt, 1,7 tot 3,6 keer lagere end-to-end-latency en 2,1 tot 4,1 keer minder tijd tussen tokens dan de gebruikte Nvidia-systemen.
De vergelijking normaliseert prestaties op basis van pakketvermogen. Dat is relevant voor datacenters, waar niet alleen de snelheid van één chip telt, maar ook hoeveel antwoorden een installatie binnen haar energie- en koelingsbudget kan leveren. De cijfers hieronder vergelijken concrete configuraties en zijn geen algemene uitspraak over alle Nvidia-hardware.
Software en AI-ondersteund ontwerp
De opvallendste eigenschap van Jalapeño is misschien niet één afzonderlijk onderdeel, maar de combinatie. OpenAI kan de chip ontwerpen rond zijn eigen modellen, de manier waarop tokens worden gegenereerd en de software die de hardware aanstuurt. Daardoor hoeft het niet dezelfde balans te kiezen tussen algemene toepasbaarheid en inferentie-efficiëntie als een leverancier van brede AI-accelerators.
Dat model heeft wel een prijs. Optimalisaties die uitstekend werken voor OpenAI’s eigen workloads zijn niet automatisch overdraagbaar naar andere modellen, langere contexten of andere softwareomgevingen. Een gespecialiseerde ASIC kan dus zeer efficiënt zijn binnen zijn ontworpen speelveld, terwijl een GPU aantrekkelijker blijft wanneer flexibiliteit, compatibiliteit en brede softwareondersteuning vooropstaan.
Van RTL naar silicon in negen maanden
De gerapporteerde ontwikkeltijd van negen maanden verwijst naar een specifieke fase: het eerste RTL-werk begon in februari 2025 en het ontwerp bereikte tape-out in november 2025. De eerste silicon arriveerde volgens OpenAI’s technische tijdlijn in mei 2026.
OpenAI en Broadcom onthulden Jalapeño publiekelijk op 24 juni 2026. De eerste prestatiecijfers volgden op 25 augustus. OpenAI heeft daarnaast gezegd dat het de chip tegen het einde van 2026 in zijn eigen infrastructuur wil gaan inzetten en dat de productie in 2027 verder moet opschalen. Dat zijn plannen, geen afgeronde beschikbaarheidsclaims.
Waarom dit Nvidia niet meteen vervangt
Het korte antwoord is: nee, Jalapeño vervangt Nvidia niet. OpenAI zegt Nvidia en andere accelerators breed te blijven gebruiken voor training en inferentie. Dat is logisch: een gespecialiseerde inferentiechip kan een specifieke taak efficiënter uitvoeren, maar neemt niet automatisch alle trainings-, onderzoeks- en compatibiliteitsbehoeften van een AI-platform over.
Ook de vergelijking zelf heeft een duidelijke reikwijdte. De gepubliceerde resultaten gebruiken Nvidia GB200- en GB300-systemen; Nvidia Vera Rubin zit er niet in. De grootste verschillen zijn bovendien gemeten bij specifieke latency-instellingen. Een extreem hoge throughputverhouding op zo’n operationeel punt mag je dus niet vertalen naar “de chip is overal tientallen keren sneller”.
De numerieke resultaten zijn door OpenAI aangeleverd. Bij geselecteerde runs is de testopzet geobserveerd, maar de volledige InferenceX- en AgentX-suites zijn niet uitgevoerd. De openbare cijfers laten daardoor wel zien waar OpenAI een voordeel claimt, maar nog niet hoe Jalapeño presteert bij lange contexten, meerstapsdialogen of complexe agentworkloads.
De kern
Jalapeño is vooral een infrastructuurzet. OpenAI probeert niet simpelweg een algemene GPU na te bouwen, maar een deel van zijn eigen AI-dienstverlening rond gespecialiseerde hardware te organiseren. Als de efficiëntiewinst in de praktijk standhoudt, kan dat de kosten en het energiegebruik van inferentie helpen drukken.
De juiste conclusie is daarom bescheidener dan een Nvidia-overwinning: OpenAI heeft een gespecialiseerde ASIC ontwikkeld die in geselecteerde, door het bedrijf gepubliceerde tests sterke resultaten laat zien. De betekenis ervan hangt af van de uiteindelijke inzet, de schaal en de prestaties buiten dit afgebakende benchmarkvenster.
