OpenAI Jalapeño to specjalizowany układ ASIC (application-specific integrated circuit) opracowany z Broadcom przede wszystkim do inferencji dużych modeli językowych, czyli obsługi wytrenowanych modeli i generowania odpowiedzi. W opublikowanych testach InferenceX OpenAI raportuje od 1,5 do 1,9 raza wyższą szczytową wydajność na wat oraz od 1,7 do 3,6 raza niższe opóźnienia niż w wybranych systemach Nvidia GB200 i Nvidia GB300. To mocny wynik — ale nie dowód na zastąpienie całej infrastruktury Nvidia.

Czym jest Jalapeño

Najprościej: Jalapeño ma sprawnie obsługiwać zapytania do modeli, a nie być uniwersalnym akceleratorem do każdego zadania związanego ze sztuczną inteligencją. OpenAI projektowało go pod własne obciążenia inferencyjne, gdzie liczą się koszt każdego wygenerowanego tokena, zużycie energii i czas oczekiwania na odpowiedź.

To ważne rozróżnienie. Trenowanie modeli i ich późniejsze uruchamianie to różne zadania, choć oba wymagają potężnych układów obliczeniowych. Materiały OpenAI przedstawiają Jalapeño jako akcelerator inferencji; firma deklaruje jednocześnie, że nadal będzie szeroko wykorzystywać układy Nvidia oraz inne akceleratory partnerów do trenowania i inferencji.

Architektura oparta na lokalnej pamięci

Raportowana konstrukcja Jalapeño obejmuje pakiet o mocy znamionowej 700 W, przepustowość pamięci do 15,4 TB/s oraz 64 fragmenty rdzeni zestawione z lokalnymi fragmentami HBM w układzie przypominającym architekturę NUMA. W praktyce chodzi o ograniczenie kosztownych podróży danych: pamięć znajduje się bliżej części obliczeniowej, która jej potrzebuje.

Układ ma również niskolatencyjną sieć do operacji kolektywnych oraz oddzielny, ogólny interfejs NoC (network-on-chip). Taki podział pasuje do pracy z dużymi modelami rozłożonymi na wiele akceleratorów. Według przedstawionych parametrów Jalapeño może skalować się do 128 akceleratorów w jednym racku i do 2048 układów w 16-rackowym klastrze.

To nie jest specyfikacja karty do komputera stacjonarnego. Jalapeño ma sens jako element dużej infrastruktury serwerowej, w której nawet niewielka poprawa wydajności na wat powtarza się przy ogromnej liczbie żądań.

Co naprawdę pokazują testy InferenceX

OpenAI Jalapeño: wyspecjalizowany układ do inferencji, nie koniec ery Nvidia

OpenAI porównywało Jalapeño z konkretnymi systemami Nvidia GB200 i Nvidia GB300, używając modeli GPT-OSS 120B, DeepSeek R1 670B oraz Kimi K2.5 1T. Wskaźnik wydajności na wat normalizuje wynik względem poboru mocy pakietu, dlatego nie jest tym samym co ogólna szybkość pojedynczego układu.

W testach OpenAI Jalapeño osiągnął 85 448 mieszanych tokenów/s/kW dla GPT-OSS 120B wobec 44 960 w systemie Nvidia GB200. Dla DeepSeek R1 670B było to 19 641 wobec 11 781 w Nvidia GB300, a dla Kimi K2.5 1T — 18 195 wobec 11 862 w Nvidia GB300.

W pomiarze tokenów na użytkownika wartości wyniosły odpowiednio 1 459 wobec 535 dla GPT-OSS 120B, 700 wobec 169 dla DeepSeek R1 670B oraz 694 wobec 182 dla Kimi K2.5 1T. OpenAI podaje też niższy minimalny czas między tokenami, sięgający od 2,1 do 4,1 raza w zależności od obciążenia.

Największe mnożniki trzeba czytać ostrożnie. W jednym zestawieniu OpenAI wskazuje nawet 104,3 raza większą przepustowość, ale dotyczy to punktu pracy Nvidia ustawionego pod minimalne opóźnienie. Nie oznacza to, że Jalapeño jest 104,3 raza szybszy w każdym scenariuszu. Benchmarki mają swoje sztuczki — a diabeł, jak zwykle, siedzi w warunkach pomiaru.

Wyniki liczbowe pochodzą od OpenAI. Część przebiegów obserwowano w laboratorium, lecz nie wykonano pełnego zestawu InferenceX ani testów AgentX. Dlatego dane są istotnym sygnałem o możliwościach wyspecjalizowanego układu, ale nie pełnym werdyktem na temat zachowania w produkcji.

Oprogramowanie i projektowanie wspierane przez AI

Jalapeño jest przykładem współprojektowania sprzętu i oprogramowania. OpenAI mogło dopasować układ, rozmieszczenie danych, harmonogramowanie i warstwę obsługi do modeli oraz sposobu, w jaki samo świadczy usługi AI. Do prac optymalizacyjnych, tworzenia jąder obliczeniowych, rozmieszczania danych i planowania wykorzystano modele OpenAI oraz Codex.

W stosie programistycznym pojawia się Gluon, oparty na niskopoziomowych abstrakcjach powiązanych z Triton. Taka specjalizacja może pomagać w przewidywalnych, dobrze znanych obciążeniach OpenAI. Ma jednak cenę: im mocniej akcelerator jest dopasowany do określonych modeli i sposobu ich uruchamiania, tym mniej oczywista staje się jego uniwersalność oraz przenośność oprogramowania znana z ekosystemu Nvidia.

Nie należy z tego robić opowieści o układzie „wygenerowanym przez AI”. Sztuczna inteligencja wspierała wybrane etapy projektowania i optymalizacji, ale przedstawione informacje dotyczą procesu inżynieryjnego obejmującego architekturę, weryfikację i walidację sprzętu.

Od RTL do krzemu w dziewięć miesięcy

Raportowana oś rozwoju wygląda następująco: prace nad początkowym RTL rozpoczęły się w lutym 2025 roku, projekt osiągnął etap tape-out w listopadzie 2025 roku, a pierwszy krzem dotarł w maju 2026 roku. Dziewięć miesięcy odnosi się więc do odcinka od początkowych prac RTL do tape-out, a nie do całego przedsięwzięcia OpenAI.

OpenAI publicznie pokazało Jalapeño 24 czerwca 2026 roku, a pierwsze zmierzone wyniki opublikowało 25 sierpnia 2026 roku. Firma zapowiada rozpoczęcie wdrażania układu we własnej infrastrukturze do końca 2026 roku, a dalsze zwiększanie produkcji w 2027 roku. To plan rozwoju, nie potwierdzenie powszechnej dostępności.

Wyspecjalizowany akcelerator, nie koniec Nvidia

Czy Jalapeño zastąpi Nvidia? Nie taki jest obraz przedstawiony przez OpenAI. Firma opisuje własny układ jako element mieszanej infrastruktury i nadal wskazuje Nvidia jako ważnego dostawcę. Jalapeño ma przejąć część obciążeń inferencyjnych, dla których opłaca się poświęcić ogólną elastyczność na rzecz efektywności, opóźnień i kontroli nad całym stosem.

Trzeba też pamiętać, że opublikowane zestawienie dotyczy wybranych systemów Nvidia GB200 i Nvidia GB300. Nie obejmuje Nvidia Vera Rubin. Nie pokazuje również, jak Jalapeño radzi sobie z długim kontekstem, wieloturowymi sesjami ani złożonymi przepływami agentowymi. Te scenariusze mogą mieć zupełnie inne wąskie gardła niż krótkie, powtarzalne obciążenia benchmarkowe.

Dla odbiorcy końcowego nie jest to produkt, który można kupić i zamontować w komputerze. Znaczenie Jalapeño jest infrastrukturalne: jeśli plan OpenAI się powiedzie, wyspecjalizowany sprzęt może obniżyć koszt obsługi dużej liczby zapytań i skrócić czas odpowiedzi w usługach firmy. Na razie najuczciwszy wniosek brzmi mniej efektownie, ale jest ważniejszy: OpenAI buduje własną przewagę w inferencji, jednocześnie pozostawiając Nvidia miejsce w pozostałych częściach stosu.

Właśnie na tym polega sedno Jalapeño. Nie na jednym krzykliwym mnożniku, lecz na próbie zgrania układu, pamięci, sieci, oprogramowania i modeli pod konkretne zadanie. To może być bardzo skuteczna strategia — pod warunkiem, że wyniki utrzymają się poza wybranymi punktami benchmarku i przy rzeczywistych obciążeniach agentowych.