OpenAI Jalapeño è un ASIC personalizzato sviluppato con Broadcom per eseguire l’inferenza dei modelli linguistici: in pratica, per servire risposte, generare token e sostenere carichi di lavoro basati su agenti. Nei risultati InferenceX pubblicati da OpenAI, il chip supera in prestazioni per watt e latenza alcune configurazioni Nvidia GB200 e GB300. Ma attenzione al titolo facile: non è una vittoria universale su Nvidia e non è presentato come un sostituto completo delle sue piattaforme.
La vera notizia è più interessante. OpenAI sta cercando di coordinare hardware, memoria, rete, modelli e software per ridurre il costo energetico e la latenza dell’inferenza, cioè la parte dell’AI che entra in gioco ogni volta che un modello deve produrre una risposta.
Che cos’è Jalapeño
Un ASIC, o circuito integrato specifico per un’applicazione, rinuncia a una parte della flessibilità di un acceleratore generalista per essere ottimizzato per un compito preciso. Nel caso di Jalapeño, quel compito è soprattutto il servizio di modelli linguistici già addestrati.
OpenAI ha sviluppato il chip insieme a Broadcom e lo descrive come un elemento della propria infrastruttura interna. L’azienda continua però a considerare Nvidia un fornitore importante e prevede di utilizzare acceleratori Nvidia e di altri partner sia per l’addestramento sia per l’inferenza. Insomma: Jalapeño aggiunge una specializzazione alla flotta, non la cancella con un colpo di spugna.
Il motivo è economico e tecnico allo stesso tempo. L’inferenza richiede di spostare grandi quantità di dati e di produrre token con tempi di risposta contenuti. Un chip costruito intorno a questi colli di bottiglia può puntare a più token per watt e a una risposta più rapida, soprattutto quando il carico è vicino a quello per cui è stato progettato.
La memoria locale è il cuore del progetto
Le specifiche riportate per Jalapeño indicano un pacchetto da 700 W, con memoria HBM4 e una banda fino a 15,4 TB/s. L’architettura è organizzata in 64 sezioni di calcolo, ciascuna associata a una sezione HBM in una struttura di memoria di tipo NUMA.
NUMA, in questo contesto, significa che la distanza tra una porzione di calcolo e la memoria a cui accede non è sempre la stessa. Progettare il sistema tenendo conto di questa vicinanza permette di controllare meglio dove collocare i dati e di limitare gli spostamenti inutili. È un dettaglio da addetti ai lavori, certo, ma ha una conseguenza molto concreta: meno traffico superfluo può significare meno attese e meno energia spesa per ogni risposta.
Il chip integra inoltre una rete collettiva a bassa latenza e una rete NoC general-purpose separata. La prima è pensata per coordinare rapidamente il lavoro tra le sezioni del sistema; la seconda gestisce comunicazioni più generali all’interno del dispositivo. Non è magia: è progettazione mirata dei percorsi che i dati devono seguire.
La scala prevista va oltre il singolo package. Jalapeño può essere organizzato in rack fino a 128 acceleratori e, secondo le specifiche riportate, arrivare a 2.048 ASIC in un pod distribuito su 16 rack. Sono numeri da infrastruttura cloud, non da scheda da installare nel PC di casa.
Cosa dicono davvero i test InferenceX
OpenAI riporta, sui carichi InferenceX selezionati, un vantaggio dal 1,5× all’1,9× nelle prestazioni di picco per watt e una riduzione della latenza end-to-end dal 1,7× al 3,6× rispetto ai sistemi di confronto Nvidia GB200 e GB300.
I risultati pubblicati comprendono tre modelli e metriche diverse. Con GPT-OSS 120B, Jalapeño raggiunge 85.448 token misti al secondo per kW contro i 44.960 del sistema Nvidia GB200. Con DeepSeek R1 670B, il confronto è 19.641 contro 11.781 token misti al secondo per kW rispetto a Nvidia GB300. Con Kimi K2.5 1T, i valori sono 18.195 contro 11.862, ancora rispetto a Nvidia GB300.
Misurando invece i token al secondo per utente, OpenAI riporta 1.459 contro 535 per GPT-OSS 120B, 700 contro 169 per DeepSeek R1 670B e 694 contro 182 per Kimi K2.5 1T. Il primo numero di ogni coppia appartiene a Jalapeño; il secondo al sistema Nvidia indicato per quel test.
L’efficienza per watt è importante perché i data center non pagano soltanto il chip: devono alimentare e raffreddare interi rack. La latenza, invece, pesa sull’esperienza di chi aspetta una risposta e sui carichi agentici composti da molti passaggi consecutivi.
L’infografica riassume i sei confronti senza trasformarli in una classifica assoluta.
Perché i moltiplicatori più grandi vanno letti con cautela
Il valore più spettacolare citato nel materiale di confronto arriva fino a 104,3× di throughput. Non significa che Jalapeño sia 104,3 volte più veloce in generale. Quel dato riguarda un punto operativo specifico, legato al throughput misurato quando il sistema Nvidia è configurato sul proprio punto di latenza minima. È una differenza tra metriche e condizioni di esercizio, non un verdetto universale sul chip migliore.
I numeri sono quelli pubblicati da OpenAI. Alcune esecuzioni selezionate sono state osservate in laboratorio, ma non è stata svolta una valutazione completa delle suite InferenceX e AgentX. Il risultato è quindi interessante e circostanziato, non una certificazione valida per ogni modello, contesto o configurazione di produzione.
Software e progettazione assistita dall’IA
Il vantaggio potenziale di Jalapeño non nasce dal silicio isolato. OpenAI ha lavorato su posizionamento dei dati, scheduling, kernel e ambiente software insieme al progetto hardware. Il risultato dovrebbe essere una catena più controllabile, in cui il chip conosce meglio i modelli e i carichi che dovrà servire.
Il percorso software include Gluon, costruito su astrazioni a basso livello collegate a Triton. Questo approccio può offrire ottimizzazioni molto strette per i carichi di OpenAI, ma ha anche un prezzo: una piattaforma specializzata tende a essere meno portabile di un ecosistema general-purpose già adottato da moltissimi sviluppatori.
OpenAI afferma inoltre di aver usato i propri modelli e Codex per assistere l’esplorazione progettuale, l’ottimizzazione dei circuiti, lo sviluppo dei kernel, il posizionamento dei dati e la pianificazione. È assistenza all’ingegneria, non la prova di un chip generato autonomamente senza progettisti, verifica e validazione umana.
Questo è il punto strategico: OpenAI vuole controllare più livelli dello stack AI. Non deve soltanto comprare acceleratori, ma può allineare il comportamento del modello con quello del compilatore, della memoria e della rete. Se funziona su larga scala, ogni piccolo risparmio per token può diventare significativo; se il carico cambia molto, la specializzazione può diventare un limite.
Un’alternativa specializzata, non la fine di Nvidia
Jalapeño non è presentato come un acceleratore per l’addestramento generale. OpenAI continua a usare Nvidia e altri partner, mentre il nuovo ASIC è orientato soprattutto al servizio dei modelli. Anche per questo la domanda corretta non è «Jalapeño ha battuto Nvidia?», ma «quanto rende una piattaforma progettata intorno a un insieme preciso di carichi di inferenza?».
C’è poi un limite importante al confronto: i risultati pubblicati riguardano sistemi Nvidia GB200 e GB300 e non includono Vera Rubin. Non è quindi corretto usarli per descrivere una sfida diretta con quella generazione Nvidia o per proclamare un vantaggio valido sull’intero mercato.
Lo stesso vale per gli agenti complessi. I risultati disponibili non stabiliscono come Jalapeño si comporti con contesti molto lunghi, conversazioni multi-turno o flussi agentici composti da numerosi passaggi. Per ora, quei numeri non fanno parte del quadro pubblico utilizzabile per giudicare il chip.
OpenAI ha annunciato Jalapeño il 24 giugno 2026 e ha pubblicato i primi risultati misurati il 25 agosto 2026. La sequenza di sviluppo riportata colloca l’avvio del lavoro RTL nel febbraio 2025, il tape-out nel novembre 2025 e l’arrivo del primo silicio nel maggio 2026: nove mesi tra RTL iniziale e tape-out, non nove mesi per l’intero programma hardware.
L’azienda prevede di iniziare l’implementazione di Jalapeño nella propria infrastruttura entro la fine del 2026 e indica il 2027 come periodo di crescita della produzione. Sono piani futuri, non una disponibilità commerciale già completata. Per chi cerca un prodotto da acquistare, dunque, la risposta è semplice: Jalapeño è un componente dell’infrastruttura di OpenAI, non una scheda retail.
Il punto finale
Jalapeño è importante perché mostra dove si sta spostando la competizione nell’AI: non soltanto verso più calcolo, ma verso più calcolo utile per watt, con meno latenza e meno dati in movimento. I test InferenceX di OpenAI indicano un vantaggio concreto su configurazioni Nvidia selezionate, ma entro condizioni precise e senza una comparazione con Vera Rubin.
La lettura più solida è quindi meno rumorosa e più interessante: OpenAI sta costruendo un acceleratore specializzato per controllare meglio il costo dell’inferenza. Nvidia resta nella flotta. Il vero banco di prova sarà capire quanto questa architettura si comporterà bene su carichi diversi e quanto il piano di implementazione riuscirà a trasformare i benchmark in infrastruttura operativa.
