OpenAI ha presentato Ultrafast, un livello di servizio dell’API OpenAI per GPT-5.6 Sol che usa l’infrastruttura di Cerebras Systems e viene dichiarato fino a 750 token di output al secondo, cioè fino a 14 volte l’elaborazione Standard. La novità riguarda il modo in cui il modello viene eseguito, non l’arrivo di un nuovo modello: per ora l’accesso è una preview limitata riservata a clienti API selezionati.
Ultrafast è un livello API, non un nuovo modello
La distinzione conta. Ultrafast non sostituisce GPT-5.6 Sol e non è una nuova versione del modello: è un livello di servizio pensato per ridurre il tempo di risposta nelle applicazioni costruite sull’API OpenAI. Non viene descritto come una funzione generale di ChatGPT.
| Dimensione | GPT-5.6 Sol con Ultrafast | Implicazione pratica |
| Tipo di servizio | Livello Ultrafast dell’API OpenAI | Riguarda le applicazioni che usano l’API, non un nuovo modello |
| Modello | GPT-5.6 Sol | Le capacità del modello e l’infrastruttura di esecuzione sono aspetti distinti |
| Velocità dichiarata | Fino a 750 token di output al secondo; fino a 14× rispetto all’elaborazione Standard | Il dato indica un massimo pubblicizzato, non la velocità garantita per ogni richiesta |
| Infrastruttura | Cerebras Systems e architettura wafer-scale | La generazione viene eseguita su un’infrastruttura diversa da quella Standard indicata nell’annuncio |
| Accesso | Preview limitata per clienti API selezionati | Non è un rollout generale per gli utenti di ChatGPT |
| Prezzo e disponibilità generale | Non è stato annunciato un prezzo dedicato né una data di disponibilità generale | Il servizio non ha ancora un quadro pubblico completo per l’adozione su larga scala |
Come leggere il dato dei 750 token al secondo
“Fino a 750 token al secondo” descrive il ritmo massimo di generazione dell’output. Un token è una piccola unità di testo: può corrispondere a una parola, a parte di una parola o a un segno. Il numero è utile per capire la capacità di produrre testo rapidamente, ma non equivale alla latenza totale di un’applicazione.
Tra l’invio della richiesta e il risultato finale entrano in gioco anche l’elaborazione dell’input, eventuali strumenti esterni, la lunghezza del contesto, la coda del servizio e il lavoro necessario per completare l’attività. Il dato pubblicizzato, quindi, non stabilisce da solo la latenza p95 sotto carico, il comportamento con molte richieste simultanee, il costo per attività completata o il tempo necessario a portare a termine ogni processo.
È una differenza meno spettacolare del “14×”, ma molto più importante per chi deve progettare un prodotto. Un assistente vocale, un agente che analizza incidenti o un’interfaccia di ricerca interattiva possono beneficiare di risposte più rapide; il vantaggio concreto dipenderà comunque dall’intero flusso, non soltanto dal ritmo con cui compaiono i token.
La parte di Cerebras: inferenza wafer-scale
Cerebras Systems fornisce l’infrastruttura di inferenza, cioè la parte che esegue il modello quando deve generare una risposta. L’azienda collega Ultrafast alla propria architettura Wafer-Scale Engine e riferisce che i pesi del modello restano sul chip, con 44 GB di SRAM per chip wafer-scale.
La SRAM è una memoria molto rapida, vicina all’elaborazione. In linea generale, mantenere i dati del modello più vicino ai calcoli può ridurre gli spostamenti di dati che incidono sulla velocità. Questo spiega il ruolo tecnico di Cerebras nella collaborazione, ma non trasforma il dato architetturale in una prova indipendente dei 750 token al secondo: l’architettura e la prestazione pubblicizzata sono due informazioni diverse.
Cerebras ha inoltre presentato risultati propri su attività come Humanity’s Last Exam e GDP-Val. Sono benchmark aziendali utili per capire come il fornitore descrive il sistema, ma non rappresentano automaticamente una misurazione indipendente o una garanzia per ogni carico di lavoro.
Dalla risposta agli incidenti al codice in tempo reale
Il caso d’uso più concreto mostrato da OpenAI riguarda un’interfaccia per analizzare un incidente di sicurezza. La dimostrazione visualizza log, metriche e operazioni sui file mentre il sistema indaga il problema; in un altro passaggio mostra un flusso di refactoring continuo del codice.
Secondo la dimostrazione, una procedura interna di raccolta, organizzazione, normalizzazione e arricchimento dei dati sarebbe passata da una o due ore a circa 10-15 minuti. È un risultato presentato da OpenAI all’interno della propria dimostrazione, non un benchmark indipendente di produzione. La differenza è fondamentale: il video mostra bene il tipo di interazione che Ultrafast vuole rendere possibile, ma non stabilisce che ogni azienda otterrà lo stesso tempo.
OpenAI indica inoltre scenari come assistenza vocale, commercio, programmazione, ricerca finanziaria, risposta agli incidenti, sicurezza e sperimentazione dal vivo. In tutti questi casi la latenza può cambiare il modo in cui si usa un sistema: un agente può sostenere più rapidamente un dialogo, aggiornare un’analisi o passare da un’ipotesi all’altra. Non significa però che Ultrafast sia già disponibile per questi impieghi senza condizioni, né che sia adatto al trading ad alta frequenza o che garantisca requisiti normativi specifici.
Anteprima limitata, prezzo e disponibilità
Il servizio è attualmente descritto come una preview limitata per un gruppo selezionato di clienti dell’API OpenAI. OpenAI ha indicato l’intenzione di ampliare l’accesso con la crescita della capacità, ma non ha annunciato una data di disponibilità generale.
Anche il prezzo dedicato di Ultrafast non è stato annunciato. Le tariffe Standard dell’API non possono essere usate come sostituto del listino Ultrafast: velocità, infrastruttura e condizioni commerciali potrebbero appartenere a un livello diverso.
Per chi sviluppa in Italia, la conclusione pratica è semplice: oggi Ultrafast va considerato come un’infrastruttura API in anteprima, non come un’opzione già disponibile dentro ChatGPT. Il suo interesse è massimo per team che lavorano su voce, agenti interattivi, coding e risposta agli incidenti; per valutare un’adozione servono ancora prezzo, condizioni di accesso e dati completi sul comportamento sotto carico.
La promessa è notevole: portare GPT-5.6 Sol verso un’interazione molto più rapida grazie a Cerebras Systems. Ma il numero da 750 token al secondo è l’inizio della valutazione, non la fine. La domanda decisiva sarà quanto Ultrafast ridurrà davvero il tempo e il costo dei processi completi quando il servizio uscirà dalla preview.
