Nell’intervista pubblicata il 25 ottobre 2026, INT21 ha dichiarato che il suo sciame di agenti ha realizzato un runtime di inferenza in Rust per Drama 3 in circa un’ora dall’accesso pubblico al modello, senza accesso anticipato. L’azienda ha anche riportato risultati migliori di SGLang-Omni in un test su tre prompt, eseguito con due NVIDIA B200 e un solo flusso vocale.
Drama 3 è il modello di generazione vocale di Fish Audio. Il runtime è il software che esegue il modello durante l’inferenza: INT21 descrive il proprio come compilato in Rust e privo di un interprete Python nel percorso di servizio. Non è un nuovo modello né un modello riaddestrato.
Come INT21 descrive il lavoro degli agenti
Secondo INT21, gli ingegneri definiscono i vincoli, l’hardware di destinazione e i criteri di accettazione. Gli agenti generano implementazioni candidate, le provano sull’hardware scelto e conservano le modifiche che superano i test, ripetendo il ciclo.
I risultati sui tre prompt
INT21 ha confrontato il runtime Rust con SGLang-Omni usando due NVIDIA B200 per ciascuna configurazione, una dedicata alla generazione e l’altra al codec. La prova comprendeva un flusso vocale, un primo frammento di un frame e 20 prove a caldo per ciascuno dei tre prompt.
Il tempo al primo audio misura l’attesa prima del primo frammento vocale; un valore inferiore indica una risposta più rapida. Il throughput indica quanti fotogrammi audio vengono generati al secondo, quindi un valore maggiore indica più output. Il fattore di tempo reale è la terza metrica riportata da INT21: anche qui, valori inferiori favoriscono il runtime.
| Prompt | Runtime | Tempo al primo audio (ms) | Throughput (fotogrammi audio/s) | Fattore di tempo reale |
| Hello | INT21 Rust | 15,11 | 223,4 | 0,0964 |
| Hello | SGLang-Omni | 37,79 | 136,9 | 0,1573 |
| Multiple sentences | INT21 Rust | 17,55 | 249,2 | 0,0864 |
| Multiple sentences | SGLang-Omni | 38,61 | 154,9 | 0,1390 |
| Voice reference | INT21 Rust | 23,58 | 231,0 | 0,0932 |
| Voice reference | SGLang-Omni | 38,03 | 145,4 | 0,1481 |
Nei tre prompt, i valori riportati da INT21 favoriscono il suo runtime in tutte le metriche: il tempo al primo audio e il fattore di tempo reale sono inferiori, mentre il throughput è maggiore. Il confronto riguarda le prestazioni complessive delle due implementazioni in questa prova a flusso singolo; il runtime Rust e SGLang-Omni sono i sistemi messi a confronto, non un test isolato di Rust contro Python. La configurazione descritta comprende tre prompt e due B200 per runtime.
