INT21 zegt dat zijn agentzwerm in ongeveer een uur na toegang tot Drama 3 een werkende inferenceruntime in Rust bouwde, zonder vroege toegang tot het model. Zo’n runtime is software die een getraind model uitvoert. Het gaat dus om software voor Fish Audio’s bestaande spraakgeneratiemodel Drama 3, niet om een nieuw getraind model.
Hoe INT21 de runtime zegt te hebben gebouwd
INT21 beschrijft een ontwikkelcyclus waarin agents codevarianten maken en die op de doelhardware tegen een uitgangsversie testen. Werkende aanpassingen blijven behouden, waarna de cyclus opnieuw begint. Ingenieurs bepalen volgens het bedrijf de randvoorwaarden, de hardware en de criteria waaraan een bruikbare versie moet voldoen.
INT21-CEO en oprichter Bing Xu deed de uitspraak over de bouwtijd in een interview dat op 25 oktober 2026 werd gepubliceerd. Die publicatiedatum is niet de vastgestelde datum waarop de runtime werd gebouwd.
De gerapporteerde resultaten voor drie prompts
INT21 vergeleek zijn Rust-runtime met SGLang-Omni. Beide configuraties gebruikten twee NVIDIA B200-GPU’s: één voor het genereren van spraak en één voor de codec. De test omvatte één spraakstream, een eerste audiofragment van één frame en 20 opwarmruns per prompt.
Tijd tot eerste audio is de wachttijd voordat het eerste spraakfragment verschijnt; een lagere waarde betekent dat het eerder begint. Throughput is het aantal gegenereerde audioframes per seconde; hoger betekent meer frames per seconde. INT21 rapporteerde daarnaast de real-timefactor, waarbij de lagere waarde in de vergelijking gunstiger is.
| Prompt | Runtime | Tijd tot eerste audio (ms) | Throughput (audioframes/s) | Real-timefactor |
| Hello | INT21 Rust | 15,11 | 223,4 | 0,0964 |
| Hello | SGLang-Omni | 37,79 | 136,9 | 0,1573 |
| Multiple sentences | INT21 Rust | 17,55 | 249,2 | 0,0864 |
| Multiple sentences | SGLang-Omni | 38,61 | 154,9 | 0,1390 |
| Voice reference | INT21 Rust | 23,58 | 231,0 | 0,0932 |
| Voice reference | SGLang-Omni | 38,03 | 145,4 | 0,1481 |
In alle drie de prompts rapporteerde INT21 een kortere wachttijd tot het eerste audiofragment, meer audioframes per seconde en een lagere real-timefactor voor zijn eigen runtime. De cijfers zijn resultaten van deze vergelijking op twee B200-GPU’s per configuratie en één spraakstream.
Wat de vergelijking zegt over Rust en Python
INT21 zegt dat in de serveerroute van zijn runtime geen Python-interpreter zit. De test vergelijkt de volledige INT21- en SGLang-Omni-runtimes. Daardoor zijn de gemeten verschillen resultaten van die complete implementaties samen, geen afzonderlijke meting van Python tegenover Rust.
