A INT21 afirma que seus agentes criaram um runtime de inferência em Rust para o modelo de voz Drama 3 em cerca de uma hora após obter acesso ao modelo, sem acesso antecipado. Em entrevista publicada em 25 de outubro de 2026, Bing Xu, CEO e fundador da empresa, disse que o runtime superou o SGLang-Omni nos testes da INT21.
Um runtime de inferência é o software que executa um modelo já treinado. A INT21 criou esse software para o Drama 3, modelo de geração de fala da Fish Audio, sem treinar um modelo novo.
Como a INT21 descreve o trabalho dos agentes
Segundo a INT21, os agentes geram versões de código, testam cada uma contra uma referência no hardware de destino, mantêm as mudanças que funcionam e repetem o ciclo. Engenheiros definem as restrições, o hardware-alvo e os critérios de aceitação.
A empresa diz que o runtime foi compilado em Rust e não usa um interpretador Python no caminho de execução. Essa é uma característica da implementação da INT21, não uma explicação isolada para os resultados do benchmark.
O que os três prompts mediram
A INT21 comparou seu runtime com o SGLang-Omni usando dois NVIDIA B200 por configuração: um para gerar a fala e outro para o codec. O teste teve um fluxo de fala, um primeiro trecho de um frame e 20 rodadas de aquecimento para cada prompt.
O tempo até o primeiro áudio mede a espera pelo primeiro trecho de fala; a vazão indica quantos quadros de áudio são gerados por segundo. Para o fator de tempo real, valores menores são melhores, segundo a INT21.
| Prompt | Runtime | Tempo até o primeiro áudio (ms; menor é melhor) | Vazão (quadros de áudio/s; maior é melhor) | Fator de tempo real (menor é melhor) |
| Hello | INT21 Rust | 15,11 | 223,4 | 0,0964 |
| Hello | SGLang-Omni | 37,79 | 136,9 | 0,1573 |
| Multiple sentences | INT21 Rust | 17,55 | 249,2 | 0,0864 |
| Multiple sentences | SGLang-Omni | 38,61 | 154,9 | 0,1390 |
| Voice reference | INT21 Rust | 23,58 | 231,0 | 0,0932 |
| Voice reference | SGLang-Omni | 38,03 | 145,4 | 0,1481 |
Nos três prompts, os números divulgados pela INT21 apontam menor tempo até o primeiro áudio, maior vazão e menor fator de tempo real para seu runtime Rust. A comparação mede as duas implementações completas; não isola o efeito da ausência de Python.
Um teste local usou outro runtime
Em 21 de outubro de 2026, Tonbi's AI Garage executou localmente uma versão sem quantização do Drama 3 pelo SGLang Omni em um NVIDIA DGX Spark e demonstrou clonagem de voz. Esse teste usou o SGLang Omni, não o runtime Rust da INT21.
