En una entrevista publicada el 25 de octubre de 2026, Bing Xu, consejero delegado y fundador de INT21, afirmó que los agentes de la empresa crearon en aproximadamente una hora un runtime de inferencia en Rust para Drama 3, sin acceso anticipado al modelo. INT21 también comunicó resultados superiores a los de SGLang-Omni en una prueba con tres prompts y dos NVIDIA B200 por configuración.

Un runtime de inferencia es el software que ejecuta un modelo ya entrenado. En este caso, Drama 3 es el modelo de generación de voz de Fish Audio; INT21 describe su trabajo como software para ejecutarlo, no como un modelo nuevo.

Cómo describe INT21 el trabajo de sus agentes

INT21 afirma que sus ingenieros fijan las restricciones, el hardware objetivo y los criterios de aceptación. Después, los agentes generan variantes de código, las prueban frente a una versión de referencia en ese hardware, conservan los cambios que funcionan y repiten el ciclo.

La empresa dice que su runtime está escrito en Rust y que la ruta de servicio no incluye un intérprete de Python. Ese dato describe la implementación de INT21, mientras que el rendimiento se midió al comparar el runtime completo con SGLang-Omni.

Qué midió la comparación de INT21

INT21 comparó ambos runtimes con dos NVIDIA B200 por configuración: una GPU para generar voz y otra para el códec. Cada prueba utilizó un flujo de voz, un primer fragmento de un fotograma y 20 ejecuciones en caliente para cada prompt.

El tiempo hasta el primer audio mide cuánto tarda en llegar el primer fragmento de voz. El rendimiento cuenta los fotogramas de audio generados por segundo. En el factor de tiempo real, un valor menor es mejor. Estas son las cifras que INT21 publicó para cada caso:

PromptRuntimeTiempo hasta el primer audio (ms)Fotogramas de audio por segundoFactor de tiempo real
HelloINT21 Rust15,11223,40,0964
HelloSGLang-Omni37,79136,90,1573
Multiple sentencesINT21 Rust17,55249,20,0864
Multiple sentencesSGLang-Omni38,61154,90,1390
Voice referenceINT21 Rust23,58231,00,0932
Voice referenceSGLang-Omni38,03145,40,1481

En los tres prompts, INT21 comunicó menos tiempo hasta el primer audio, más fotogramas de audio por segundo y un factor de tiempo real menor que SGLang-Omni. La comparación se limita a un flujo de voz y a esos tres prompts en la configuración indicada.

Qué dice el test sobre Rust y Python

INT21 atribuye la mejora a su runtime en Rust, pero la comparación enfrenta dos implementaciones completas y no varía únicamente la presencia de Python. Por tanto, los resultados no permiten separar el efecto de retirar Python del resto de las diferencias entre los runtimes.