INT21 zufolge entwickelten KI-Agenten in rund einer Stunde nach dem Zugriff auf Fish Audios Sprachmodell Drama 3 eine Rust-Laufzeitumgebung. Das Unternehmen berichtet außerdem, dass diese Runtime in einem eigenen Test mit drei Prompts schneller abschnitt als SGLang-Omni. Die Messwerte beziehen sich auf einen einzelnen Sprachdatenstrom und zwei NVIDIA-B200-GPUs pro Konfiguration.
Eine Rust-Runtime für Fish Audios Sprachmodell
Drama 3 ist ein Sprachgenerierungsmodell von Fish Audio. INT21 entwickelte nach eigenen Angaben eine Laufzeitumgebung, also Software, die ein trainiertes Modell ausführt. Das Unternehmen beschreibt sie als kompilierte Rust-Runtime ohne Python-Interpreter im Ausführungspfad. Ein neues oder nachtrainiertes Modell entstand dabei nicht.
INT21-Chef und -Gründer Bing Xu schilderte die Entwicklung in einem am 25. Oktober 2026 veröffentlichten Interview: Die Agenten hätten ohne vorzeitigen Zugang zum Modell etwa eine Stunde nach dessen Verfügbarkeit eine funktionierende Runtime erstellt. Dieses Zeitfenster ist INT21s Angabe; ein genauer Kalendertag für das Experiment ist damit nicht verbunden.
So beschreibt INT21 den Agentenprozess
Nach Darstellung des Unternehmens erzeugen die Agenten mögliche Codevarianten, testen sie auf der Zielhardware gegen eine Ausgangsversion und behalten erfolgreiche Änderungen bei. Danach beginnt der Kreislauf erneut. Ingenieure legen laut INT21 die Einschränkungen, die Zielhardware und die Kriterien fest, nach denen eine Änderung akzeptiert wird.
Was der Drei-Prompt-Test maß
INT21 verglich die Rust-Runtime mit SGLang-Omni. Für jede Konfiguration kamen zwei NVIDIA B200 zum Einsatz: eine GPU für die Generierung, die andere für den Codec. Der Test lief mit einem Sprachdatenstrom, einem ersten Abschnitt von einem Frame und 20 Aufwärmdurchläufen pro Prompt.
Die Zeit bis zum ersten Audio bezeichnet die Wartezeit bis zum ersten Sprachabschnitt. Der Durchsatz gibt an, wie viele Audioframes pro Sekunde erzeugt werden. Beim Echtzeitfaktor ist ein niedrigerer Wert besser. Die folgende Tabelle enthält INT21s Messwerte für alle drei Prompts:
| Prompt | Runtime | Zeit bis zum ersten Audio (ms) | Durchsatz (Audioframes/s) | Echtzeitfaktor |
| Hello | INT21 Rust | 15,11 | 223,4 | 0,0964 |
| Hello | SGLang-Omni | 37,79 | 136,9 | 0,1573 |
| Multiple sentences | INT21 Rust | 17,55 | 249,2 | 0,0864 |
| Multiple sentences | SGLang-Omni | 38,61 | 154,9 | 0,1390 |
| Voice reference | INT21 Rust | 23,58 | 231,0 | 0,0932 |
| Voice reference | SGLang-Omni | 38,03 | 145,4 | 0,1481 |
In allen drei Fällen weist INT21 für die Rust-Runtime eine kürzere Wartezeit bis zum ersten Audio, einen höheren Durchsatz und einen niedrigeren Echtzeitfaktor aus. Der Vergleich misst die beiden Runtime-Konfigurationen als Ganzes, nicht einen isolierten Effekt der Programmiersprache. Die Ergebnisse gelten für die drei getesteten Prompts und den beschriebenen Ein-Strom-Test auf zwei B200-GPUs pro Konfiguration.
