De openbare modelkaart van LFM2.5-24B-A2B-DSpark beschrijft het als een draftmodel voor LFM2.5-24B-A2B. Het kleinere model stelt tokens voor; het doelmodel controleert die. Liquid AI rapporteert hogere doorvoer dan met het doelmodel alleen, met resultaten die per dataset en aantal gelijktijdige verzoeken verschillen.
OrcaRouter meldde op 21 oktober 2026 dat de repository op 19 oktober op Hugging Face was verschenen.
Hoe speculatief decoderen werkt
Bij speculatief decoderen maakt het draftmodel alvast tokenvoorstellen. Het doelmodel, LFM2.5-24B-A2B, controleert die voorstellen. DSpark vervangt het doelmodel dus niet. De draftvariant heeft 327,7 miljoen parameters in BF16 en een blokgrootte van 9.
Doorvoer verschilt per dataset en gelijktijdigheid
Liquid AI rapporteert de onderstaande throughputverhoudingen ten opzichte van LFM2.5-24B-A2B zonder draftmodel. De cijfers komen uit tests met één NVIDIA B300, een doelmodel in FP8, een BF16-KV-cache en temperatuur 0. De waarden voor tokens per stap zijn gemeten bij concurrency 1; ze omvatten de bonus-token van het doelmodel. De opgegeven bovengrens is 10 tokens.
| Dataset | Tokens per stap | Doorvoer bij concurrency 1 | Doorvoer bij concurrency 32 | Doorvoer bij concurrency 256 |
| MATH-500 | 5,61 | 2,63× | 3,04× | 1,79× |
| GSM8K | 4,46 | 1,71× | 2,56× | 2,15× |
| HumanEval | 4,61 | 2,23× | 2,63× | 1,64× |
| MBPP | 6,70 | 3,08× | 3,28× | 1,64× |
| MT-Bench | 5,77 | 2,66× | 2,47× | 1,81× |
| SimpleQA | 5,22 | 2,48× | 2,91× | 1,95× |
| LiveCodeBench | 4,02 | 1,87× | 2,20× | 1,34× |
| AIME | 4,90 | 2,35× | 2,45× | 1,36× |
| Rekenkundig gemiddelde | 5,16 | 2,38× | 2,69× | 1,71× |
Het gemiddelde verhult flinke verschillen. Bij MBPP bedraagt de gerapporteerde verhouding 3,08× bij concurrency 1 en 3,28× bij concurrency 32, maar 1,64× bij concurrency 256. Voor LiveCodeBench zijn de cijfers respectievelijk 1,87×, 2,20× en 1,34×. De uitkomsten hangen dus samen met zowel de workload als het aantal gelijktijdige verzoeken.
De modelkaart beschrijft deze resultaten als prestatiemetingen, niet als metingen van taaknauwkeurigheid. Ook waarschuwt Liquid AI dat verschillen in drijvende-kommagetallen tussen gebatchte verificatie en gewone decodering andere tekst kunnen opleveren, zelfs bij greedy sampling.
SGLang-configuratie
Liquid AI beschrijft een SGLang-configuratie met het FP8-doelmodel, blokgrootte 9 en 10 drafttokens. Daarvoor is een recente SGLang-build nodig met ondersteuning voor LFM2-MoE DSpark en native configuratiebestanden van Hugging Face.
