La fiche publique de LFM2.5-24B-A2B-DSpark est accessible sur Hugging Face. Liquid AI y présente ce modèle comme un modèle brouillon de décodage spéculatif pour LFM2.5-24B-A2B : il propose des tokens que le modèle cible vérifie. Les débits publiés varient selon les jeux de données et le niveau de concurrence, pour des mesures réalisées sur une NVIDIA B300.

OrcaRouter a rapporté que le dépôt était apparu sur Hugging Face le 19 octobre 2026. La fiche décrit le modèle comme doté de 327,7 millions de paramètres BF16 et d’une taille de bloc de 9 tokens.

Comment fonctionne la proposition de tokens

Le décodage spéculatif confie au modèle brouillon la proposition d’un bloc de tokens. Le modèle cible, LFM2.5-24B-A2B, vérifie ces propositions. DSpark accompagne donc la génération du modèle cible, qui conserve le rôle de vérification.

Les débits publiés selon les charges de travail

Liquid AI compare le débit de sortie avec DSpark à celui de LFM2.5-24B-A2B seul. Voici les ratios indiqués pour les huit jeux de données et les trois niveaux de concurrence :

Jeu de donnéesTokens par étapeDébit relatif, concurrence 1Débit relatif, concurrence 32Débit relatif, concurrence 256
MATH-5005,612,63×3,04×1,79×
GSM8K4,461,71×2,56×2,15×
HumanEval4,612,23×2,63×1,64×
MBPP6,703,08×3,28×1,64×
MT-Bench5,772,66×2,47×1,81×
SimpleQA5,222,48×2,91×1,95×
LiveCodeBench4,021,87×2,20×1,34×
AIME4,902,35×2,45×1,36×
Moyenne arithmétique5,162,38×2,69×1,71×

Les ratios sont des débits relatifs à la cible seule, et non des scores de qualité. La moyenne atteint 2,69× à une concurrence de 32, contre 1,71× à 256. Les valeurs diffèrent aussi selon la charge : MBPP affiche 3,28× à 32, tandis que LiveCodeBench atteint 1,34× à 256. La moyenne seule ne décrit donc pas chaque jeu de données ni chaque niveau de concurrence.

Conditions et portée des mesures

LFM2.5-24B-A2B-DSpark est disponible sur Hugging Face

Liquid AI indique que les mesures ont été réalisées sur une NVIDIA B300, avec une cible FP8, un cache KV BF16 et une température de 0. Les tests évaluent les performances, pas la précision des tâches. À concurrence 1, les tokens par étape incluent le token bonus du modèle cible ; le plafond indiqué est de 10.

Ces résultats portent sur la configuration B300 décrite par Liquid AI. Ils ne constituent pas une mesure sur Apple Silicon. La fiche avertit également que les différences en virgule flottante entre la vérification par lots et le décodage classique peuvent produire des textes différents, y compris avec un échantillonnage glouton.

Configuration SGLang publiée

La configuration proposée associe la cible FP8 LiquidAI/LFM2.5-24B-A2B-FP8 au brouillon LiquidAI/LFM2.5-24B-A2B-DSpark. Elle utilise une taille de bloc de 9 et demande 10 tokens brouillons. Liquid AI indique qu’il faut une version récente de SGLang prenant en charge LFM2-MoE DSpark et la configuration native Hugging Face. La commande publiée est :

python -m sglang.launch_server \
  --model-path LiquidAI/LFM2.5-24B-A2B-FP8 \
  --speculative-algorithm DSPARK \
  --speculative-draft-model-path LiquidAI/LFM2.5-24B-A2B-DSpark \
  --speculative-draft-attention-backend flashinfer \
  --speculative-dspark-block-size 9 \
  --speculative-num-draft-tokens 10 \
  --mem-fraction-static 0.8 --port 30000

Le serveur expose ensuite un point de terminaison compatible avec l’API OpenAI à http://localhost:30000/v1.