A ficha pública da Liquid AI no Hugging Face identifica o LFM2.5-24B-A2B-DSpark como um modelo draft de decodificação especulativa para o LFM2.5-24B-A2B. Nos benchmarks publicados pela empresa, a vazão média foi 2,38× a do modelo-alvo sozinho com concorrência 1, 2,69× com concorrência 32 e 1,71× com concorrência 256, em testes numa NVIDIA B300.

A ficha do modelo no Hugging Face reúne a descrição técnica, os resultados por conjunto de dados e as instruções para SGLang. A OrcaRouter relatou que o repositório apareceu na plataforma em 19 de outubro de 2026.

Como funciona a decodificação especulativa

O modelo draft propõe blocos de tokens, e o modelo-alvo verifica as propostas. O LFM2.5-24B-A2B-DSpark tem 327,7 milhões de parâmetros BF16 e tamanho de bloco 9; o LFM2.5-24B-A2B continua sendo o modelo que verifica os tokens.

Resultados por conjunto de dados

A tabela mostra a vazão do DSpark em relação ao LFM2.5-24B-A2B operando sozinho. Os valores de tokens por etapa são medidos com concorrência 1 e incluem o token bônus do modelo-alvo; a média é 5,16, de um máximo indicado de 10.

Conjunto de dadosTokens por etapaConcorrência 1Concorrência 32Concorrência 256
MATH-5005,612,63×3,04×1,79×
GSM8K4,461,71×2,56×2,15×
HumanEval4,612,23×2,63×1,64×
MBPP6,703,08×3,28×1,64×
MT-Bench5,772,66×2,47×1,81×
SimpleQA5,222,48×2,91×1,95×
LiveCodeBench4,021,87×2,20×1,34×
AIME4,902,35×2,45×1,36×
Média aritmética5,162,38×2,69×1,71×

Os resultados variam conforme a carga e a concorrência. MBPP registra 3,28× com concorrência 32, enquanto LiveCodeBench chega a 1,34× com concorrência 256. A média única não descreve o desempenho em cada tarefa.

Condições e limites dos benchmarks

LFM2.5-24B-A2B-DSpark: função e benchmarks completos

A Liquid AI atribui os resultados a testes com uma NVIDIA B300, modelo-alvo FP8, cache KV BF16 e temperatura 0. A empresa informa que as medições avaliam desempenho, não precisão nas tarefas. Também alerta que diferenças de ponto flutuante entre a verificação em lote e a decodificação simples podem produzir textos diferentes, inclusive com amostragem gulosa.

Configuração documentada para SGLang

A configuração da Liquid AI combina o modelo-alvo FP8 com o LFM2.5-24B-A2B-DSpark, usa tamanho de bloco 9 e solicita 10 tokens draft. A empresa indica que é necessária uma versão recente do SGLang com suporte a LFM2-MoE DSpark e a configurações nativas do Hugging Face.