A Recursive lançou o Flint, um modelo de programação cujos pesos estão sob a licença Apache 2.0. A documentação descreve arquivos e configurações específicos para execução local, enquanto os resultados de velocidade variam conforme o hardware e o tamanho do contexto usado.

O que a licença e a ficha do Flint especificam

A licença Apache 2.0 se aplica aos pesos publicados do Flint. Ela não define, por si só, os termos de APIs hospedadas, que são separados. O model card oficial reúne os arquivos e as especificações do modelo.

Flint é um modelo de mistura de especialistas, ou MoE: a cada token, o sistema ativa parte dos parâmetros em vez de usar o conjunto inteiro. A ficha informa 39,8 bilhões de parâmetros totais e cerca de 2,5 bilhões ativos por token.

CaracterísticaDado publicadoEscopo
ArquiteturaTransformer decodificador MoE49 camadas: 2 densas e 47 MoE
Parâmetros39,8 bilhões no total; cerca de 2,5 bilhões ativos por tokenOs parâmetros ativos incluem a camada de saída
Atenção35 camadas de janela deslizante e 14 de atenção completaA janela deslizante tem 513 tokens
LicençaApache 2.0Aplica-se aos pesos publicados
Arquivo BF16Cerca de 80 GBTamanho do download do checkpoint BF16
Configuração SGLangUma GPU B300 ou H200 por réplicaConfiguração de implantação descrita para SGLang

Checkpoint é o conjunto de arquivos que contém os pesos de uma versão do modelo. O arquivo BF16, portanto, é uma opção específica, não uma medida do tamanho de todas as versões. A Recursive também lista execução local com llama.cpp, Ollama, Unsloth e LM Studio, além de vLLM e SGLang para servir o modelo. As variantes quantizadas são preparadas separadamente para ambientes NVIDIA e Apple Silicon.

Os números de contexto publicados

A ficha do modelo configura um contexto de 262.144 tokens, contando o prompt e a resposta gerada. No anúncio, a Recursive menciona janelas de até 512 mil tokens e recomenda permanecer em até 256 mil. São números publicados em contextos distintos: a ficha especifica uma configuração; o anúncio apresenta um limite máximo e uma recomendação.

A ficha também publica resultados da Recursive em avaliações de programação: 54,9% no Terminal-Bench 2.1, 89,7% no SWE-bench Pro v2 e 74,2% no SWE-bench Verified. Esses números são avaliações divulgadas pela desenvolvedora, não medições independentes.

O que aconteceu em um teste local com llama.cpp

AICodeKing mostra testes do Flint em um Mac com M4 Max e llama.cpp , incluindo tarefas de programação e medições em diferentes tamanhos de contexto. O vídeo está em inglês.

AICodeKing relatou cerca de 110 tokens por segundo em contexto curto, 52 em 8 mil tokens, 32 em 32 mil e 9 em 115 mil, usando um Mac com M4 Max e llama.cpp. O criador também informou que uma tarefa de API para encurtar links passou nos 14 casos de teste. São resultados de tarefas específicas, não de um benchmark padronizado.

O teste usou uma versão de llama.cpp baseada em um pull request. As taxas de geração pertencem a essa configuração e não devem ser confundidas com as cifras da Recursive, que se referem a outros equipamentos e condições. A Recursive, por sua vez, afirma ter obtido mais de 125 tokens por segundo em um MacBook Pro com M4 Pro e mais de 150 em um NVIDIA RTX Spark de 64 GB, ambos em contextos curtos e com seu mecanismo otimizado.

Como a Eureka Machine participou do desenvolvimento

A Recursive afirma que sua Eureka Machine contribuiu para quase todas as etapas do desenvolvimento do Flint. No processo descrito, pessoas definiam os objetivos de pesquisa, avaliavam os resultados e podiam interromper a execução. O modelo é, assim, fruto de desenvolvimento assistido por IA com direção humana.