Recursive heeft Flint uitgebracht, een codeermodel waarvan de gewichten onder de Apache 2.0-licentie vallen. Recursive noemt meerdere runtimes voor lokaal gebruik. De modelkaart vermeldt een download van circa 80 GB voor het BF16-checkpoint en een specifieke SGLang-configuratie met één B300- of H200-GPU per replica.

Wat de modelkaart over Flint vermeldt

Flint is een mixture-of-experts-model (MoE): per token gebruikt het een deel van de beschikbare experts, in plaats van alle modelparameters tegelijk te activeren. Het model heeft 39,8 miljard parameters in totaal en circa 2,5 miljard actieve parameters per token. De officiële modelkaart en modelbestanden specificeren ook de architectuur en de licentie.

KenmerkGepubliceerd detailReikwijdte
Architectuur49 lagen: 2 dense lagen en 47 MoE-lagenDe modelkaart beschrijft ook 35 sliding-window- en 14 full-attention-lagen.
Parameters39,8 miljard totaal; circa 2,5 miljard actief per tokenHet actieve aantal omvat de outputlaag.
LicentieApache 2.0De licentie geldt voor de gewichten; voorwaarden voor gehoste API's staan daar los van.
BF16-checkpointCirca 80 GB downloadDit betreft de BF16-bestanden.
SGLang-configuratieEén B300- of H200-GPU per replicaDit is de opstelling die de modelkaart voor SGLang beschrijft.

Recursive noemt daarnaast llama.cpp, Ollama, Unsloth, LM Studio, vLLM en SGLang als runtimes. De eigen rec-engine is geoptimaliseerd voor Flint op M4 Pro en M5 Pro/Max. Die verschillende opties horen bij verschillende checkpoints en hardwareconfiguraties; de BF16-download en de SGLang-opstelling beschrijven niet elke lokale route.

De gepubliceerde contextlengtes

De modelkaart specificeert een context van 262.144 tokens, inclusief de prompt en de gegenereerde uitvoer. In zijn aankondiging noemt Recursive een contextvenster tot 512.000 tokens en adviseert het binnen 256.000 tokens te blijven.

Wat een lokale programmeertest liet zien

Engelstalige video: AICodeKing test Flint met llama.cpp op een M4 Max en toont snelheidsmetingen bij verschillende contextlengtes.

AICodeKing testte Flint op een M4 Max met llama.cpp. De maker rapporteerde ongeveer 110 tokens per seconde bij korte prompts, 52 bij een context van 8.000 tokens, 32 bij 32.000 en ongeveer 9 bij 115.000 tokens. In dezelfde test haalde een linkverkorter-API 14 van de 14 testgevallen. Dat zijn resultaten van specifieke taken en één configuratie, geen gestandaardiseerde benchmark.

De rec-engine van Recursive werkte niet op de M4 Max in deze test; AICodeKing stapte daarom over op llama.cpp. Recursive meldde zelf meer dan 125 tokens per seconde op een M4 Pro MacBook Pro en meer dan 150 op een NVIDIA RTX Spark met 64 GB, bij korte contexten. Dat zijn metingen van Recursive op andere hardware en met een andere engine, geen rechtstreekse vergelijking met AICodeKing's test.

Recursive's modelkaart rapporteert 54,9% op Terminal-Bench 2.1, 89,7% op SWE-bench Pro v2 en 74,2% op SWE-bench Verified. Voor Terminal-Bench gebruikte Recursive Terminus 2; voor SWE-bench gebruikte het mini-swe-agent. De gemiddelde pass@1-score is gebaseerd op ten minste vijf pogingen.

Eureka Machine hielp bij de ontwikkeling van Flint

Recursive zegt dat zijn Eureka Machine aan vrijwel alle onderdelen van de modelontwikkeling heeft bijgedragen. Mensen bepaalden onderzoeksdoelen, beoordeelden resultaten en konden het proces stoppen. Flint is daarmee een voorbeeld van AI-ondersteunde ontwikkeling onder menselijke regie.