Recursive Flint è un modello di codice a pesi aperti sviluppato da Recursive: i pesi sono pubblicati con licenza Apache 2.0. Per usarlo in locale, però, bisogna distinguere il checkpoint scelto dal runtime: la configurazione BF16 occupa circa 80 GB, mentre la guida ufficiale per SGLang indica una GPU B300 o H200 per replica.

Specifiche e configurazione documentate

Flint è un modello Transformer di tipo mixture of experts (MoE): a ogni token vengono attivati solo alcuni esperti, invece di usare tutti i parametri del modello. La scheda ufficiale indica 39,8 miliardi di parametri complessivi e circa 2,5 miliardi attivi per token.

CaratteristicaDato pubblicatoAmbito
Architettura39,8 miliardi di parametri totali; circa 2,5 miliardi attivi per tokenModello MoE; il valore attivo include la testa di output
Livelli49: 2 densi e 47 MoEConfigurazione della scheda del modello
LicenzaApache 2.0Si applica ai pesi pubblicati
Checkpoint BF16Circa 80 GBDimensione del download indicata nella scheda
Configurazione SGLangUna GPU B300 o H200 per replicaProcedura SGLang descritta nella scheda

Recursive elenca anche llama.cpp, Ollama, Unsloth, LM Studio, vLLM e SGLang tra i runtime per Flint. Il suo motore rec è ottimizzato per M4 Pro e M5 Pro/Max. I pesi sotto Apache 2.0 si possono riutilizzare secondo i termini della licenza; le condizioni delle API ospitate sono separate. La scheda ufficiale di Flint su Hugging Face raccoglie pesi, configurazione e dettagli del modello.

Le indicazioni sul contesto

La scheda del modello specifica una configurazione di 262.144 token, contando sia il prompt sia il testo generato. Nell’annuncio, Recursive parla invece di finestre fino a 512K token e consiglia di restare entro 256K.

Risultati dichiarati e test locali

AICodeKing mostra in inglese i test di Recursive Flint con llama.cpp su M4 Max, le velocità ai diversi contesti e una prova di un’API per abbreviare i link.

La scheda attribuisce a Flint il 54,9% su Terminal-Bench 2.1, l’89,7% su SWE-bench Pro v2 e il 74,2% su SWE-bench Verified. Recursive riferisce di aver usato Terminus 2 per Terminal-Bench e mini-swe-agent per SWE-bench; per la media pass@1 indica almeno cinque tentativi. Sono risultati della valutazione di Recursive.

Recursive dichiara inoltre oltre 125 token al secondo su un MacBook Pro con M4 Pro e oltre 150 token al secondo su un RTX Spark da 64 GB, in entrambi i casi a contesti brevi.

Nel test di AICodeKing, eseguito con llama.cpp su un M4 Max, la velocità riportata è stata di circa 110 token al secondo a contesto breve, 52 a 8K, 32 a 32K e 9 a 115K. Nel video, il creatore riferisce anche che un’API per abbreviare i link ha superato 14 test su 14. Sono osservazioni su quella configurazione e quei compiti, non un benchmark standardizzato.

Il ruolo dell’IA nello sviluppo

Recursive afferma che la sua Eureka Machine ha contribuito a quasi tutte le fasi dello sviluppo di Flint. Nel processo, le persone definivano gli obiettivi di ricerca, valutavano i risultati e potevano interrompere il lavoro: il modello è quindi frutto di uno sviluppo assistito dall’IA sotto supervisione umana.