Recursive udostępniło Flint, model kodujący typu mixture of experts (MoE), czyli mieszankę ekspertów aktywowanych zależnie od zadania. Wagi modelu opublikowano na licencji Apache 2.0. Konkretne wymagania sprzętowe zależą jednak od wybranego checkpointu i środowiska uruchomieniowego.
Co obejmuje licencja i jakie parametry ma Flint
Licencja Apache 2.0 dotyczy opublikowanych wag Flint. Karta modelu opisuje architekturę i pliki modelu, ale nie rozszerza tej licencji na cały proces jego tworzenia ani na usługi API.
| Cecha | Opublikowana wartość | Zakres |
| Parametry | 39,8 mld łącznie; około 2,5 mld aktywnych na token | Liczba aktywnych parametrów uwzględnia warstwę wyjściową |
| Warstwy | 49: 2 gęste i 47 MoE | Wśród nich 35 warstw z przesuwnym oknem uwagi i 14 z pełną uwagą |
| Eksperci | 256 ekspertów kierowanych w każdej warstwie MoE | Na token wybieranych jest 6 ekspertów oraz jeden współdzielony, zawsze aktywny |
| Wagi | Apache 2.0 | Licencja opublikowanych wag modelu |
| Checkpoint BF16 | około 80 GB do pobrania | Rozmiar wariantu BF16 podany na karcie modelu |
| Konfiguracja SGLang | 1 karta B300 lub H200 na replikę | Konfiguracja SGLang opisana dla tego modelu |
Flint przyjmuje i generuje tekst, obsługuje rozumowanie oraz wieloetapowe korzystanie z narzędzi. Szczegóły architektury, pliki i konfigurację można znaleźć w karcie modelu Flint.
Jak uruchamiać Flint lokalnie
Około 80 GB dotyczy pobrania checkpointu BF16, a jedna karta B300 lub H200 na replikę odnosi się do opisanej konfiguracji SGLang. Recursive wymienia też lokalne środowiska llama.cpp, Ollama, Unsloth i LM Studio, a także vLLM i SGLang do serwowania modelu. Własny silnik rec jest zoptymalizowany pod M4 Pro oraz M5 Pro i M5 Max.
Recursive deklaruje ponad 125 tokenów na sekundę na MacBooku Pro z M4 Pro i ponad 150 tokenów na sekundę na 64-gigabajtowym NVIDIA RTX Spark przy krótkim kontekście. To wyniki podane przez firmę dla wskazanych konfiguracji.
Dwie podane wartości długości kontekstu
Karta modelu podaje konfigurację na 262 144 tokeny łącznie z promptem i wygenerowanym tekstem. W zapowiedzi Recursive pojawia się natomiast kontekst do 512 tys. tokenów oraz zalecenie, by trzymać się granicy 256 tys. tokenów.
Co pokazał test lokalny AICodeKing
AICodeKing uruchomił Flint na M4 Max z użyciem llama.cpp. Zmierzył około 110 tokenów na sekundę przy krótkim kontekście, 52 przy 8 tys. tokenów, 32 przy 32 tys. i około 9 przy 115 tys. W teście API skracającego linki model zaliczył 14 z 14 przypadków. To obserwacje twórcy z konkretnych zadań, a nie standaryzowany benchmark.
Karta modelu podaje wyniki ewaluacji Recursive: 54,9% w Terminal-Bench 2.1, 89,7% w SWE-bench Pro v2 i 74,2% w SWE-bench Verified. Firma opisuje też wyniki uzyskane różnymi metodami, dlatego te liczby nie zastępują obserwacji z konkretnych lokalnych zadań.
Karta ostrzega, że Flint może generować błędny lub szkodliwy tekst, wadliwy kod i niewłaściwe wywołania narzędzi. Aplikacje korzystające z narzędzi powinny ograniczać uprawnienia przyznane modelowi.
Jaką rolę w rozwoju odegrała Eureka Machine
Recursive twierdzi, że jej system Eureka Machine wspierał niemal każdy etap rozwoju Flint. Ludzie wyznaczali cele badawcze, oceniali wyniki i mogli zatrzymać proces. Flint jest więc przykładem rozwoju modelu wspomaganego przez AI pod ludzkim nadzorem.
