BigGo Finance i Startup Fortune podały, że Moonshot AI opublikowała pełne wagi Kimi K3.1 Pro na Hugging Face 4 listopada 2026 r. Karta modelu wymienia 69 warstw uwagi KDA i 24 warstwy Gated DSA oraz instrukcje wdrażania z użyciem vLLM i SGLang (karta modelu Moonshot, BigGo Finance, Startup Fortune).
Wcześniej NeoTeo opisywało deklarowane przez Moonshot zmiany w treningu Kimi K3.1 Pro. Teraz w centrum uwagi są pełne wagi modelu i szczegóły jego architektury.
Publikacja wag i wcześniejsza zapowiedź
Moonshot AI zapowiedziała w październikowym wpisie, że udostępni pełne wagi do 4 listopada 2026 r. (ogłoszenie Moonshot). BigGo Finance i Startup Fortune podały, że publikacja na Hugging Face nastąpiła tego dnia.
Co karta modelu mówi o architekturze
Kimi K3.1 Pro to model typu MoE, czyli mieszanka ekspertów. Karta Moonshot podaje 2,8 biliona parametrów łącznie, 104 miliardy parametrów aktywnych i okno kontekstowe o długości 1 048 576 tokenów. Wśród 896 ekspertów model wybiera 16 na każdy token.
W składzie warstw uwagi karta wymienia 69 warstw KDA i 24 Gated DSA, czyli Gated DeepSeek Sparse Attention. Moonshot opisuje też zmianę względem Kimi K3: warstwy Gated DSA zastępują tamtejsze warstwy Gated MLA wykorzystujące pełną uwagę. Ogłoszenie premierowe przedstawiało możliwości modelu i termin publikacji wag, a karta techniczna doprecyzowuje skład warstw.
Instrukcje wdrażania z vLLM i SGLang
Repozytorium Moonshot zawiera przykładowe polecenia do uruchomienia serwera z użyciem vLLM i SGLang. To konkretne ścieżki wdrażania opisane obok karty modelu.
Karta wskazuje dwie praktyczne drogi serwowania modelu: vLLM i SGLang.
