BigGo Finance e Startup Fortune relataram que a Moonshot AI publicou os pesos completos do Kimi K3.1 Pro no Hugging Face em 4 de novembro de 2026. Em 23 de outubro, a empresa havia anunciado essa data como prazo para a publicação. A ficha do modelo detalha a arquitetura de atenção e inclui instruções para servir o modelo com vLLM e SGLang. (BigGo Finance; Startup Fortune; anúncio da Moonshot AI)
A NeoTeo já havia abordado o relato da Moonshot sobre o treinamento do Kimi K3.1 Pro e seu resultado no xdev-bench-hard. A nova ficha acrescenta detalhes técnicos sobre o modelo.
O que a ficha informa sobre a arquitetura
O Kimi K3.1 Pro é um modelo de mistura de especialistas, ou MoE. A ficha da Moonshot lista 2,8 trilhões de parâmetros no total e 104 bilhões de parâmetros ativados. Também informa uma janela de contexto de 1.048.576 tokens, 896 especialistas e 16 selecionados por token. (Ficha do modelo no Hugging Face)
Na composição das camadas de atenção, a ficha especifica 69 camadas KDA e 24 Gated DSA. Segundo a Moonshot, as camadas Gated DSA substituem as camadas Gated MLA de atenção completa usadas no Kimi K3. A empresa apresenta a mudança como uma forma de tornar mais eficiente a modelagem de contextos longos. (Ficha do modelo no Hugging Face)
A ficha separa três aspectos práticos do modelo: tamanho total, camadas de atenção e opções para servi-lo.
Como servir o modelo
O repositório da Moonshot inclui instruções para executar o Kimi K3.1 Pro com vLLM e SGLang. São caminhos de implantação descritos pela própria empresa para quem trabalha com esses mecanismos de inferência. (Ficha do modelo no Hugging Face)
