Kimi K3.1 Pro Coder es una cuantización comunitaria de Kimi K3.1 Pro publicada bajo la cuenta Grawnch; su ficha de Hugging Face indica un tamaño de 774,97 GB (721,75 GiB). Moonshot AI desarrolla el modelo base; Grawnch publica esta versión cuantizada.
La ficha reparte los pesos entre tres niveles de precisión y almacenamiento, y presenta resultados de pruebas realizados por su autor. Distinguir esas afirmaciones de lo que suman las cifras ayuda a valorar qué dicen —y qué no dicen— sobre la inferencia local.
NeoTeo ya explicó qué cambia con los pesos abiertos de Kimi K3.1 Pro; Kimi K3.1 Pro Coder es una cuantización comunitaria distinta de aquel modelo base.
Qué significa esta cuantización
Cuantizar consiste en reducir la precisión con que se representan los pesos de un modelo, sus valores numéricos aprendidos. Kimi K3.1 Pro Coder aplica esa reducción de forma desigual: conserva algunos pesos con precisión alta y distribuye los expertos de la arquitectura en niveles de menor precisión.
La ficha describe Kimi K3.1 Pro como un modelo de mezcla de expertos (MoE): para cada token se seleccionan ciertos bloques especializados en lugar de activar todos. Indica 896 expertos en cada capa MoE y un top_k=16, es decir, que se seleccionan 16. La cuantización divide los expertos en tres grupos y asigna cada grupo a una ubicación de memoria distinta.
Cómo reparte los pesos la ficha
Los bits efectivos por peso, o bpw, indican cuántos bits se usan de media para representar cada peso. La ficha asigna los niveles más precisos a los expertos que etiqueta como especializados en programación y matemáticas; también dice que calibró los expertos enrutados según frecuencias de activación de tareas de programación y razonamiento matemático.
| Componente | Precisión indicada | Tamaño indicado | Asignación indicada en la ficha |
| Pesos no enrutados | 16,0 bpw; BF16/F32 | 114,76 GB | GPU VRAM/compartida |
| Nivel 1: expertos de programación y matemáticas | 2,81 bpw; 15 % de los expertos | 160,58 GB | VRAM de GPU |
| Nivel 2: expertos generales | 2,56 bpw; 30 % de los expertos | 254,53 GB | RAM del sistema fijada en memoria |
| Nivel 3: expertos de menor uso | 1,44 bpw; 55 % de los expertos | 244,95 GB | SSD NVMe mediante mmap |
La ficha cifra el repositorio completo en 96 fragmentos de archivos y 774,97 GB. Los tamaños de los cuatro componentes de la tabla suman 774,82 GB: 0,15 GB menos que ese total indicado.
Qué abarcan las pruebas declaradas por Grawnch
La ficha atribuye a la evaluación 70 secuencias y 22.307 tokens. Entre sus pruebas incluye 30 problemas de AIME 2025 y 30 problemas de LiveCodeBench, tomados de la ventana móvil de 2024.10 a 2025.05. Grawnch informa de 29 aciertos sobre 30 para el modelo base y la versión cuantizada en cada conjunto.
La concordancia top-1 —el porcentaje de veces que ambos modelos coinciden en su siguiente token más probable— figura como 95,20 % en AIME y 95,06 % en LiveCodeBench. La concordancia top-5 es del 99,91 % y el 99,92 %, respectivamente. En LiveCodeBench, la perplejidad, una medida de cuán bien el modelo predice el texto evaluado, pasa de 2,6911 en el modelo base a 2,7629 en la versión cuantizada; la ficha calcula un aumento del 2,67 %.
La tarjeta gráfica indicada es una NVIDIA RTX PRO 6000 Blackwell Server Edition con 102,6 GB de VRAM GDDR7. La ficha presenta 36,77 tokens por segundo como rendimiento por lotes de las 93 capas completas; también informa de 3.382,7 tokens por segundo de capa. Son cifras publicadas por el autor de la cuantización, no una validación independiente.
Un resultado de 29 aciertos en una muestra de 30 problemas describe esa muestra; no convierte el rendimiento en una garantía para otras tareas.
Qué muestran las sumas de memoria
Los pesos no enrutados y el nivel 1 suman 275,34 GB. La ficha asigna los primeros a «GPU VRAM/shared» y el nivel 1 a VRAM de GPU; la tarjeta citada tiene 102,6 GB de VRAM. Esas cifras describen componentes y ubicaciones declaradas, no una demostración de que cualquier equipo con una sola GPU pueda ejecutar el modelo.
Condiciones del archivo de licencia incluido
El archivo LICENSE del repositorio contiene la licencia Kimi K3.1-Pro de Moonshot AI. Para los operadores que ofrecen acceso de inferencia o ajuste fino como servicio a terceros y superan, junto con sus afiliadas, 20 millones de dólares de ingresos agregados en cualquier periodo consecutivo de 12 meses, el texto exige un acuerdo separado con Moonshot AI antes del uso comercial del software o sus derivados.
El archivo también exige mostrar de forma destacada «Kimi K3.1-Pro» en productos o servicios comerciales que superen los 100 millones de usuarios activos mensuales o los 20 millones de dólares de ingresos mensuales. Señala que sus secciones 2 y 3 no se aplican al uso interno ni al acceso mediante productos oficiales de Moonshot o socios de inferencia certificados. El archivo de licencia incluido contiene esas condiciones.