Kimi K3.1 Pro Coder est une quantification communautaire de Kimi K3.1 Pro publiée par le compte Grawnch : sa fiche annonce 774,97 Go répartis sur 96 fichiers et décrit une affectation des experts entre mémoire vidéo, mémoire vive et stockage NVMe. Les résultats qui l’accompagnent sont ceux rapportés par Grawnch dans sa fiche sur Hugging Face.
Pour situer le modèle de base, retrouvez aussi notre article sur Kimi K3.1 Pro.
Une quantification communautaire en trois niveaux
Kimi K3.1 Pro Coder n’est pas une version publiée par Moonshot AI : Grawnch présente son dépôt comme une quantification de Kimi K3.1 Pro. La quantification réduit la précision utilisée pour représenter les poids d’un modèle. Ici, Grawnch répartit les experts en trois groupes, auxquels la fiche attribue des niveaux de précision et des espaces de stockage différents.
Kimi K3.1 Pro est un modèle à mélange d’experts, ou MoE : pour traiter un jeton, le modèle sélectionne une partie de ses experts. La fiche décrit 896 experts routés par couche MoE et indique top_k=16. Elle attribue les parts des trois niveaux à des fréquences d’activation observées pour le code et le raisonnement mathématique.
Comment la fiche répartit les poids
La précision indiquée en bits par poids (bpw) décrit le nombre de bits affecté en moyenne à chaque poids. Les trois niveaux portent respectivement sur 15 %, 30 % et 55 % des experts routés.
| Composant | Précision indiquée | Taille indiquée | Emplacement indiqué par la fiche |
| Poids non routés | 16,0 bpw, BF16/F32 natifs | 114,76 Go | VRAM GPU / mémoire partagée |
| Tier 1 — 134 experts sur 896 par couche (15 %) | 2,81 bpw | 160,58 Go | VRAM GPU |
| Tier 2 — 269 experts sur 896 par couche (30 %) | 2,56 bpw | 254,53 Go | Mémoire vive épinglée |
| Tier 3 — 493 experts sur 896 par couche (55 %) | 1,44 bpw | 244,95 Go | SSD NVMe, via mmap |
Les quatre tailles du tableau totalisent 774,82 Go, soit 0,15 Go de moins que les 774,97 Go annoncés pour le dépôt. La fiche associe les poids non routés et le Tier 1 à la VRAM ou à la mémoire partagée : leurs tailles cumulées atteignent 275,34 Go. Elle cite pour l’évaluation une NVIDIA RTX PRO 6000 Blackwell Server Edition dotée de 102,6 Go de VRAM. Ces chiffres donnent les dimensions des allocations annoncées, sans décrire à eux seuls leur mise en œuvre sur une configuration locale.
Pour évaluer une quantification, gardez distincts la taille des fichiers, les espaces mémoire auxquels la fiche attribue les poids et les résultats des tests.
Ce que couvrent les tests rapportés par Grawnch
La fiche décrit une évaluation totalisant 70 séquences et 22 307 jetons. Elle comprend deux échantillons de 30 problèmes : AIME 2025 et LiveCodeBench, avec des problèmes de cette dernière sélection provenant de la fenêtre d’octobre 2024 à mai 2025.
| Évaluation | Échantillon | Kimi K3.1 Pro | Kimi K3.1 Pro Coder | Concordance top-1 / top-5 rapportée |
| AIME 2025 | 30 problèmes | 29/30 | 29/30 | 95,20 % / 99,91 % |
| LiveCodeBench | 30 problèmes, fenêtre d’octobre 2024 à mai 2025 | 29/30 | 29/30 | 95,06 % / 99,92 % |
Pour LiveCodeBench, la fiche donne une perplexité de 2,6911 pour le modèle de base et de 2,7629 pour la quantification, soit une hausse de 2,67 %. La perplexité est un indicateur lié à la prédiction des jetons ; cette valeur décrit le résultat rapporté pour cet échantillon de code.
Grawnch indique également un débit de 36,77 jetons par seconde, présenté comme le débit en lot sur les 93 couches complètes. La fiche rattache son évaluation à la NVIDIA RTX PRO 6000 Blackwell Server Edition mentionnée plus haut. Les scores et le débit sont ainsi à lire dans le cadre de ces échantillons et de cette configuration.
Les conditions du fichier de licence inclus
Le fichier LICENSE du dépôt, intitulé « Kimi K3.1-Pro License », porte le nom de Moonshot AI. Il prévoit un accord séparé avec Moonshot AI avant l’utilisation commerciale du logiciel ou de ses dérivés lorsqu’un licencié ou ses sociétés affiliées exploite un service d’inférence ou d’affinage pour des tiers et dépasse 20 millions de dollars américains de revenus cumulés sur une période quelconque de 12 mois consécutifs.
Le fichier prévoit aussi que les produits ou services commerciaux dépassant 100 millions d’utilisateurs actifs mensuels ou 20 millions de dollars américains de chiffre d’affaires mensuel affichent de façon visible le nom « Kimi K3.1-Pro ». Il exempte l’usage interne et l’utilisation via les produits officiels de Moonshot AI ou ses partenaires d’inférence certifiés des sections 2 et 3. Ces conditions figurent dans le fichier de licence inclus dans le dépôt.