Kimi K3.1 Pro Coder est une quantification communautaire de Kimi K3.1 Pro publiée par le compte Grawnch : sa fiche annonce 774,97 Go répartis sur 96 fichiers et décrit une affectation des experts entre mémoire vidéo, mémoire vive et stockage NVMe. Les résultats qui l’accompagnent sont ceux rapportés par Grawnch dans sa fiche sur Hugging Face.

Pour situer le modèle de base, retrouvez aussi notre article sur Kimi K3.1 Pro.

Une quantification communautaire en trois niveaux

Kimi K3.1 Pro Coder n’est pas une version publiée par Moonshot AI : Grawnch présente son dépôt comme une quantification de Kimi K3.1 Pro. La quantification réduit la précision utilisée pour représenter les poids d’un modèle. Ici, Grawnch répartit les experts en trois groupes, auxquels la fiche attribue des niveaux de précision et des espaces de stockage différents.

Kimi K3.1 Pro est un modèle à mélange d’experts, ou MoE : pour traiter un jeton, le modèle sélectionne une partie de ses experts. La fiche décrit 896 experts routés par couche MoE et indique top_k=16. Elle attribue les parts des trois niveaux à des fréquences d’activation observées pour le code et le raisonnement mathématique.

Comment la fiche répartit les poids

La précision indiquée en bits par poids (bpw) décrit le nombre de bits affecté en moyenne à chaque poids. Les trois niveaux portent respectivement sur 15 %, 30 % et 55 % des experts routés.

ComposantPrécision indiquéeTaille indiquéeEmplacement indiqué par la fiche
Poids non routés16,0 bpw, BF16/F32 natifs114,76 GoVRAM GPU / mémoire partagée
Tier 1 — 134 experts sur 896 par couche (15 %)2,81 bpw160,58 GoVRAM GPU
Tier 2 — 269 experts sur 896 par couche (30 %)2,56 bpw254,53 GoMémoire vive épinglée
Tier 3 — 493 experts sur 896 par couche (55 %)1,44 bpw244,95 GoSSD NVMe, via mmap

Les quatre tailles du tableau totalisent 774,82 Go, soit 0,15 Go de moins que les 774,97 Go annoncés pour le dépôt. La fiche associe les poids non routés et le Tier 1 à la VRAM ou à la mémoire partagée : leurs tailles cumulées atteignent 275,34 Go. Elle cite pour l’évaluation une NVIDIA RTX PRO 6000 Blackwell Server Edition dotée de 102,6 Go de VRAM. Ces chiffres donnent les dimensions des allocations annoncées, sans décrire à eux seuls leur mise en œuvre sur une configuration locale.

Pour évaluer une quantification, gardez distincts la taille des fichiers, les espaces mémoire auxquels la fiche attribue les poids et les résultats des tests.

Ce que couvrent les tests rapportés par Grawnch

La fiche décrit une évaluation totalisant 70 séquences et 22 307 jetons. Elle comprend deux échantillons de 30 problèmes : AIME 2025 et LiveCodeBench, avec des problèmes de cette dernière sélection provenant de la fenêtre d’octobre 2024 à mai 2025.

ÉvaluationÉchantillonKimi K3.1 ProKimi K3.1 Pro CoderConcordance top-1 / top-5 rapportée
AIME 202530 problèmes29/3029/3095,20 % / 99,91 %
LiveCodeBench30 problèmes, fenêtre d’octobre 2024 à mai 202529/3029/3095,06 % / 99,92 %

Pour LiveCodeBench, la fiche donne une perplexité de 2,6911 pour le modèle de base et de 2,7629 pour la quantification, soit une hausse de 2,67 %. La perplexité est un indicateur lié à la prédiction des jetons ; cette valeur décrit le résultat rapporté pour cet échantillon de code.

Grawnch indique également un débit de 36,77 jetons par seconde, présenté comme le débit en lot sur les 93 couches complètes. La fiche rattache son évaluation à la NVIDIA RTX PRO 6000 Blackwell Server Edition mentionnée plus haut. Les scores et le débit sont ainsi à lire dans le cadre de ces échantillons et de cette configuration.

Les conditions du fichier de licence inclus

Le fichier LICENSE du dépôt, intitulé « Kimi K3.1-Pro License », porte le nom de Moonshot AI. Il prévoit un accord séparé avec Moonshot AI avant l’utilisation commerciale du logiciel ou de ses dérivés lorsqu’un licencié ou ses sociétés affiliées exploite un service d’inférence ou d’affinage pour des tiers et dépasse 20 millions de dollars américains de revenus cumulés sur une période quelconque de 12 mois consécutifs.

Le fichier prévoit aussi que les produits ou services commerciaux dépassant 100 millions d’utilisateurs actifs mensuels ou 20 millions de dollars américains de chiffre d’affaires mensuel affichent de façon visible le nom « Kimi K3.1-Pro ». Il exempte l’usage interne et l’utilisation via les produits officiels de Moonshot AI ou ses partenaires d’inférence certifiés des sections 2 et 3. Ces conditions figurent dans le fichier de licence inclus dans le dépôt.