Les auteurs du MIT rapportent une édition des poids de Qwen3.5-0.8B

Les auteurs du MIT rapportent que GPT-6 Astra a modifié 131 072 poids de Qwen3.5-0.8B pour réduire ses boucles de réponses répétitives. Dans leur condition de 50 passes, le score du modèle sur MATH-500 est passé de 7,9 % à 48,1 %. Les auteurs attribuent l’essentiel de cette hausse à des réponses qui ont pu être terminées, plutôt qu’à l’acquisition de nouvelles connaissances mathématiques.

Ce que l’édition des poids a changé

Les auteurs ont nommé leur méthode Weight-Space Programming. GPT-6 Astra a utilisé un noyau Python pour analyser les poids et modifier une direction associée aux répétitions dans les réseaux MLP des couches 15 et 19 de Qwen3.5-0.8B. La modification a touché 64 colonnes de sortie dans chacune de ces couches, soit environ 0,016 % des quelque 0,8 milliard de poids du modèle.

L’intervention n’a pas été calculée à partir de gradients ni d’une boucle d’entraînement. Mais Astra a bien exécuté le modèle cible : l’expérience s’appuyait sur du code Python, des problèmes de pratique et des passes avant, qui consistent à faire produire des sorties au modèle pour observer son comportement.

Pourquoi le nombre de passes compte

Les auteurs ont testé des budgets de 10, 25 et 50 passes avant. Astra disposait de 7 469 exemples GSM8K et de 7 275 exemples MATH issus des jeux d’entraînement ; selon les auteurs, il n’a pas reçu les jeux d’évaluation. Les réponses évaluées pouvaient atteindre une limite de 32 768 tokens.

Avec 10 passes, le score MATH-500 a atteint 12,3 % et 87,2 % des réponses ont atteint la limite de tokens. Avec 25 passes, les valeurs étaient respectivement de 14,1 % et 86,4 %. Le résultat le plus marqué, présenté dans le tableau, correspond aux 50 passes.

Les scores rapportés pour Qwen3.5-0.8B

Les auteurs indiquent que l’édition a aussi fait progresser les scores sur GSM8K et IFEval. Pour MATH-500, la part des réponses atteignant la limite de 32 768 tokens est passée de 93,0 % à 33,1 % dans la condition de 50 passes.

La différence entre les deux scores MATH-500 est de 40,2 points de pourcentage. Dans leur analyse des réponses, les auteurs rapportent 579 cas récupérés et cinq régressions ; 576 des réponses récupérées avaient été tronquées auparavant. Ce bilan étaye leur interprétation : la modification a surtout réduit les sorties répétitives qui empêchaient Qwen de terminer certaines réponses.

Le test de Gemma circonscrit la portée du résultat

Les auteurs n’ont pas établi de gain mathématique pour Gemma 3 270M, un modèle qui bouclait rarement dans leur test. Son score de départ sur MATH-500 était de 6,8 % ; après des éditions avec 5, 10, 25 et 50 passes, les scores rapportés étaient de 7,0 %, 7,6 %, 7,7 % et 7,0 %.

Le résultat obtenu sur Qwen3.5-0.8B décrit donc une correction ciblée d’un problème de répétition dans les conditions testées. Il ne montre pas que la même méthode améliore les capacités mathématiques d’un modèle qui ne présente pas ce problème.