In un resoconto pubblicato il 2 novembre 2026, gli autori del MIT CSAIL hanno riferito che GPT-6 Astra ha modificato 131.072 pesi di Qwen3.5-0.8B. Nella prova con 50 passaggi in avanti, il punteggio del modello su MATH-500 è passato dal 7,9% al 48,1%. Gli autori attribuiscono il risultato soprattutto alla riduzione delle risposte ripetitive che impedivano a Qwen di completare i ragionamenti.
Come Astra è intervenuto sui pesi di Qwen
Gli autori chiamano il metodo Weight-Space Programming: un modello linguistico analizza e modifica i pesi di una rete senza usare gradienti o un ciclo di addestramento per calcolare l’intervento. Nell’esperimento su Qwen3.5-0.8B, però, Astra non si è limitato a leggere i pesi grezzi: ha usato un kernel Python per analizzarli e ha eseguito il modello più volte per valutare le modifiche.
La patch descritta dagli autori ha sottratto una direzione associata alle ripetizioni a 64 colonne di uscita delle reti MLP nei layer 15 e 19. In tutto sono stati modificati 131.072 pesi, circa lo 0,016% del modello.
Perché il numero di passaggi conta
L’esperimento ha usato un kernel Python senza GPU, esempi di pratica e passaggi in avanti, cioè esecuzioni del modello usate per valutarne le risposte. Astra aveva a disposizione 7.469 esempi di addestramento GSM8K e 7.275 esempi MATH; secondo gli autori, non gli sono stati forniti i set di valutazione.
Il budget ha influito sul risultato. Su MATH-500, Qwen è passato dal 7,9% di partenza al 12,3% con 10 passaggi, al 14,1% con 25 e al 48,1% con 50. Nelle prove con 10 e 25 passaggi, rispettivamente l’87,2% e l’86,4% delle risposte ha raggiunto il limite di 32.768 token. Con 50 passaggi, la quota è scesa al 33,1%.
I risultati riportati per Qwen3.5-0.8B
Gli autori hanno confrontato i punteggi prima della modifica con quelli ottenuti nella condizione da 50 passaggi. Per MATH-500, il divario tra i due punteggi è di 40,2 punti percentuali.
| Metrica | Prima della modifica | Dopo la modifica, 50 passaggi |
| MATH-500 | 7,9% | 48,1% |
| GSM8K | 13,8% | 67,1% |
| IFEval | 21,0% | 62,3% |
| Risposte MATH-500 che hanno raggiunto il limite di 32.768 token | 93,0% | 33,1% |
Il dettaglio sulle risposte aiuta a interpretare il punteggio: nell’analisi degli autori, 579 risposte sono state recuperate e cinque sono peggiorate. Di quelle recuperate, 576 erano state troncate prima di completarsi; la precisione sulle risposte che in origine arrivavano a conclusione è rimasta invariata. Gli autori leggono quindi il risultato soprattutto come una correzione dei cicli ripetitivi, che ha permesso al modello di terminare più risposte, non come prova dell’acquisizione di nuove conoscenze matematiche.
Che cosa cambia con Gemma 3 270M
Nel test degli autori con Gemma 3 270M, il punteggio iniziale su MATH-500 era del 6,8%; dopo le modifiche, i valori riportati andavano dal 7,0% al 7,7%. Gli autori non hanno stabilito un miglioramento matematico per questo modello, che nel loro test tendeva molto meno a ripetere le risposte.
Il contrasto circoscrive il risultato su Qwen3.5-0.8B: l’intervento ha inciso soprattutto su un problema di risposta che ne bloccava il completamento. Gli esperimenti descritti riguardano Qwen3.5-0.8B e Gemma 3 270M.
