Badacze powiązani z MIT CSAIL opisali 2 listopada 2026 r., jak GPT-6 Astra zmodyfikował 131 072 wagi modelu Qwen3.5-0.8B. W największym z testowanych wariantów, przy 50 przebiegach, wynik MATH-500 wzrósł z 7,9% do 48,1%. Autorzy przypisali zmianę ograniczeniu powtarzalnych pętli w odpowiedziach modelu. Wpis badaczy przedstawia metodę jako programowanie w przestrzeni wag (weight-space programming).
Największa zgłoszona zmiana pojawiła się przy 50 przebiegach, a autorzy wiążą ją z tym, że Qwen rzadziej zapętlał odpowiedzi.
Co zmieniono w Qwen3.5-0.8B
Qwen3.5-0.8B ma 24 warstwy. Według autorów edycja objęła kolumny wyjściowe MLP w warstwach 15 i 19: łącznie 131 072 wagi, czyli 0,016% wag modelu. Badacze opisali zmianę jako odjęcie kierunku powiązanego z powtarzalnymi odpowiedziami.
Jak przebiegał test Qwen
GPT-6 Astra korzystał z jądra Pythona do pracy na wagach, a Qwen uruchamiano na zadaniach ćwiczeniowych. Test nie polegał więc na odczytaniu samych surowych wag. Astra mógł wybierać przykłady ze zbiorów treningowych: 7 469 zadań GSM8K i 7 275 zadań MATH. Nie otrzymał zestawów ewaluacyjnych. Autorzy testowali budżety 10, 25 i 50 przebiegów; każdy mógł obejmować do 512 zadań albo odczyt do 1 024 tekstów. W innych, odrębnych próbach z małymi sieciami badacze analizowali surowe wagi bez uruchamiania modeli.
Jak wyniki zmieniały się wraz z liczbą przebiegów
Poniższe wartości to wyniki podane przez autorów. Odsetek odpowiedzi na limicie odnosi się do odpowiedzi MATH-500 osiągających limit 32 768 tokenów.
| Warunek Qwen3.5-0.8B | MATH-500 | GSM8K | IFEval | Odpowiedzi MATH-500 na limicie tokenów |
| Model bazowy | 7,9% | 13,8% | 21,0% | 93,0% |
| Edycja, 10 przebiegów | 12,3% | 25,7% | 49,0% | 87,2% |
| Edycja, 25 przebiegów | 14,1% | 25,1% | 39,9% | 86,4% |
| Edycja, 50 przebiegów | 48,1% | 67,1% | 62,3% | 33,1% |
Przy 10 i 25 przebiegach odsetek odpowiedzi dochodzących do limitu pozostał bliski wynikowi modelu bazowego. Największa różnica pojawiła się przy 50 przebiegach: równocześnie wzrosły wyniki benchmarków, a udział odpowiedzi MATH-500 kończących się na limicie spadł do 33,1%.
Dlaczego autorzy opisali wynik jako naprawę pętli
Badacze uznali, że edycja pomogła Qwen kończyć odpowiedzi, które model potrafił już rozwiązać, zamiast dodawać mu nową wiedzę matematyczną. W osobnej próbie z Gemma 3 270M nie wykazali poprawy w MATH-500; ten model rzadko wpadał w podobne pętle. Wyników obu modeli nie należy traktować jako bezpośredniego porównania, ponieważ testy Gemma używały innych ustawień próbkowania.
W opisanym eksperymencie GPT-6 Astra edytował Qwen3.5-0.8B, czyli odrębny, mniejszy model. Badacze wymienili rekurencyjne samodoskonalenie jako możliwy kierunek przyszłych prac.
