Autorzy z MIT CSAIL podali, że GPT-6 Astra zmieniła wagi modelu Qwen3.5-0.8B, a w warunku obejmującym 50 przebiegów wynik MATH-500 wzrósł z 7,9% do 48,1%. Badacze przypisują główny efekt ograniczeniu powtarzających się odpowiedzi, które nie pozwalały modelowi dokończyć rozwiązania. W opisie badania opublikowanym 2 listopada 2026 r. nazywają tę metodę Weight-Space Programming.
Jak Astra zmieniła wagi Qwen
W eksperymencie Astra analizowała wagi Qwen3.5-0.8B przy użyciu kernela Pythona, czyli środowiska do wykonywania kodu na tych danych. Autorzy przypisali powtarzające się odpowiedzi określonemu kierunkowi w warstwach 15 i 19. Następnie odjęli ten kierunek od 64 kolumn wyjściowych sieci MLP w każdej z tych warstw. Zmiana objęła 131 072 wagi, około 0,016% parametrów modelu.
Autorzy określają metodę jako edycję bez gradientów i pętli treningowej. Nie oznacza to jednak, że Qwen nie był uruchamiany: Astra korzystała z dostępu do wag przez Pythona i wielokrotnie wykonywała model docelowy, by sprawdzać jego odpowiedzi.
Wynik zależał od liczby przebiegów
Astra otrzymała przykłady treningowe do pracy: 7 469 z GSM8K i 7 275 z MATH. Według autorów nie udostępniono jej zestawów ewaluacyjnych. Testowano budżety 10, 25 i 50 przebiegów forward, czyli uruchomień modelu, które pozwalają sprawdzić jego odpowiedź. Kernel działał bez GPU.
| Metryka Qwen3.5-0.8B | Przed edycją | Po edycji, 50 przebiegów |
| MATH-500 | 7,9% | 48,1% |
| GSM8K | 13,8% | 67,1% |
| IFEval | 21,0% | 62,3% |
| Odpowiedzi MATH-500 dochodzące do limitu 32 768 tokenów | 93,0% | 33,1% |
Najwyższy wynik matematyczny pojawił się dopiero przy największym z testowanych budżetów. Po 10 przebiegach wynik MATH-500 wyniósł 12,3%, a po 25 — 14,1%. W tych warunkach do limitu 32 768 tokenów dochodziło odpowiednio 87,2% i 86,4% odpowiedzi. Wartość 48,1% nie opisuje więc automatycznego efektu każdej edycji wag, lecz wynik warunku 50 przebiegów.
Wyższy wynik nie oznacza nowej wiedzy matematycznej
Autorzy przypisują wzrost głównie temu, że Qwen rzadziej zapętlał się i częściej kończył odpowiedzi. W ich analizie 579 odpowiedzi zaliczono do poprawionych, a pięć do pogorszonych. Spośród poprawionych 576 wcześniej urywało się na limicie tokenów; trafność odpowiedzi, które już wcześniej kończyły się przed tym limitem, pozostała bez zmian. Wynik wspiera zatem wyjaśnienie o usunięciu przeszkody w generowaniu odpowiedzi, a nie o dodaniu modelowi nowych umiejętności matematycznych.
Porównanie z Gemma 3 270M pokazuje, że taka edycja nie przyniosła podobnego efektu w każdym modelu. W MATH-500 wynik bazowy Gemma wynosił 6,8%, a po edycjach mieścił się w zakresie od 7,0% do 7,7%; autorzy nie wykazali poprawy matematycznej. W ich interpretacji Qwen zyskał przede wszystkim dlatego, że przestał powtarzać część odpowiedzi, które potrafił już rozwiązać.
