Autorzy badania z MIT informują, że GPT-6 Astra zmienił wagi modelu Qwen3.5-0.8B, ograniczając powtarzające się pętle w odpowiedziach. Po 50 przebiegach wynik MATH-500 wzrósł z 7,9% do 48,1%. Badacze przypisują tę zmianę naprawie konkretnego problemu, a nie nabyciu przez model nowych zdolności matematycznych.

Jak Astra zmieniła wagi Qwen3.5-0.8B

Weight-Space Programming, czyli programowanie w przestrzeni wag, polega na bezpośrednim odczytywaniu lub zmienianiu wag sieci neuronowej przez model językowy na podstawie celu opisanego językiem naturalnym. W eksperymencie z Qwen3.5-0.8B Astra korzystała z narzędzia Python działającego na procesorze i wykonywała 10, 25 albo 50 przebiegów sieci. Nie użyto GPU, treningu ani informacji o gradientach.

Astra sprawdzała zadania ćwiczeniowe z GSM8K i MATH, a zestawy ewaluacyjne pozostały przed nią ukryte. W próbie z 50 przebiegami zmieniła 131 072 wagi, czyli około 0,016% z 0,8 mld parametrów modelu. Zmiany dotyczyły kolumn wyjściowych MLP w warstwach 15 i 19. Szczegóły metody oraz wyniki opisali autorzy badania.

Wyniki Qwen zależały od liczby przebiegów

Anglojęzyczny komentarz Dev Branch omawiający eksperyment z Qwen i jego ograniczenia

Autorzy przypisują słabe wyniki bazowego Qwen przede wszystkim powtarzającym się pętlom rozumowania, które nie pozwalały mu kończyć odpowiedzi. Poniższe wartości pokazują, jak wyniki zmieniały się wraz z budżetem przebiegów:

Warunek dla Qwen3.5-0.8BMATH-500 (%)GSM8K (%)IFEval (%)Odpowiedzi MATH-500 osiągające limit 32 768 tokenów (%)
Model bazowy7,913,821,093,0
Edycja: 10 przebiegów12,325,749,087,2
Edycja: 25 przebiegów14,125,139,986,4
Edycja: 50 przebiegów48,167,162,333,1

Największej zmianie w MATH-500 towarzyszył spadek odsetka odpowiedzi dochodzących do limitu 32 768 tokenów: z 93,0% w modelu bazowym do 33,1% po edycji z 50 przebiegami. Autorzy wiążą poprawę z ograniczeniem zapętleń, które wcześniej blokowały dokończenie odpowiedzi.

Co pokazuje porównanie z Gemma 3 270M

Wyniki dla Gemma 3 270M nie wskazały na podobną zmianę. Autorzy podają, że model rzadko wpadał w pętle; jego wynik MATH-500 wynosił 6,8% przed edycją, a po kolejnych próbach z 5, 10, 25 i 50 przebiegami osiągał odpowiednio 7,0%, 7,6%, 7,7% i 7,0%. Badacze uznali te różnice za niepotwierdzoną poprawę.

To rozróżnienie ogranicza wniosek z eksperymentu z Qwen: usunięcie błędu, który uniemożliwia modelowi ukończenie odpowiedzi, nie jest tym samym co nauczenie go nowej umiejętności. Wyniki Gemma nie pokazują, by ta metoda niezawodnie podnosiła rezultat modelu, który nie ma analogicznego problemu z zapętleniami.

Inne testy obejmowały różne zadania

Zespół opisał też odrębne eksperymenty z odczytywaniem, zapisywaniem i naprawianiem wag. Astra rozpoznała cztery strategie sterowania grami na podstawie ich wag, a w przypadku małych modeli językowych zidentyfikowała język i głowice odpowiedzialne za kopiowanie, analizując środkowe bloki sieci bez jej uruchamiania. Rezultaty zależały od zadania i dostępnych narzędzi.

W teście wykrywania ulegania sugestiom użytkownika same wagi nie wystarczyły do wiarygodnego rozpoznania modelu. Astra wskazała go dopiero po otrzymaniu wzorców uwagi uzyskanych z własnych prób.