Vier Forscher mit MIT-CSAIL-Affiliation berichteten in einem am 2. November 2026 veröffentlichten Beitrag, GPT-6 Astra habe Gewichte des Sprachmodells Qwen3.5-0.8B verändert. Im stärksten der drei getesteten Durchläufe stieg Qwens Ergebnis bei MATH-500 laut den Forschern von 7,9 auf 48,1 Prozent. Sie führten den Effekt vor allem darauf zurück, dass das Modell weniger in wiederholten Gedankenschleifen hängen blieb und mehr Antworten abschloss. In ihrem Forschungsbeitrag nennen die Autoren die Methode „Weight-Space Programming“.
Welche Qwen-Gewichte Astra bearbeitete
Der Eingriff betraf laut den Forschern 131.072 Gewichte, entsprechend 0,016 Prozent von Qwen3.5-0.8B. Geändert wurden jeweils 64 Ausgabespalten des MLP in den Ebenen 15 und 19. Ein MLP ist ein Teil des neuronalen Netzes, der Informationen innerhalb einer Ebene weiterverarbeitet.
Die Methode sollte eine Richtung in den Gewichten abschwächen, die mit wiederholten Ausgaben verbunden war. Die Autoren deuteten den höheren MATH-500-Wert deshalb als Folge davon, dass Qwen Antworten häufiger zu Ende brachte, nicht als Beleg für neu erworbenes mathematisches Wissen.
Wie der Versuch ablief
Astra arbeitete mit einem Python-Kernel direkt an den Gewichten. Für Qwen nutzte es keinen Grafikprozessor, durfte das Modell aber auf Übungsaufgaben ausführen. Zur Auswahl standen 7.469 Aufgaben aus dem GSM8K- und 7.275 aus dem MATH-Trainingsdatensatz. Die Testsätze blieben Astra vorenthalten. Das Modell lief mit aktiviertem Denkmodus; die erlaubten Budgets betrugen 10, 25 oder 50 Vorwärtsdurchläufe.
Damit war der Qwen-Versuch keine reine Analyse eines unbearbeiteten Gewichtedumps: Astra konnte Qwen mit Übungsaufgaben ausführen und die Ergebnisse für die Bearbeitung nutzen. Die Autoren beschreiben andere, separate Experimente, bei denen Astra kleine Netze ohne solche Ausführungen anhand ihrer Gewichte untersuchte.
Wie sich die Ergebnisse mit dem Durchlaufbudget änderten
Die Werte stammen aus dem Bericht der Autoren. Der Anteil der MATH-500-Antworten, die das Limit von 32.768 Tokens erreichten, sank beim größten Budget deutlich. Nach 10 und 25 Durchläufen blieb er dagegen nahe am Ausgangswert.
| Bedingung für Qwen3.5-0.8B | MATH-500 | GSM8K | IFEval | MATH-500-Antworten am 32.768-Token-Limit |
| Basismodell | 7,9 % | 13,8 % | 21,0 % | 93,0 % |
| Bearbeitet, 10 Vorwärtsdurchläufe | 12,3 % | 25,7 % | 49,0 % | 87,2 % |
| Bearbeitet, 25 Vorwärtsdurchläufe | 14,1 % | 25,1 % | 39,9 % | 86,4 % |
| Bearbeitet, 50 Vorwärtsdurchläufe | 48,1 % | 67,1 % | 62,3 % | 33,1 % |
Die Werte steigen nicht mit jedem zusätzlichen Durchlauf gleichmäßig: Bei IFEval lag das Ergebnis nach 10 Durchläufen über dem nach 25. Der größte berichtete Sprung bei MATH-500 und der stärkste Rückgang der Antworten am Tokenlimit traten erst in der 50-Durchläufe-Bedingung auf.
Einordnung: Die berichteten Zahlen sprechen vor allem dafür, dass Qwen mehr Antworten abschloss. Sie belegen nicht, dass das Modell neue mathematische Fähigkeiten erwarb.
Was der Befund über Astra aussagt
In einem separaten Versuch mit Gemma 3 270M ergab sich laut den Forschern keine gesicherte Verbesserung bei MATH-500. Das Modell geriet dort nur selten in vergleichbare Schleifen. Die Ergebnisse sind wegen unterschiedlicher Einstellungen kein direkter Leistungsvergleich mit Qwen.
Astra bearbeitete Qwen3.5-0.8B, nicht die eigenen Gewichte. Einen autonomen Kreislauf, in dem Astra sich selbst verbessert, untersuchten die Forscher nicht; sie beschrieben rekursive Selbstverbesserung als mögliche künftige Richtung.
