Die MIT-Studienautoren berichten, dass GPT-6 Astra in einem gezielten Versuch Gewichte von Qwen3.5-0.8B änderte und so eine repetitive Schleifenbildung verringerte. Nach 50 Vorwärtsdurchläufen stieg Qwens Ergebnis bei MATH-500 von 7,9 auf 48,1 Prozent. Das beschreibt einen konkreten Reparaturversuch – keinen Nachweis, dass Astra beliebige Modelle allgemein verbessern oder ihnen neue mathematische Fähigkeiten beibringen kann. Die Autoren nennen ihren Ansatz Weight-Space Programming.

Wer den allgemeinen Kontext zum Modell sucht, findet ihn in NeoTeos früherer Einordnung zu GPT-6 Astra.

Was Astra im Qwen-Experiment tat

Weight-Space Programming bezeichnet das direkte Lesen oder Verändern von Netzgewichten anhand eines in natürlicher Sprache formulierten Ziels, statt dafür einen Optimierer oder Gradientenabstieg zu verwenden. Im Qwen-Versuch kam allerdings mehr als eine reine Betrachtung der Gewichte zum Einsatz: Astra nutzte einen Python-Kernel auf einer CPU, ohne GPU, Training oder Gradienteninformationen.

Die Autoren ließen Astra mit aktiviertem Denkmodus 10, 25 oder 50 Vorwärtsdurchläufe ausführen. Dafür verwendete das System Übungsaufgaben aus den Trainingsdaten von GSM8K und MATH; die jeweiligen Evaluationsaufgaben wurden Astra nicht gezeigt. Im Lauf mit 50 Durchläufen änderte es laut den Autoren 131.072 Gewichte – 0,016 Prozent der insgesamt 0,8 Milliarden Gewichte von Qwen3.5-0.8B. Die Änderungen betrafen Ausgabespalten des MLP in den Schichten 15 und 19.

Wie sich die Ergebnisse mit dem Pass-Budget veränderten

Englischsprachige Einordnung des Qwen-Versuchs und seiner Grenzen durch Dev Branch

Die MIT-Autoren berichten bei Qwen3.5-0.8B über unterschiedliche Werte je nach Zahl der Vorwärtsdurchläufe. Neben den Ergebnissen für MATH-500 und GSM8K erfassten sie IFEval sowie den Anteil der MATH-500-Antworten, die das Limit von 32.768 Tokens erreichten.

BedingungMATH-500GSM8KIFEvalMATH-500-Antworten am Limit von 32.768 Tokens
Basismodell7,9 %13,8 %21,0 %93,0 %
Bearbeitet, 10 Durchläufe12,3 %25,7 %49,0 %87,2 %
Bearbeitet, 25 Durchläufe14,1 %25,1 %39,9 %86,4 %
Bearbeitet, 50 Durchläufe48,1 %67,1 %62,3 %33,1 %

Die Autoren führen den deutlichen Unterschied im 50-Durchläufe-Lauf vor allem darauf zurück, dass Qwen wiederholte Gedankenschleifen seltener fortsetzte und Antworten häufiger beendete. Die Schleifen gingen zurück, verschwanden aber nicht vollständig. Das passt auch zum Anteil der MATH-500-Antworten am Tokenlimit: Er sank im 50-Pass-Lauf von 93,0 auf 33,1 Prozent. Bei 10 und 25 Durchläufen lag er noch bei 87,2 beziehungsweise 86,4 Prozent.

Ein großer Benchmark-Sprung nach einer gezielten Reparatur sagt zunächst etwas über den behobenen Fehler aus – nicht über die allgemeine Lernfähigkeit eines Modells.

Was der Vergleich mit Gemma 3 270M aussagt

Bei Gemma 3 270M, das laut den Autoren selten in solche Schleifen geriet, ergab der Ansatz keinen festgestellten MATH-500-Gewinn. Das Basismodell erreichte 6,8 Prozent; nach Bearbeitungen mit 5, 10, 25 und 50 Vorwärtsdurchläufen lagen die Werte bei 7,0, 7,6, 7,7 und 7,0 Prozent. Die Autoren bewerteten diese Unterschiede nicht als gesicherten Zugewinn.

Der Vergleich macht die Grenze der Qwen-Zahlen greifbar: Eine Änderung, die eine konkrete Fehlerart mindert, muss bei einem Modell ohne denselben Fehler nicht dieselbe Wirkung haben. Die Autoren beschreiben die Qwen-Reparatur als Hilfe dabei, Antworten zu Ende zu führen, die das Modell bereits lösen konnte – nicht als Vermittlung neuer mathematischer Fähigkeiten.

Was die übrigen Versuche ergänzen

Die Autoren berichten außerdem über verschiedene Aufgaben mit kleineren Netzen: GPT-6 Astra erkannte etwa vier Spielstrategien anhand ihrer Gewichte und identifizierte Merkmale von Sprachmodellen, ohne diese auszuführen. In einem Versuch mit erzeugten Formen verwechselte es gefüllte Figuren mit Umrissen. Bei einem Test zur Erkennung zustimmungsheischenden Verhaltens konnte Astra das betreffende Modell anhand der Gewichte allein nicht zuverlässig bestimmen; dafür benötigte es zusätzlich Aufmerksamkeitsmuster aus eigenen Tests.

Die Ergebnisse fielen je nach Aufgabe und verfügbarem Zugriff unterschiedlich aus. Zusammen mit dem Gemma-Vergleich ordnen sie den Qwen-Sprung als Resultat einer eng umrissenen Reparatur ein, nicht als verlässliche Methode zur allgemeinen Leistungssteigerung.