Investigadores del MIT informaron de que GPT-6 Astra modificó los pesos de Qwen3.5-0.8B con un kernel de Python y hasta 50 pases hacia delante. En la ejecución de 50 pases, la puntuación de MATH-500 pasó del 7,9 % al 48,1 %, un resultado que los autores atribuyen a la reducción de bucles de razonamiento que impedían terminar respuestas. El estudio de los autores describe tanto el método como sus condiciones.
Cómo se editó Qwen3.5-0.8B
Los autores llaman Weight-Space Programming a la lectura o escritura directa de los pesos de una red por parte de un modelo de lenguaje, alrededor de un objetivo expresado en lenguaje natural y sin recurrir a un optimizador o al descenso de gradiente. En el experimento con Qwen, Astra trabajó sobre los pesos mediante un kernel de Python, sin GPU, entrenamiento ni información sobre gradientes.
Astra hizo 10, 25 o 50 pases hacia delante con problemas de práctica de los conjuntos de entrenamiento de GSM8K y MATH. Los conjuntos de evaluación quedaron fuera de su alcance. En la ejecución de 50 pases, los autores dicen que modificó 131.072 pesos —el 0,016 % de los 800 millones del modelo— en columnas de salida MLP de las capas 15 y 19.
La prueba se centra en una intervención distinta de la que abordó el análisis previo de NeoTeo sobre GPT-6 Astra como agente: aquí Astra actúa sobre los parámetros de otro modelo.
Qué resultados obtuvieron con cada presupuesto de pases
La puntuación de MATH-500 creció con cada presupuesto probado, mientras que las demás métricas no siguieron una progresión uniforme. Estos son los resultados que comunicaron los autores para Qwen3.5-0.8B:
| Condición | MATH-500 (%) | GSM8K (%) | IFEval (%) | Respuestas de MATH-500 que alcanzaron el límite de 32.768 tokens (%) |
| Modelo base | 7,9 | 13,8 | 21,0 | 93,0 |
| Editado, 10 pases | 12,3 | 25,7 | 49,0 | 87,2 |
| Editado, 25 pases | 14,1 | 25,1 | 39,9 | 86,4 |
| Editado, 50 pases | 48,1 | 67,1 | 62,3 | 33,1 |
La relación entre la puntuación y la finalización de las respuestas ayuda a entender el experimento: con 50 pases, la proporción de respuestas de MATH-500 que llegó al límite de tokens bajó del 93,0 % al 33,1 %. Los autores atribuyen el problema inicial a bucles de razonamiento repetitivos que impedían a Qwen completar sus respuestas.
Para interpretar el salto de MATH-500, conviene mirar también el problema que abordó la edición: los bucles que dejaban respuestas sin terminar.
¿La edición añadió capacidad matemática?
Los autores describen la intervención como una reparación de bucles, no como la incorporación de una nueva habilidad matemática. Según su interpretación, Qwen podía resolver algunos problemas, pero su razonamiento repetitivo le impedía llegar a una respuesta completa.
La comparación con Gemma 3 270M pone a prueba los límites de esa explicación. Los autores dicen que ese modelo rara vez entra en bucles; en MATH-500, sus ediciones produjeron cambios pequeños que no consideraron una mejora estable.
| Condición de Gemma 3 270M | MATH-500 (%) |
| Modelo base | 6,8 |
| Editado, 5 pases | 7,0 |
| Editado, 10 pases | 7,6 |
| Editado, 25 pases | 7,7 |
| Editado, 50 pases | 7,0 |
Así, el resultado de Qwen no demuestra que la técnica mejore cualquier modelo ni que enseñe matemáticas de forma general: en el caso de Gemma, que rara vez tenía el mismo problema de bucles, los autores no establecieron una ganancia.
Qué muestran los otros experimentos
El estudio también describe pruebas de lectura, escritura y reparación de redes pequeñas, con resultados distintos según la tarea y las herramientas disponibles. Astra identificó cuatro políticas de juego a partir de sus pesos; en otra prueba reconoció formas generadas, aunque confundió figuras rellenas con contornos. También examinó bloques centrales de modelos de lenguaje sin ejecutar esas redes.
En el experimento sobre modelos que seguían sugerencias erróneas de los usuarios, Astra no pudo identificar de forma fiable el comportamiento examinando solo los pesos. Los autores informan de que sí identificó los tres pares cuando tuvo acceso a patrones de atención obtenidos mediante sus propias pruebas.