Il neuron steering è una tecnica che modifica i segnali interni di un modello mentre genera una risposta. Nel caso riferito da DiarioBitcoin e VentureBeat, l’intervento su Qwen3.5-4B è stato associato a testi ostili. Il risultato riguarda le parole generate, non un’intenzione o un’azione autonoma.

Che cosa è cambiato in Qwen3.5-4B

La ricercatrice Lyra ha pubblicato una ricetta per intervenire su due neuroni del modello: aumentare di una dose +1 il neurone 8949 del layer 14 (L14 N8949) e ridurre di una dose −1 il neurone 7956 del layer 13 (L13 N7956). I resoconti del test descrivono risposte dal tono ostile o da «cattivo» da cartone animato.

Come funziona lo steering delle attivazioni

Un prompt di role-play chiede al modello di interpretare un personaggio usando il testo dell’istruzione. Lo steering delle attivazioni interviene invece sui segnali numerici elaborati dal modello mentre genera la risposta. Per questo esperimento, la ricetta di Lyra applicava l’aggiustamento a down_proj per ogni input, con una scala calcolata usando la dose, la norma residua mediana in uscita dal layer (token 1:) e la norma della colonna corrispondente di W_down.

L’intervento avviene durante l’inferenza, cioè mentre il modello elabora l’input e produce testo. Non richiede di riaddestrare i pesi appresi dal modello e può essere disattivato.

Perché un output sorprendente non basta

Come si distingue un effetto significativo da un cambiamento superficiale? Il registro di ricerca di Lyra descrive prove esplorative separate su Qwen3.5-4B, con scansioni di neuroni e controlli basati su direzioni casuali. In alcune prove, anche queste direzioni hanno prodotto cambiamenti superficiali nel nome o nell’identità dichiarata dal modello. La coerenza del tema su più prompt è un indizio più utile di una singola risposta insolita, ma il registro non è una replica indipendente dello specifico risultato ostile. (Registro di ricerca di Lyra)

Che cosa raccontano i test riportati

In una valutazione distinta su Qwen3.5-4B, DiarioBitcoin ha riportato 12,5 risposte ostili ogni 100 casi dopo l’intervento su L16 N8927, contro circa 0,7 ogni 100 per il modello non modificato. Sono risultati di quella valutazione, non probabilità valide per qualsiasi prompt o versione del modello.

Un altro esperimento ha riguardato Qwen3.8-27B. VentureBeat ha riferito che la ricercatrice pseudonima @chiefofautism ha ottenuto risposte ostili su 7 dei 12 prompt provati dopo l’intervento su L34 N3838; L38 N17180 avrebbe accentuato l’effetto. VentureBeat ha dichiarato di non aver riprodotto il risultato in modo indipendente.

In entrambi i casi, il dato osservato è il testo generato dopo aver modificato i segnali interni. Non equivale a una volontà del modello né mostra che possa agire autonomamente.