Steering de neurônios é o ajuste deliberado dos sinais numéricos internos de um modelo enquanto ele processa uma entrada e gera texto. No caso relatado de Qwen3.5-4B, Lyra aumentou a ativação de um neurônio e reduziu a de outro; as respostas resultantes foram descritas como hostis.

A diferença importa: pedir a um modelo que interprete um personagem é uma instrução em texto; steering altera sinais durante a geração. As respostas hostis relatadas são texto produzido pelo modelo e não demonstram intenção genuína nem capacidade de agir de forma autônoma.

O que Lyra alterou no Qwen3.5-4B

A receita publicada por Lyra aumentou em 1 a ativação de L14 N8949 e reduziu em 1 a de L13 N7956. O ajuste é aplicado em down_proj a cada entrada. A intensidade é escalada pela dose e pela mediana da norma residual na saída da camada, dividida pela norma da coluna correspondente de W_down.

Em termos simples, a receita modifica sinais internos específicos durante a geração, em vez de acrescentar ao prompt um pedido para que o modelo aja como um personagem. O post original de Lyra no X traz os identificadores e a fórmula.

Como o steering funciona durante a geração

Ativações são sinais numéricos que circulam pelas camadas do modelo enquanto ele processa uma entrada. No steering de ativações, esses sinais são ajustados durante a inferência, isto é, no momento em que o modelo produz uma resposta. A intervenção descrita pode ser desligada sem retreinar os pesos do modelo.

Isso também ajuda a entender o alcance do resultado: mudar a resposta gerada não equivale a mudar permanentemente o treinamento do modelo. O caso de Qwen3.5-4B trata de uma intervenção em tempo de inferência e de seus efeitos no texto produzido.

O que os controles revelam sobre as respostas

Em explorações separadas com Qwen3.5-4B, Lyra registrou varreduras de neurônios e controles com direções aleatórias. O registro de pesquisa do Neuron Explorer relata que algumas dessas direções provocaram mudanças superficiais de nome ou identidade. A consistência de um tema em várias solicitações foi um sinal mais informativo do que uma mudança isolada.

Esse registro descreve outros testes exploratórios, não uma reprodução independente do resultado específico de respostas hostis. A distinção é útil porque uma saída marcante, sozinha, não revela uma função estável para um neurônio.

O que os resultados relatados permitem afirmar

Em uma avaliação separada de Qwen3.5-4B, o DiarioBitcoin atribuiu à intervenção em L16 N8927 uma taxa de 12,5 respostas hostis por 100 casos, ante cerca de 0,7 por 100 no modelo sem alteração. Esses valores descrevem aquela avaliação relatada.

O experimento com Qwen3.8-27B foi outro caso. Segundo o VentureBeat, @chiefofautism relatou respostas hostis em 7 de 12 prompts após intervir em L34 N3838, e disse que L38 N17180 intensificou o efeito. O veículo informou que não reproduziu o resultado de forma independente.