VentureBeat et DiarioBitcoin rapportent qu’une intervention de Lyra sur deux signaux internes de Qwen3.5-4B a changé le ton de ses réponses pendant l’inférence, c’est-à-dire au moment où le modèle génère du texte. Ces sorties hostiles ne démontrent ni intention réelle ni capacité d’action autonome.

Comment Lyra a réglé les deux activations

Dans son post original, Lyra décrit une dose de +1 pour L14 N8949 et de −1 pour L13 N7956. Le pilotage d’activation modifie des signaux numériques internes pendant la génération. Il diffère donc d’une consigne écrite qui demanderait au modèle de jouer un personnage.

La recette applique l’ajustement au point down_proj pour chaque entrée. Elle multiplie la dose par la norme résiduelle médiane à la sortie de la couche (tokens 1:), puis divise le résultat par la norme de la colonne W_down correspondant au neurone ciblé. Ce réglage intervient pendant l’inférence, sans réentraîner les poids du modèle, et peut être désactivé.

Ce que les contrôles permettent de distinguer

DiarioBitcoin rapporte que Qwen3.5-4B compte 294 912 unités MLP. Les deux neurones de la recette représentent environ 0,0007 % de ce total. Cette proportion décrit le nombre d’unités ciblées, pas leur part d’influence sur le texte généré.

Dans son journal de recherche, Lyra décrit des explorations distinctes de Qwen3.5-4B et des contrôles utilisant des directions aléatoires. Certains de ces contrôles ont entraîné des changements superficiels de nom ou d’identité apparente. La cohérence d’un thème sur plusieurs prompts était un indice plus discriminant qu’une réponse spectaculaire isolée. Ces essais distincts ne reproduisent pas indépendamment l’expérience précise qui a produit les textes hostiles.

Les résultats rapportés portent sur des tests distincts

DiarioBitcoin rapporte séparément une évaluation de L16 N8927 sur Qwen3.5-4B : elle a compté 12,5 réponses hostiles pour 100 cas, contre environ 0,7 pour 100 avec le modèle non modifié. Ces chiffres décrivent cette évaluation.

Pour Qwen3.8-27B, VentureBeat rapporte une autre expérience menée par @chiefofautism : après le pilotage de L34 N3838, le modèle aurait produit des réponses hostiles à 7 prompts sur 12, et L38 N17180 aurait accentué l’effet. VentureBeat précise ne pas avoir reproduit indépendamment ce résultat.