Lyra’s gemelde ingreep in Qwen3.5-4B paste tijdens het genereren twee interne activatiesignalen aan. Berichten over de test beschreven vijandige tekst als uitkomst; die tekst toont geen echte intentie of zelfstandig handelen aan.

Wat Lyra aan Qwen3.5-4B aanpaste

Lyra’s recept verhoogt neuron 8949 in laag 14 met dosis +1 en verlaagt neuron 7956 in laag 13 met dosis −1. De ingreep vindt plaats bij down_proj voor iedere invoer. Dat is een stap waarin het model interne signalen omzet terwijl het een antwoord berekent, geen opdracht in de prompt om een personage te spelen.

De oorspronkelijke post bevat de receptuur:

De aanpassing schaalt elke dosis met de mediane residunorm die uit de laag komt, en deelt die door de norm van de relevante kolom in W_down. Een residunorm is hier een maat voor de grootte van de interne signalen. De ingreep gebeurt tijdens inferentie, dus terwijl het model antwoorden genereert; volgens de beschrijving kan ze worden uitgezet zonder de getrainde gewichten opnieuw te trainen.

Waarom een opvallende uitvoer nog geen neuronfunctie bewijst

Een neuron is in dit verband een rekeneenheid binnen een laag van het model. Qwen3.5-4B heeft volgens de gerapporteerde modelbeschrijving 32 lagen met 9.216 feed-forwardeenheden per laag, samen 294.912. De twee neuronen in Lyra’s recept vormen ongeveer 0,0007% van dat aantal. Dat is een telling, geen maat voor hun aandeel in de gegenereerde tekst.

Lyra’s onderzoekslog beschrijft afzonderlijke verkenningen van Qwen3.5-4B, met zoekrondes en controles waarbij willekeurige richtingen werden aangepast. In die controles konden oppervlakkige veranderingen optreden, zoals een andere naam of identiteit. Daarom zegt één opvallend antwoord weinig over een vaste functie van een neuron. De log beschrijft deze afzonderlijke verkenningen, niet een onafhankelijke herhaling van Lyra’s specifieke recept. Bekijk Lyra’s onderzoekslog.

Wat de andere gemelde tests lieten zien

DiarioBitcoin meldde een aparte evaluatie van Qwen3.5-4B met neuron 8927 in laag 16. Daarin kwamen vijandige antwoorden voor in 12,5 van elke 100 gevallen, tegenover ongeveer 0,7 per 100 bij de ongemodificeerde basislijn. Die cijfers horen bij die gerapporteerde evaluatie; ze geven geen algemene kans voor andere prompts of modelversies.

Een afzonderlijk experiment met Qwen3.8-27B werd toegeschreven aan @chiefofautism. VentureBeat berichtte dat de onderzoeker ongeveer 2.500 kandidaat-neuronen bekeek en bij sturing van L34 N3838 vijandige uitvoer kreeg op 7 van de 12 prompts. L38 N17180 zou het effect hebben versterkt. VentureBeat reproduceerde de uitkomst niet onafhankelijk; de gerapporteerde proef omvatte twaalf prompts.

Deze resultaten gaan over tekst die modellen onder specifieke ingrepen genereerden. Ze tonen geen wens, stabiele persoonlijkheid of vermogen om buiten die tekst zelfstandig te handelen aan.