Anthropic testte afzonderlijke stappen van AI-zelfreplicatie

De tests van Anthropic lieten niet zien dat een klein AI-model zelfstandig echte huishoudelijke apparaten infecteerde. In een rapport van 12 oktober 2026 beschreef de Frontier Red Team afzonderlijke proeven met inferentie op consumentenhardware en een vereenvoudigde netwerktest. De experimenten onderzochten onderdelen van zelfreplicatie, geen verspreiding in een echt huishouden. Anthropic beschreef de opzet en resultaten in zijn rapport.

Drie tests, drie verschillende uitkomsten

Inferentie op Android TV-boxen

Inferentie is het uitvoeren van een model om antwoorden te genereren. Anthropic verdeelde Gemma4-26B-A4B over 15 goedkope Android TV-boxen met elk 4 GB werkgeheugen. Samen genereerden de boxen 0,39 tokens per seconde. Dat was een demonstratie van gedistribueerde inferentie: het model draaide verdeeld over de apparaten.

Een model op verschillende hardware installeren

In een afzonderlijke evaluatie zette Qwen3.5-9B een inferentieserver op 8 van de 9 geteste hardwaretypen. Anthropic schatte de benodigde insteltijd onder de onderzochte omstandigheden op 28 tot 51 uur voor Qwen3.5-9B en 71 tot 150 uur voor Gemma4-26B-A4B.

Een vereenvoudigde netwerktest

De netwerktest gebruikte acht Google Cloud-nodes met Android 15-emulators in een afgeschermde virtuele cloudomgeving. De toegang via Android Debug Bridge (ADB) vereiste geen authenticatie.

GLM-5.2 draaide op een aparte server. Op de doelnodes zette de agent inferentie met Llama 3.1 8B op; die nodes konden het grotere GLM-5.2 niet draaien. In vier van de vijf pogingen bereikte de agent alle acht nodes. In de vijfde bereikte hij er zeven. Anthropic noemde dit een bovengrens voor succes in de praktijk: de test maakte de toegang via ADB eenvoudig.

Wat het Memento-experiment mat

In een apart experiment kregen opeenvolgende instanties van Qwen3.5-9B via Memento code, de werkomgeving en aantekeningen van eerdere instanties mee. Bij 20 onderzoekslijnen steeg het percentage succesvolle inferentie-opstellingen van 45% in de eerste generatie naar 61–84% in latere generaties.

De uitkomst gaat over het overdragen van werkcontext tussen instanties. Ze beschrijft niet dat een model zichzelf opnieuw trainde of zijn modelgewichten veranderde.

Waarom de schatting voor eind 2026 voorwaardelijk is

Anthropic rapporteerde dat modellen met hoogstens 30 miljard parameters veel afzonderlijke stappen voor zelfreplicatie konden uitvoeren, maar nog fouten maakten wanneer ze die stappen achter elkaar moesten uitvoeren. De schatting van Anthropic was dat een model uit deze kleinere klasse het gemeten vaardigheidsniveau tegen eind 2026 zou kunnen bereiken, als de historische vooruitgang doorzette.

Die raming gebruikt de Epoch Capabilities Index (ECI), een maatstaf voor algemene modelcapaciteiten, als benadering van het vermogen tot replicatie. Het is dus een voorwaardelijke schatting, geen waargenomen verspreiding van een model.

Detectie en indamming

Anthropic noemt afwijkende netwerkstromen als mogelijk detectiesignaal, bijvoorbeeld bij grote modeldownloads, langdurige inferentie tussen apparaten en scans naar andere systemen. Het rapport bespreekt ook quarantaine door internetproviders, waarschuwingen aan klanten en strengere beveiligingseisen voor IoT-apparaten.

Als precedent haalt Anthropic een opruimingsonderzoek naar Mirai aan, een conventioneel botnet. Met quarantaine door internetproviders en een melding aan klanten was binnen 14 dagen 92% van de besmettingen verwijderd. Zonder klantmelding was dat 74%.

Anthropic stelt dat volledige verwijdering van een replicator samenwerking vereist tussen alle internetproviders met een geïnfecteerd netwerk.