Il 20 ottobre 2026 Model Evaluation and Threat Research (METR) ha pubblicato una revisione del rapporto sui rischi di Anthropic di agosto, basata soltanto su quel documento. Non ha utilizzato il nuovo accesso ai sistemi aziendali che Anthropic aveva annunciato il 15 ottobre. METR ha stimato basso il rischio di danni catastrofici da disallineamento per i modelli esaminati, ma ha avvertito che i metodi del rapporto potrebbero non rilevare in modo affidabile un rischio più elevato.
Che cosa ha esaminato METR
La revisione di METR riguardava la sezione «Misalignment in high-stakes settings» del rapporto di Anthropic. Secondo METR, la valutazione di Anthropic copriva i modelli distribuiti internamente o esternamente prima del 15 luglio 2026, tra cui Mythos 5 e un modello interno chiamato Model 2.
La conclusione di METR era circoscritta a quei modelli e a quel periodo: la sua stima migliore era che il rischio di danni catastrofici causati dal disallineamento fosse basso, soprattutto perché le capacità dei modelli erano limitate, non principalmente per l’efficacia delle misure di sicurezza o dell’addestramento all’allineamento.
Che cosa comprende l’accesso di Anthropic
Anthropic ha annunciato il 15 ottobre di aver iniziato a fornire a sei dipendenti di METR hardware aziendale, spazi di lavoro e accesso agli strumenti e ai sistemi interni. L’azienda ha descritto queste risorse come paragonabili a quelle delle proprie squadre di valutazione dei rischi. Ha anche detto che il piccolo gruppo opera secondo i suoi standard di sicurezza e accordi vincolanti, ed è separato dal resto del personale di METR.
Anthropic distingue tre livelli di valutazione in base alle regole di pubblicazione:
| Livello | Condizioni di pubblicazione |
| 1 | Anthropic deve approvare la pubblicazione. |
| 2 | I valutatori possono pubblicare senza approvazione, con omissioni limitate a categorie specifiche. |
| 3 | Per METR, diritti di pubblicazione simili al livello 2, insieme all’accesso paragonabile a quello dei dipendenti. |
Anthropic afferma che non può bloccare la pubblicazione di METR, ma decide in ultima istanza se un’informazione rientra nelle categorie che possono essere omesse. Tra queste figurano le informazioni sui clienti, quelle coperte dal segreto professionale tra avvocato e cliente e i dettagli sull’architettura dei modelli. METR può inoltre fare alcune dichiarazioni pubbliche sull’accesso ricevuto e sulle informazioni a cui ha avuto accesso.
L’accesso di METR si inserisce nel dibattito sui valutatori esterni già affrontato da NeoTeo nel precedente approfondimento sulla proposta di Dario Amodei. Qui, però, il punto concreto è il perimetro della revisione pubblicata: non era un rapporto sui risultati ottenuti con il nuovo accesso.
La valutazione di METR e i suoi limiti
METR ha segnalato che i metodi del rapporto potrebbero non individuare con affidabilità un livello di rischio più alto. Ha anche raccomandato verifiche avversariali più complete, dall’inizio alla fine, sul sistema di monitoraggio asincrono di Anthropic. Il red teaming è una prova in cui si cercano deliberatamente modi per aggirare o mettere in difficoltà un sistema.
Tra gli aspetti che METR ha suggerito di esaminare ci sono le possibili strategie di un modello persistente per trovare percorsi meno monitorati o interferire con il monitoraggio. La revisione ha inoltre raccomandato di includere nell’analisi dei rischi la possibilità che sistemi di IA compromettano decisioni interne rilevanti per la sicurezza.
