Google DeepMind riferisce di aver svolto controlli specifici su Gemini 4 Carbon, ma ha mantenuto alcune determinazioni sulle capacità ereditate da Gemini 4 Argon dopo che Carbon è rimasto sotto la soglia di cambiamento materiale fissata dall’azienda. In un’analisi pubblicata il 16 novembre 2026, Redwood Research contesta che le valutazioni pubblicate dimostrino un basso rischio di perdita di controllo.
Perché Google ha trasferito alcune valutazioni da Argon a Carbon?
Google ha usato il proprio indice GCI v2 per valutare il cambiamento materiale delle capacità, o MCC: secondo il rapporto, una differenza superiore a quattro mesi di progresso nelle capacità è materiale. L’azienda stima che, nelle sue release Gemini, il progresso storico corrisponda a circa 4,7 punti GCI al mese. Poiché Carbon non ha superato la soglia MCC, Google ha riportato per il nuovo modello i risultati delle valutazioni di capacità e le determinazioni di soglia già formulate per Argon, senza svolgere una nuova valutazione completa delle capacità critiche. Il rapporto di Google DeepMind descrive sia il criterio sia la decisione.
Tra le determinazioni trasferite, Google afferma di non poter escludere il raggiungimento di soglie relative alle capacità informatiche e alle informazioni biologiche CBRN, né alla furtività e alla consapevolezza situazionale. CBRN indica i rischi legati a minacce chimiche, biologiche, radiologiche e nucleari. La valutazione dell’azienda non equivale a una nuova prova specifica di controllo su Carbon.
Quali controlli sono stati svolti specificamente su Carbon?
Google elenca verifiche sulla propensione a fornire informazioni CBRN, sulla copertura e sulla robustezza delle salvaguardie contro gli abusi, una valutazione sintetica dell’allineamento e controlli sulla trasparenza della catena di pensiero, o CoT. Il rapporto presenta inoltre valutazioni su contenuti vietati, uso improprio da parte di agenti, attacchi indiretti tramite prompt e difesa informatica.
Salvo indicazione diversa, le valutazioni del rapporto esaminano il comportamento del modello senza le salvaguardie di produzione esterne al modello e senza l’ancoraggio alla ricerca online. Google descrive separatamente protezioni applicate durante l’inferenza, tra cui classificatori e monitor della catena di pensiero, che possono variare in base al servizio.
Su ExploitGym, un benchmark di sicurezza informatica, Google riporta per Carbon un tasso di superamento causale del 54,8%, 12,8 punti percentuali sopra il risultato di Argon. È una misura di prestazione nel benchmark, non un test di evasione dei monitor.
Un risultato di sicurezza informatica e una prova di evasione dei monitor misurano aspetti diversi: il nome del benchmark conta quanto la percentuale.
Che cosa contesta Redwood Research?
Redwood Research sostiene che Google non abbia ripetuto su Carbon le valutazioni dedicate al controllo, comprese quelle sull’elusione dei monitor, sulla steganografia e sulla controllabilità della catena di pensiero. Le percentuali di evasione citate nella sua analisi riguardano Gemini 4 Argon: circa il 45,5% in una configurazione di LinuxArena e circa il 64% in una diversa prova su una base di codice interna. Redwood cita anche un 7% per Argon con un monitor configurato in modo diverso. Sono risultati di contesti distinti, non misurazioni di Carbon.
Google riferisce inoltre di aver osservato per Carbon meno avvisi confermati di alta gravità: circa sette volte in meno per sessione e dieci volte in meno per chiamata al modello rispetto ad Argon. L’azienda segnala differenze nei compiti, nella durata delle traiettorie, nell’uso degli strumenti e nella revisione dei casi; Redwood sostiene che il confronto non consente di distinguere una minore condotta scorretta da una maggiore difficoltà nel monitorare Carbon.
L’analisi di Redwood non chiede di fermare la distribuzione esterna: gli autori la sostengono, ma chiedono argomentazioni di sicurezza più solide, soprattutto per i modelli impiegati internamente nella ricerca e nello sviluppo dell’IA. Per un contesto sulle precedenti critiche alle prestazioni di Argon, NeoTeo ha già approfondito il tema.