Google DeepMind indique avoir évalué Gemini 4 Carbon sur plusieurs aspects de la sécurité, tout en reprenant certaines conclusions sur ses capacités établies pour Gemini 4 Argon. Redwood Research estime que cette démarche ne démontre pas un faible risque de perte de contrôle : selon son analyse publiée le 16 novembre 2026, les évaluations dédiées au contrôle n’ont pas été répétées sur Carbon.

Pourquoi Google a repris des évaluations d’Argon

Google a fondé sa décision sur le seuil de changement matériel de capacité, ou MCC. Son indice interne GCI v2 agrège les résultats de benchmarks. Le cadre de Google considère comme matériel un écart correspondant à plus de quatre mois de progrès des capacités ; l’entreprise estime le rythme historique à environ 4,7 points GCI par mois. Google dit que Carbon est resté sous ce seuil et que, par conséquent, une nouvelle évaluation complète des capacités critiques n’était pas requise. L’entreprise a reporté sur Carbon les résultats et les déterminations de seuil d’Argon. Le rapport de sécurité de Google DeepMind décrit cette méthode.

Parmi les déterminations reprises, Google indique ne pas pouvoir écarter certains seuils liés aux capacités cyber et aux informations biologiques, ni celui concernant la furtivité et la conscience de la situation. Il s’agit des évaluations de capacité héritées d’Argon, et non de nouvelles mesures de contrôle propres à Carbon.

Quels tests Google dit avoir menés sur Carbon

Le rapport énumère plusieurs évaluations spécifiques à Carbon : la propension à produire des réponses liées aux risques chimiques, biologiques, radiologiques et nucléaires (CBRN), la couverture et la robustesse des protections contre les usages abusifs, une évaluation condensée de l’alignement et des contrôles de transparence de la chaîne de pensée, souvent désignée par l’abréviation anglaise CoT.

Google rapporte aussi un taux de réussite causale de 54,8 % pour Carbon sur ExploitGym, un benchmark de cybersécurité, soit 12,8 points de pourcentage de plus que pour Argon. Ce résultat porte sur une épreuve de cybersécurité ; il ne mesure pas l’évasion des moniteurs de contrôle.

Sauf indication contraire, les évaluations du rapport portent sur le comportement du modèle sans les protections de production situées hors du modèle et sans ancrage par la recherche. Google décrit séparément des protections appliquées au moment de l’inférence, notamment des classificateurs et des moniteurs de chaîne de pensée, qui peuvent varier selon le service utilisé.

Pour comprendre ces résultats, distinguez les performances sur un benchmark de cybersécurité des évaluations qui cherchent à mesurer l’évasion d’un dispositif de contrôle.

Ce que Redwood Research reproche à l’évaluation

Redwood Research estime que les rapports de sécurité de Gemini 4 ne démontrent pas un faible risque de perte de contrôle, notamment parce que Google n’a pas répété sur Carbon les évaluations dédiées à l’évasion des moniteurs, à la stéganographie et au contrôle de la chaîne de pensée. Les taux d’évasion d’environ 45,5 % dans LinuxArena et d’environ 64 % dans un environnement de code interne, cités par Redwood, concernent Gemini 4 Argon dans deux configurations distinctes. Ils ne mesurent pas Carbon.

Google rapporte moins d’alertes de gravité élevée confirmées pour Carbon que pour Argon : environ sept fois moins par session et dix fois moins par appel du modèle. L’entreprise signale toutefois des différences entre les tâches, les trajectoires, la couverture des examens et la sélection des points de contrôle. Redwood estime que cette comparaison ne permet pas de déterminer si Carbon se comportait moins souvent de manière problématique ou s’il était plus difficile à surveiller.

Les critiques de programmation visant Gemini 4 Argon, déjà évoquées dans un précédent article de NeoTeo, portent sur un autre sujet que ces évaluations de sécurité.

Adam Kaufman et Alek Westover, auteurs de l’analyse de Redwood Research, soutiennent le déploiement externe des modèles, tout en demandant des arguments de sécurité plus solides, en particulier pour les modèles employés en interne dans la recherche et le développement de l’IA.