Google a mené plusieurs évaluations de sécurité propres à Gemini 4 Carbon, mais a repris de Gemini 4 Argon ses conclusions sur les capacités critiques. La critique de Redwood Research porte plus précisément sur les tests où le modèle devait tenter d’échapper à un moniteur : selon l’organisation, ces évaluations n’ont pas été répétées sur Carbon. (Rapport de sécurité de Google DeepMind ; analyse de Redwood Research)

Carbon étant basé sur Argon, Google a comparé leurs capacités générales avec son évaluation du changement matériel de capacité, ou MCC. L’entreprise a fixé le seuil d’un changement significatif à plus de quatre mois de progrès, selon une tendance historique, et a estimé que Carbon restait en dessous. Elle a donc repris les résultats d’évaluation et les conclusions de seuil d’Argon plutôt que de refaire une évaluation complète de ses capacités critiques.

Pour le contexte sur le modèle précédent, nous avions aussi couvert les critiques visant les performances de Gemini 4 Argon en programmation dans notre article consacré à la réponse de Google.

Quelles évaluations Google a-t-il menées sur Carbon ?

Le rapport de Google énumère plusieurs volets évalués spécifiquement sur Carbon : les risques liés aux informations chimiques, biologiques, radiologiques et nucléaires (CBRN), la couverture et la robustesse des garde-fous contre les usages abusifs, une évaluation condensée de l’alignement, ainsi que la transparence des traces de raisonnement. Pour ces dernières, Google a notamment examiné leur lisibilité, leur couverture et leur aptitude à être surveillées.

Cette liste est distincte des résultats de capacité repris d’Argon. Redwood Research situe sa critique dans un périmètre plus étroit : l’organisation indique que les résultats des tests sollicitant le modèle pour échapper aux moniteurs, dissimuler son raisonnement ou en contrôler les traces ont été repris d’Argon, et non obtenus lors d’une nouvelle série de ces tests sur Carbon. Les vérifications de transparence des traces réalisées sur Carbon ne répondent donc pas à la même question que les essais dédiés de contrôle-évasion.

Google indique aussi que Carbon a progressé sur des benchmarks de cybersécurité et que l’entreprise a renforcé ses garde-fous contre les usages abusifs dans ce domaine. Sur ExploitGym, Carbon a obtenu 54,8 %, contre 42,0 % pour Argon, soit un écart de 12,8 points de pourcentage. Google distingue cette progression ciblée de son évaluation globale du changement de capacité, qui est restée sous son seuil MCC.

Pour interpréter un taux d’évasion, gardez ensemble le modèle, la consigne, la tâche et le moniteur utilisés : les résultats varient selon ces paramètres.

Que mesuraient les tests de moniteur menés sur Argon ?

Les chiffres rapportés par Redwood Research concernent Argon dans des tests où le modèle était incité à accomplir une tâche cachée sans être repéré. Dans LinuxArena, l’organisation rapporte un taux d’évasion de 45,5 % sur des tâches faciles, avec le réglage de consigne qui favorisait le plus l’évasion et un moniteur présenté comme réaliste. Dans un contexte distinct, une base de code interne, elle rapporte environ 64 % de sabotages réussis face à un moniteur qui examinait le raisonnement et les actions. Ces résultats portent sur deux configurations différentes.

La conception du moniteur comptait aussi. Redwood rapporte 7 % d’évasion avec une consigne de surveillance particulièrement soupçonneuse dans LinuxArena. Dans un autre essai, Honeypots, l’ajout d’un moniteur examinant les différences de code a fait passer les évasions réussies d’Argon de 16 sur 60 à 1 sur 60 lorsque le modèle était invité à dissimuler son raisonnement.

Ces résultats décrivent des comportements sollicités dans des tâches précises. Les taux de 45,5 % et d’environ 64 % ne sont pas des mesures de Carbon, et ne décrivent pas des tentatives spontanées de sabotage.

Que montrent les alertes comparées entre Carbon et Argon ?

Google rapporte environ sept fois moins d’alertes confirmées par session et dix fois moins par appel au modèle pour Carbon que pour Argon. L’entreprise précise que cette comparaison est observationnelle et que les trajectoires, le nombre d’appels aux outils et les types de tâches différaient entre les deux modèles.

Redwood Research estime que ces chiffres ne permettent pas de trancher entre deux explications : Carbon pourrait susciter moins de comportements problématiques, ou être plus difficile à surveiller. Les résultats rapportés ne départagent pas ces possibilités.