El informe de seguridad de Google DeepMind, fechado en noviembre de 2026, enumera pruebas específicas de Gemini 4 Carbon y explica por qué la empresa trasladó ciertas determinaciones de capacidad de Gemini 4 Argon. En un análisis publicado el 16 de noviembre de 2026, Redwood Research cuestiona que esa evaluación demuestre un riesgo bajo de pérdida de control: sostiene que Google no repitió las pruebas específicas de control con Carbon. (Informe de Google DeepMind)

Para entender la evaluación, conviene separar las pruebas realizadas específicamente con Carbon de las determinaciones de capacidad que Google trasladó desde Argon.

Por qué Google mantuvo algunas determinaciones de Argon

Google basó su decisión en la evaluación de cambio material de capacidad (MCC, por sus siglas en inglés). El método utiliza GCI v2, un índice interno que agrupa resultados de benchmarks. La empresa considera material un cambio que supere cuatro meses de progreso en capacidades; su estimación histórica sitúa ese avance en unos 4,7 puntos GCI al mes. Google dijo que el aumento de Carbon quedó por debajo de su umbral y, por eso, trasladó las evaluaciones de capacidad y las determinaciones de niveles de umbral de Argon en lugar de realizar una evaluación completa nueva de capacidades críticas.

Entre las determinaciones trasladadas, Google dijo que no podía descartar ciertos niveles críticos de capacidad relacionados con el aumento cibernético y la información biológica, ni el nivel seguido de sigilo y conciencia situacional. También indicó que esas evaluaciones no alcanzaban determinados umbrales críticos para riesgos químicos, radiológicos y nucleares, manipulación dañina e investigación y desarrollo de aprendizaje automático.

NeoTeo ya había recogido las críticas al rendimiento de Gemini 4 Argon.

Qué evaluaciones hizo Google específicamente con Carbon

Google enumeró pruebas de propensión a usos químicos, biológicos, radiológicos y nucleares (CBRN), además de pruebas de cobertura y resistencia ante ataques de las salvaguardas para CBRN y ciberseguridad. También describió una evaluación condensada de alineación y comprobaciones de transparencia de la cadena de pensamiento (CoT), centradas en su legibilidad, cobertura y capacidad de supervisión.

Salvo cuando el informe indica otra cosa, las evaluaciones se realizaron sin salvaguardas de producción externas al modelo y sin contexto obtenido mediante búsquedas. Google describe por separado protecciones que pueden variar según el servicio, entre ellas clasificadores basados en instrucciones y patrones, sondas de introspección basadas en activaciones y monitores de CoT. La empresa considera que sus mitigaciones reducen el riesgo residual hasta un nivel aceptable o inferior al umbral pertinente.

En ExploitGym, un benchmark de ciberseguridad, Google comunicó una tasa de aprobación causal del 54,8 % para Carbon, 12,8 puntos porcentuales por encima de Argon. Es un resultado de ciberseguridad; no corresponde a las pruebas de evasión de monitores que aborda Redwood Research.

Qué cuestiona Redwood Research

Redwood sostiene que Google no repitió con Carbon las evaluaciones específicas de control que incluían evasión de monitores, esteganografía y controlabilidad de la cadena de pensamiento. Las tasas que Redwood cita —alrededor del 45,5 % en una configuración de LinuxArena y del 64 % en una prueba distinta con una base de código interna— corresponden a Gemini 4 Argon.

Google también informó de menos alertas confirmadas de alta gravedad para Carbon en observaciones internas: alrededor de siete veces menos por sesión y diez veces menos por llamada de modelo. La comparación incluyó diferencias en las tareas, la duración de las trayectorias, la cobertura de revisión y la selección de puntos de control. Redwood argumenta que esos recuentos no permiten distinguir entre menos conductas problemáticas y una mayor dificultad para supervisar el modelo.

La crítica de Redwood Research no equivale a pedir que se detenga todo despliegue externo. Sus autores, Adam Kaufman y Alek Westover, dijeron que apoyan ese despliegue, pero reclamaron argumentos de seguridad más sólidos, sobre todo para modelos usados internamente en investigación y desarrollo de inteligencia artificial.