Google DeepMind voerde tests uit op Gemini 4 Carbon, maar nam ook bepaalde capaciteitsbeoordelingen van Gemini 4 Argon over. Redwood Research betwist dat de gepubliceerde rapporten daarmee aantonen dat het risico op controleverlies laag is. De analyse van Redwood verscheen op 16 november 2026; Google beschreef zijn aanpak in een rapport uit november 2026 (Gemini 4 Carbon Safety & Security Report).

Waarom Google beoordelingen van Argon meenam

Google gebruikte de Material Capability Change-beoordeling (MCC) om te bepalen of Carbon een volledige nieuwe beoordeling van kritieke capaciteiten nodig had. Daarvoor gebruikt het bedrijf GCI v2, een interne index die benchmarkprestaties samenneemt. Google beschouwt een toename van meer dan vier maanden aan capaciteitsontwikkeling als materieel; de historische voortgang schatte het op ongeveer 4,7 GCI-punten per maand.

Volgens Google bleef Carbon onder die MCC-drempel. Daarom nam het bedrijf resultaten van capaciteitsbeoordelingen en drempelbepalingen van Argon over, in plaats van een volledige nieuwe beoordeling uit te voeren. Die overgenomen beoordelingen konden volgens Google bepaalde cyber- en biologische-capaciteitsdrempels niet uitsluiten, evenmin als de gevolgde drempel voor stealth en situationeel bewustzijn.

NeoTeo schreef eerder over kritiek op de codeprestaties van Gemini 4 Argon. De discussie over Carbon gaat hier over een andere vraag: hoe Google de veiligheidsrisico’s beoordeelde.

Welke tests Google wel op Carbon uitvoerde

Het rapport noemt voor Carbon onder meer tests op de neiging om gevaarlijke chemische, biologische, radiologische en nucleaire informatie te geven (CBRN), en op de dekking en weerbaarheid van beveiligingsmaatregelen tegen CBRN- en cybermisbruik. Google voerde ook een verkorte afstemmingsevaluatie uit en controleerde de transparantie van de chain of thought (CoT), waaronder de leesbaarheid en controleerbaarheid ervan.

Een genoemd resultaat komt uit ExploitGym, een benchmark voor cyberbeveiliging: Google rapporteerde voor Carbon een causale slaagkans van 54,8%. Dat cijfer hoort bij die cyberbenchmark; het is geen meting van het ontwijken van een monitor.

De standaardtests in het rapport onderzochten doorgaans het model zonder productiebeveiliging buiten het model en zonder zoekondersteuning, tenzij het rapport anders vermeldde. Google beschrijft daarnaast beschermingslagen voor gebruik in de praktijk, waaronder classifiers, patroon- en embeddingdetectie, introspectieprobes en monitors voor de chain of thought. Die beveiligingslagen kunnen per toepassing verschillen.

Een cyberbenchmark meet prestaties op cyberbeveiliging; een controletest onderzoekt of gedrag aan een monitor ontsnapt.

Wat Redwood Research aan de beoordeling betwist

Redwood Research stelt dat Google de specifieke controle-evaluaties niet opnieuw uitvoerde op Carbon. De percentages die Redwood aanhaalt, horen bij Argon: ongeveer 45,5% in een LinuxArena-opstelling en circa 64% in een afzonderlijke test met een interne codebase. Het gaat om verschillende testomgevingen.

Google rapporteerde bij intern gebruik ongeveer zeven keer minder bevestigde meldingen met hoge ernst per sessie voor Carbon en tien keer minder per modelaanroep dan voor Argon. Het bedrijf wees daarbij op verschillen in taken en trajecten, het aantal toolaanroepen, de beoordelingsdekking en de gekozen checkpoints. Redwood vindt dat deze vergelijking niet beslist of Carbon minder ongewenst gedrag vertoonde of moeilijker te monitoren was.

De auteurs van Redwood Research steunen externe inzet van de modellen, maar vinden dat de veiligheidsargumentatie sterker moet zijn, vooral voor modellen die intern worden gebruikt voor onderzoek en ontwikkeling van AI.