Google DeepMind przeprowadził na Gemini 4 Carbon testy dotyczące m.in. zagrożeń chemicznych i biologicznych, zabezpieczeń oraz przejrzystości rozumowania, ale część ocen zdolności przeniósł z Gemini 4 Argon. Firma uzasadniła tę decyzję wynikiem poniżej progu istotnej zmiany możliwości. Redwood Research argumentuje, że bez powtórzenia dedykowanych testów kontroli raport nie wykazuje niskiego ryzyka utraty kontroli.
Dlaczego Google przeniósł część ocen z Argon?
Google ocenił zmianę możliwości Carbon za pomocą GCI v2 — wewnętrznego indeksu zbierającego wyniki testów zdolności. W ramach procedury Material Capability Change (MCC), czyli oceny istotnej zmiany możliwości, za znaczący uznaje wynik odpowiadający postępowi większemu niż cztery miesiące. Google podał, że historyczne tempo zmian wynosiło około 4,7 punktu GCI miesięcznie, a wzrost Carbon nie przekroczył przyjętego progu.
W konsekwencji Google przeniósł z Argon wcześniejsze wyniki oceny zdolności krytycznych i związane z nimi ustalenia progowe, zamiast przeprowadzać pełną nową ocenę w tych obszarach. W przeniesionych ustaleniach firma nie wykluczyła m.in. poziomu krytycznego dotyczącego zdolności cybernetycznych, poziomu związanego z biologicznymi informacjami CBRN oraz poziomu śledzonego dla skrytości i świadomości sytuacyjnej. Google opisał metodę i decyzję w raporcie bezpieczeństwa Gemini 4 Carbon.
Przeniesienie wcześniejszych ustaleń nie oznaczało, że Google pominął wszystkie testy Carbon. Firma opisała osobne sprawdziany, ale nie powtórzyła całej oceny zdolności krytycznych.
Jakie testy Google przeprowadził na Carbon?
Raport wymienia testy skłonności do nadużyć w obszarze CBRN — zagrożeń chemicznych, biologicznych, radiologicznych i nuklearnych — oraz sprawdziany zabezpieczeń przed nadużyciami. Obejmowały one ich zakres i odporność na celowe próby obejścia. Google opisał też skróconą ocenę zgodności zachowania modelu z założeniami oraz testy przejrzystości łańcucha myśli (CoT), czyli analizę tego, na ile jego tok rozumowania jest czytelny i możliwy do monitorowania.
Google podał również, że Carbon osiągnął 54,8% skuteczności przyczynowej w teście ExploitGym, wobec 42,0% dla Argon — różnica wynosi 12,8 punktu procentowego. To wynik testu cyberbezpieczeństwa; nie jest pomiarem skuteczności unikania monitorów ani testem kontroli.
Większość ocen w raporcie przeprowadzono bez zabezpieczeń produkcyjnych działających poza samym modelem i bez wyszukiwania kontekstowego, chyba że raport zaznaczał inaczej. Google opisał także warstwowe zabezpieczenia stosowane podczas wdrożeń, których konfiguracja może zależeć od usługi. Wyniki testów modelu i opis zabezpieczeń wdrożeniowych dotyczą więc różnych elementów oceny.
Przy ocenie bezpieczeństwa Carbon warto oddzielić wyniki jego własnych testów od ustaleń przeniesionych z Argon.
Co Redwood Research zarzuca ocenie kontroli?
W analizie opublikowanej 16 listopada 2026 r. Redwood Research stwierdził, że Google nie powtórzył dla Carbon dedykowanych testów unikania monitorów, steganografii i kontrolowalności łańcucha myśli. Zdaniem organizacji przeniesienie wyników Argon nie wystarcza, by wykazać niskie ryzyko utraty kontroli.
Liczby przywoływane w tej krytyce dotyczą Argon, a nie Carbon. Redwood podał około 45,5% skuteczności unikania monitorów w jednym ustawieniu LinuxArena i około 64% w odrębnym teście na wewnętrznej bazie kodu. Te wyniki pochodzą z różnych konfiguracji, więc nie są bezpośrednio porównywalne.
Google odnotował mniej potwierdzonych alertów o wysokim poziomie zagrożenia dla Carbon niż dla Argon: około siedem razy mniej na sesję i dziesięć razy mniej na wywołanie modelu. Firma zaznaczyła jednak, że porównanie obejmowało różne zadania, długości przebiegów, użycie narzędzi, zakres przeglądu i wybór punktów kontrolnych. Redwood wskazał, że same liczby alertów nie rozstrzygają, czy Carbon rzadziej zachowywał się problematycznie, czy trudniej było go monitorować.
Redwood Research nie wzywał do zakończenia zewnętrznego wdrażania modeli: autorzy poparli taki kierunek, jednocześnie domagając się mocniejszych argumentów bezpieczeństwa, szczególnie dla modeli wykorzystywanych wewnętrznie w badaniach i rozwoju sztucznej inteligencji.
Gemini 4 Argon: relacje o trudnościach w kodowaniu i wyniki Google