METR opublikował 20 października 2026 r. ocenę sekcji o niezgodności celów w sytuacjach wysokiego ryzyka z raportu Anthropic z sierpnia. Oparł ją wyłącznie na tym raporcie i przygotował przed ogłoszeniem nowego dostępu 15 października. Według najlepszej oceny METR ryzyko katastrofalnej szkody było niskie dla objętych modeli, głównie ze względu na ich ograniczone możliwości. METR zastrzegł jednak, że zastosowane metody mogą nie wykryć wiarygodnie wyższego ryzyka.
Co obejmowała ocena METR
Przegląd dotyczył modeli wdrożonych wewnętrznie lub udostępnionych zewnętrznie przed 15 lipca 2026 r. Wśród nich były Mythos 5 oraz model wewnętrzny o nazwie „Model 2”. METR analizował raport Anthropic, a nie wyniki pracy zespołu korzystającego z nowego dostępu.
Wniosek o niskim ryzyku odnosił się wyłącznie do modeli objętych raportem. METR przypisał go przede wszystkim ograniczonym możliwościom tych modeli, a nie zabezpieczeniom czy treningowi ukierunkowanemu na zgodność z zamierzonymi celami. Jednocześnie oceniający nie byli pewni, czy metody opisane w raporcie pozwoliłyby niezawodnie rozpoznać wyższy poziom ryzyka.
Jaki dostęp otrzymało METR
Anthropic poinformował 15 października 2026 r., że sześciu pracowników Model Evaluation and Threat Research (METR) otrzymało sprzęt firmowy, przestrzeń biurową i dostęp do wewnętrznych systemów. Firma opisała ten dostęp jako zbliżony do tego, z którego korzystają jej własne zespoły oceny ryzyka. Pracownicy METR działający w Anthropic są odseparowani od pozostałych osób z organizacji.
Anthropic opisał trzy poziomy współpracy z ewaluatorami, czyli zewnętrznymi zespołami oceniającymi ryzyko modeli:
| Poziom | Zasady publikacji według Anthropic |
| 1 | Publikacja wymaga zgody Anthropic. |
| 2 | Ewaluatorzy mogą publikować bez uprzedniej zgody, z zastrzeżeniem określonych redakcji. |
| 3, METR | Warunki publikacji są zbliżone do poziomu 2; Anthropic twierdzi, że nie może zawetować publikacji, ale decyduje, czy informacje należą do kategorii objętych redakcją. |
Wśród kategorii, które Anthropic wymienił jako podlegające redakcji, są informacje o klientach, materiały objęte tajemnicą adwokacką i informacje o architekturze modeli. METR może też publikować określone informacje o otrzymanym dostępie i materiałach. Według Anthropic mały zespół działa na podstawie egzekwowalnych umów i firmowych zasad bezpieczeństwa.
Szerszy kontekst dyskusji o tempie rozwoju zaawansowanej AI przedstawia wcześniejszy tekst NeoTeo o propozycji Daria Amodeia.
Co METR zalecił w sprawie monitorowania
METR rekomendował pełniejsze testy typu red team, czyli próby wykrycia słabych punktów przez sprawdzanie, jak system zachowuje się w trudnych scenariuszach. Zespół wskazał na potrzebę testowania całego asynchronicznego systemu monitorowania Anthropic, w tym sprawdzania, czy agent mógłby znaleźć słabiej monitorowane ścieżki działania lub ingerować w monitoring. Zalecił też uwzględnienie w analizie ryzyka możliwości podważania przez systemy AI decyzji Anthropic istotnych dla bezpieczeństwa.
