OpenAI ogłosiło 16 listopada 2026 r. pierwszą fazę zewnętrznych ocen bezpieczeństwa modeli, zawierając umowy z Apollo Research, METR, Transluce i Goodfire. Każdy zespół ma inny zakres pracy, a dostęp do zasobów jest uzgadniany dla konkretnej oceny. OpenAI opisało program i jego zasady.

Przy ocenach prowadzonych z zewnątrz liczy się nie tylko to, kto je wykonuje, lecz także zakres modeli, danych i procesów objętych pracą.

Cztery zespoły, cztery różne zakresy

OpenAI przydzieliło czterem organizacjom odrębne zadania. Zestawienie pokazuje, co obejmuje każda z ocen oraz które dalsze prace są planowane albo nadal wymagają uzgodnienia.

OrganizacjaOgłoszony zakresSzczegóły zakresu lub harmonogramu
Apollo ResearchCztery twierdzenia dotyczące prób podważania zabezpieczeń przez modelePraca ma przebiegać w dwóch etapach. Obejmuje m.in. wybrane modele i punkty kontrolne, dane treningowe i wyniki ewaluacji, zapisy interwencji oraz systemy monitorowania.
METRZachowania niezgodne z założeniami podczas wybranego treningu modelu metodą uczenia ze wzmocnieniemOcena obejmuje wybrane punkty kontrolne, przebiegi treningu i ewaluacji oraz zapisy monitorowania. OpenAI opisało ten trening jako największy dotąd w swojej organizacji. Osobna, szersza ocena monitorów pozostaje wstępna i wymaga uzgodnienia zakresu.
TransluceJakość i zakres wybranych ewaluacji dostrajania modeli pod kątem zgodności z założeniamiOpenAI i Transluce zamierzają przeprowadzić na początku 2027 r. około ośmiotygodniową, szerszą ocenę.
GoodfireInterpretowalność modeli, monitorowanie treningu, debugowanie i zgodność z założeniamiOpenAI wskazuje swoich badaczy jako głównych odbiorców wyników; Goodfire ma również publikować wnioski z prac.

W przypadku Apollo Research sprawdzane twierdzenia dotyczą tego, czy trening zachęcał modele do podważania zabezpieczeń, czy takie zachowania wywołują ewaluacje lub testy red-team, czy modele próbowały ich podczas wewnętrznego użycia oraz czy da się wykryć stojące za nimi rozumowanie. Zakres METR dotyczy wybranego treningu, a nie szerokiego przeglądu wszystkich zachowań modeli. Dodatkowa ocena monitorów jest dopiero wstępnie uzgodniona, a jej zakres pozostaje do ustalenia.

Jak OpenAI określa dostęp i zasady publikacji?

OpenAI deklaruje, że zakres, dostęp, zasoby i zabezpieczenia są uzgadniane dla każdej współpracy osobno. Zespoły mogą wnioskować o szerszy dostęp w miarę postępu prac; jeśli bezpośrednie udostępnienie informacji mogłoby ujawnić wrażliwą własność intelektualną, OpenAI może rozważyć inne rozwiązania. Przy pracy z poufnymi informacjami oceniający mają działać na miejscu, w biurach OpenAI i na urządzeniach tej firmy.

Rozmowy z pracownikami mają być autoryzowane przez OpenAI i prowadzone poza protokołem, więc ich treści nie można publikować ani przypisywać konkretnym osobom. Zespoły mogą poprosić o oświadczenie zatwierdzone przez OpenAI i opublikować je albo poinformować, że firma odmówiła jego zatwierdzenia. Protokół OpenAI opisuje także zasady publikacji i nadzoru: oceniający mogą publikować wyniki, a OpenAI zastrzega sobie możliwość redakcji informacji poufnych i poproszenia o opóźnienie publikacji ze względów odpowiedzialnego ujawniania.

Komitet ds. Bezpieczeństwa i Ochrony przy Radzie OpenAI Foundation otrzymuje nieocenzurowane raporty i może rozmawiać z oceniającymi na osobności. Spory trafiają najpierw do Safety Advisory Group i kierownictwa OpenAI, a jeśli nie zostaną rozwiązane, do komitetu.

OpenAI podaje też, że Apollo Research i Goodfire otrzymują wynagrodzenie niezależne od wyników ocen. METR i Transluce nie przyjmują za te oceny wynagrodzenia finansowego, choć mogą przyjmować kredyty API lub moc obliczeniową.

Na czym polega spór o dostęp?

Sydney Von Arx, założycielka grupy badawczej Nightingale, powiedziała NPR, że jej zdaniem tylko dwóch oceniających wydawało się uprawnionych do rozmów z pracownikami, a zespoły nie miały dostępu do wewnętrznego Slacka. NPR opisało też procedurę Apollo Research, w której OpenAI ma być włączane przed merytorycznymi rozmowami z pracownikami spoza wcześniej zatwierdzonej grupy. To krytyka przypisana Von Arx i relacja NPR, a nie niezależny wynik audytu. NPR przedstawiło również odpowiedź OpenAI: firma mówiła, że oceniający mogą wnioskować o rozmowy z dodatkowymi pracownikami i opisywała sposób uzyskiwania zatwierdzonych oświadczeń.

NPR przypomniało także, że we wrześniu 2026 r. Sam Altman zapowiadał dostęp „podobny do dostępu pracownika”. Opublikowane później warunki programu opisują zakres uzgadniany dla poszczególnych ocen. Ogłoszenie z 16 listopada przedstawia planowane prace i procedury; nie zawiera zakończonych wyników ocen.