OpenAI ogłosiło 16 listopada 2026 r. umowy z czterema zewnętrznymi zespołami oceniającymi. Apollo Research ma zbadać, czy modele mogą działać wbrew intencjom twórców i czy zabezpieczenia wykryją takie zachowanie. OpenAI opisało też zakres dostępu, zasady publikacji i nadzór nad ocenami w ogłoszeniu programu.

Co Apollo Research ma ocenić

Apollo ma sprawdzić cztery twierdzenia OpenAI: czy trening nie zachęca modeli do obchodzenia intencji twórców, czy mocne ewaluacje i testy red-teamowe nie wywołują takiego zachowania, czy modele próbowały go podczas wewnętrznego użycia oraz czy da się wykryć tok rozumowania, który do niego prowadzi. Chodzi o ocenę tych założeń, nie o ogłoszone już wyniki.

Wcześniejsza relacja NeoTeo o odpowiedzi OpenAI na list byłych pracowników działu bezpieczeństwa dotyczyła innej sprawy; obecne umowy obejmują zewnętrzną ocenę modeli.

Do jakich materiałów Apollo ma mieć dostęp

Na pierwszy etap OpenAI przewidziało wybrane modele publiczne i niewydane, checkpointy treningowe, powiązane dane treningowe i wyniki ewaluacji, zapisy interwencji w treningu, systemy monitorowania i oznaczone zachowania, a także kontekst od badaczy oraz narzędzia i moc obliczeniową. Każde badanie ma uzgodniony zakres, a oceniający mają móc podążać za wynikami i dostosowywać metody w jego granicach.

Przy dostępie do poufnych informacji oceniający mają pracować na miejscu, na urządzeniach OpenAI, i stosować co najmniej te same standardy bezpieczeństwa co pracownicy firmy. Rozmowy z pracownikami są nieoficjalne i nie można ich publikować ani przypisywać konkretnym osobom. Zespół może jednak poprosić o formalnie potwierdzone oświadczenie; jeśli OpenAI odmówi, może ujawnić samą odmowę.

Publikacja wyników i nadzór

OpenAI deklaruje, że oceniający zachowują niezależność publikacji. Firma może redagować poufne informacje i poprosić o opóźnienie publikacji w ramach odpowiedzialnego ujawniania, gdy wyniki mogą wiązać się z zagrożeniem dla bezpieczeństwa.

OpenAI Safety and Security Committee ma otrzymywać nieocenzurowane raporty i móc rozmawiać z oceniającymi na osobności. Spory mają trafiać najpierw do OpenAI Safety Advisory Group i kierownictwa firmy; nierozstrzygnięte sprawy — do komitetu. To osobny element nadzoru: raporty przeznaczone do publikacji mogą zawierać redakcje, podczas gdy komitet ma otrzymywać pełną wersję.

Przy ocenie takiego programu warto rozdzielić trzy kwestie: dostęp do modeli, możliwość publikowania wyników i sposób rozstrzygania sporów. Każda zależy od innych zasad.

Czym różnią się cztery zespoły

Apollo Research, METR, Transluce i Goodfire mają różne zadania. OpenAI podało też odmienne zasady wynagradzania: Apollo Research i Goodfire otrzymują zapłatę niezależną od wyników, a METR i Transluce nie przyjmują wynagrodzenia pieniężnego za te oceny, choć mogą przyjmować moc obliczeniową lub środki na korzystanie z API.

ZespółOgłoszony zakres pracyInformacje o wynagrodzeniu
Apollo ResearchMożliwa subwersja modeli, jej związek z treningiem i ewaluacjami oraz wykrywanie takiego zachowania.Wynagrodzenie niezależne od wyników.
METROcena zgodności największego dotąd uruchomienia uczenia ze wzmocnieniem OpenAI; szersza ocena monitorów wymaga jeszcze uzgodnienia zakresu.Brak wynagrodzenia pieniężnego za ocenę; możliwe środki obliczeniowe lub kredyty API.
TransluceJakość i zakres ewaluacji zgodności po treningu; OpenAI zamierza przeprowadzić dalszą, około ośmiotygodniową ocenę na początku 2027 r.Brak wynagrodzenia pieniężnego za ocenę; możliwe środki obliczeniowe lub kredyty API.
GoodfireBadania interpretowalności służące monitorowaniu treningu, debugowaniu i zgodności modeli.Wynagrodzenie niezależne od wyników.