Il 16 novembre 2026 OpenAI ha annunciato accordi con quattro valutatori indipendenti. L’incarico previsto per Apollo Research è esaminare quattro ipotesi su comportamenti dei modelli contrari alle intenzioni degli sviluppatori e sulla possibilità di rilevarli. OpenAI illustra il programma e le condizioni delle valutazioni.
Il progetto dà seguito all’intenzione, espressa da OpenAI il 9 ottobre, di finalizzare accordi con valutatori esterni, raccontata nel resoconto sulla risposta ai tre ex ricercatori di sicurezza.
Per capire che cosa può dire un controllo esterno, tieni distinti l’oggetto della valutazione, le risorse accessibili e le regole per rendere pubblici i risultati.
Che cosa valuterà Apollo Research
OpenAI ha indicato quattro questioni per l’incarico di Apollo: se l’addestramento abbia incentivato comportamenti di subversione; se valutazioni rigorose e prove avversarie (red teaming) possano indurli; se i modelli li abbiano tentati durante l’uso interno; e se sia possibile riconoscere il ragionamento che li accompagna. Sono ipotesi da esaminare, non risultati già ottenuti.
Per la prima fase, OpenAI prevede che Apollo possa accedere a modelli pubblici e non ancora rilasciati selezionati e ai relativi checkpoint, oltre che a dati di addestramento e risultati di valutazione pertinenti. L’elenco comprende anche registrazioni degli interventi sull’addestramento, sistemi di monitoraggio e comportamenti segnalati, contesto fornito dai ricercatori, strumenti e risorse di calcolo.
Ogni incarico viene definito con un perimetro concordato, risorse e misure di sicurezza. OpenAI afferma che i valutatori dovrebbero poter seguire gli indizi e perfezionare i propri metodi entro quel perimetro.
Accesso, supervisione e pubblicazione
Per consultare informazioni riservate, i valutatori lavorano in sede con dispositivi OpenAI e rispettano almeno gli standard di sicurezza applicati ai dipendenti; per alcuni esperimenti possono valere regole più severe. Le conversazioni con i dipendenti autorizzati sono riservate e non possono essere pubblicate o attribuite. I valutatori possono chiedere dichiarazioni attestate da OpenAI e rendere noto se l’azienda rifiuta di attestarle.
OpenAI dichiara che i valutatori possono pubblicare le proprie valutazioni. L’azienda può oscurare informazioni riservate e chiedere un rinvio per la divulgazione responsabile di risultati che comportino rischi per la sicurezza. L’OpenAI Safety and Security Committee riceve i rapporti non oscurati e può parlare in privato con i valutatori. Se un disaccordo non si risolve attraverso il Safety Advisory Group e i dirigenti, la procedura descritta da OpenAI lo porta al comitato.
I quattro incarichi e i compensi
Apollo è uno dei quattro valutatori coinvolti nella prima fase, ma ciascuna organizzazione affronta un ambito diverso. OpenAI dichiara inoltre condizioni di compenso differenti:
| Valutatore | Ambito annunciato | Compenso dichiarato da OpenAI |
| Apollo Research | Possibili comportamenti dei modelli contrari alle intenzioni degli sviluppatori e rilevabilità delle relative salvaguardie | Compenso economico non legato ai risultati |
| METR | Allineamento della più grande esecuzione di apprendimento per rinforzo di OpenAI fino a quel momento, compresi possibili problemi sfuggiti ai test e ai sistemi di monitoraggio | Non accetta compensi economici per la valutazione; può accettare crediti di calcolo o API |
| Transluce | Qualità e copertura delle valutazioni di allineamento successive all’addestramento | Non accetta compensi economici per la valutazione; può accettare crediti di calcolo o API |
| Goodfire | Interpretabilità dei modelli per monitorare le fasi di addestramento, individuare problemi e sostenere l’allineamento | Compenso economico non legato ai risultati |