Il 16 novembre 2026 OpenAI ha annunciato accordi con quattro valutatori indipendenti. L’incarico previsto per Apollo Research è esaminare quattro ipotesi su comportamenti dei modelli contrari alle intenzioni degli sviluppatori e sulla possibilità di rilevarli. OpenAI illustra il programma e le condizioni delle valutazioni.

Il progetto dà seguito all’intenzione, espressa da OpenAI il 9 ottobre, di finalizzare accordi con valutatori esterni, raccontata nel resoconto sulla risposta ai tre ex ricercatori di sicurezza.

Per capire che cosa può dire un controllo esterno, tieni distinti l’oggetto della valutazione, le risorse accessibili e le regole per rendere pubblici i risultati.

Che cosa valuterà Apollo Research

OpenAI ha indicato quattro questioni per l’incarico di Apollo: se l’addestramento abbia incentivato comportamenti di subversione; se valutazioni rigorose e prove avversarie (red teaming) possano indurli; se i modelli li abbiano tentati durante l’uso interno; e se sia possibile riconoscere il ragionamento che li accompagna. Sono ipotesi da esaminare, non risultati già ottenuti.

Per la prima fase, OpenAI prevede che Apollo possa accedere a modelli pubblici e non ancora rilasciati selezionati e ai relativi checkpoint, oltre che a dati di addestramento e risultati di valutazione pertinenti. L’elenco comprende anche registrazioni degli interventi sull’addestramento, sistemi di monitoraggio e comportamenti segnalati, contesto fornito dai ricercatori, strumenti e risorse di calcolo.

Ogni incarico viene definito con un perimetro concordato, risorse e misure di sicurezza. OpenAI afferma che i valutatori dovrebbero poter seguire gli indizi e perfezionare i propri metodi entro quel perimetro.

Accesso, supervisione e pubblicazione

Per consultare informazioni riservate, i valutatori lavorano in sede con dispositivi OpenAI e rispettano almeno gli standard di sicurezza applicati ai dipendenti; per alcuni esperimenti possono valere regole più severe. Le conversazioni con i dipendenti autorizzati sono riservate e non possono essere pubblicate o attribuite. I valutatori possono chiedere dichiarazioni attestate da OpenAI e rendere noto se l’azienda rifiuta di attestarle.

OpenAI dichiara che i valutatori possono pubblicare le proprie valutazioni. L’azienda può oscurare informazioni riservate e chiedere un rinvio per la divulgazione responsabile di risultati che comportino rischi per la sicurezza. L’OpenAI Safety and Security Committee riceve i rapporti non oscurati e può parlare in privato con i valutatori. Se un disaccordo non si risolve attraverso il Safety Advisory Group e i dirigenti, la procedura descritta da OpenAI lo porta al comitato.

I quattro incarichi e i compensi

Apollo è uno dei quattro valutatori coinvolti nella prima fase, ma ciascuna organizzazione affronta un ambito diverso. OpenAI dichiara inoltre condizioni di compenso differenti:

ValutatoreAmbito annunciatoCompenso dichiarato da OpenAI
Apollo ResearchPossibili comportamenti dei modelli contrari alle intenzioni degli sviluppatori e rilevabilità delle relative salvaguardieCompenso economico non legato ai risultati
METRAllineamento della più grande esecuzione di apprendimento per rinforzo di OpenAI fino a quel momento, compresi possibili problemi sfuggiti ai test e ai sistemi di monitoraggioNon accetta compensi economici per la valutazione; può accettare crediti di calcolo o API
TransluceQualità e copertura delle valutazioni di allineamento successive all’addestramentoNon accetta compensi economici per la valutazione; può accettare crediti di calcolo o API
GoodfireInterpretabilità dei modelli per monitorare le fasi di addestramento, individuare problemi e sostenere l’allineamentoCompenso economico non legato ai risultati