OpenAI ha annunciato il 16 novembre 2026 accordi con Apollo Research, METR, Transluce e Goodfire per la prima fase di valutazioni esterne sulla sicurezza dei modelli. Ogni organizzazione si occuperà di un ambito distinto e l’accesso sarà definito per ciascun incarico, secondo il protocollo pubblicato da OpenAI.
Quattro gruppi esterni non significano quattro verifiche dello stesso tipo: il perimetro di ciascuna valutazione fa la differenza.
Che cosa esaminerà ciascuna organizzazione
I quattro incarichi riguardano aspetti diversi dell’allineamento dei modelli e dell’efficacia delle misure di sicurezza, durante l’addestramento e l’uso interno.
| Organizzazione | Ambito annunciato | Dettagli su portata o tempi |
| Apollo Research | Quattro ipotesi sulla sovversione dei modelli, esaminate in due fasi. | Se l’addestramento l’abbia incentivata, se test e red teaming possano suscitarla, se i modelli l’abbiano tentata durante l’uso interno e se sia possibile rilevarne il ragionamento. |
| METR | Comportamenti disallineati in una specifica esecuzione di apprendimento per rinforzo di OpenAI, descritta come la più ampia finora. | L’incarico riguarda checkpoint campionati, tracce delle fasi di addestramento e valutazione e registri di monitoraggio pertinenti a quell’esecuzione. Una più ampia valutazione dei sistemi di monitoraggio è ancora preliminare e in attesa di un accordo sul perimetro. |
| Transluce | Qualità e copertura di alcune valutazioni dell’allineamento successive all’addestramento. | OpenAI e Transluce intendono svolgere un ulteriore lavoro di circa otto settimane all’inizio del 2027, con accesso più ampio. |
| Goodfire | Interpretabilità dei modelli, monitoraggio delle fasi di addestramento, debugging e allineamento. | OpenAI indica i propri ricercatori come pubblico principale dei risultati; Goodfire condividerà anche gli insegnamenti del lavoro. |
I perimetri non sono intercambiabili. Per esempio, il lavoro iniziale di METR riguarda una specifica esecuzione di apprendimento per rinforzo; la valutazione più ampia sui sistemi di monitoraggio resta invece preliminare. Quella di Transluce è un’attività futura prevista, non un incarico già descritto come concluso.
Come sono regolati accesso e pubblicazione
OpenAI stabilisce ambito, accesso, risorse e misure di sicurezza insieme a ciascun gruppo. Gli esaminatori possono chiedere ulteriore accesso durante il lavoro; se l’accesso diretto rischia di esporre proprietà intellettuale sensibile, OpenAI afferma che può valutare alternative. Le risorse possono includere checkpoint dei modelli, codice sorgente, dati di addestramento e valutazione, sistemi di monitoraggio, documentazione tecnica e colloqui con ricercatori e ingegneri pertinenti.
Per consultare informazioni riservate, gli esaminatori lavorano negli uffici di OpenAI e usano dispositivi dell’azienda, con standard di sicurezza almeno equivalenti a quelli richiesti ai dipendenti. Le conversazioni con il personale sono autorizzate e guidate da OpenAI e avvengono a condizione che restino confidenziali: possono informare la valutazione, ma non essere pubblicate o attribuite ai dipendenti. Gli esaminatori possono chiedere dichiarazioni attestate da OpenAI e riferire se l’azienda rifiuta di attestarle.
Gli esaminatori mantengono la facoltà di pubblicare i risultati; OpenAI può oscurare informazioni riservate e chiedere ritardi per consentire una divulgazione responsabile. Il Comitato per la sicurezza della Fondazione OpenAI riceve i rapporti senza oscuramenti e può parlare in privato con gli esaminatori. Se una controversia non si risolve dopo il passaggio al Gruppo consultivo per la sicurezza e ai dirigenti, viene sottoposta al Comitato.
Le critiche sulle condizioni di accesso
A settembre 2026 Sam Altman aveva promesso, secondo quanto riferito da NPR, un accesso agli esaminatori simile a quello dei dipendenti. Dopo l’annuncio del programma, Sydney Von Arx, fondatrice del gruppo di ricerca Nightingale, ha detto a NPR che solo due esaminatori sembravano poter parlare con i dipendenti e che nessuno aveva accesso a Slack interno. NPR ha inoltre riferito che, nel processo di Apollo, OpenAI viene coinvolta prima di conversazioni sostanziali con dipendenti non autorizzati in anticipo.
OpenAI ha risposto a NPR che gli esaminatori possono chiedere di parlare con altro personale e ottenere dichiarazioni dell’azienda su informazioni raccolte informalmente. Il protocollo pubblicato precisa che i colloqui autorizzati con i dipendenti restano confidenziali e che OpenAI guida l’accesso al personale. Le osservazioni di Von Arx descrivono la sua valutazione delle restrizioni; i termini pubblicati da OpenAI definiscono le condizioni formali degli incarichi, senza promettere accesso indiscriminato a ogni modello o sistema. NPR ha riportato le critiche e la risposta dell’azienda.
OpenAI dichiara che Apollo Research e Goodfire ricevono compensi non legati ai risultati delle valutazioni; METR e Transluce non accettano compensi finanziari per questi incarichi, ma possono ricevere crediti API o risorse di calcolo.