OpenAI ha annunciato il 16 novembre 2026 accordi con Apollo Research, METR, Transluce e Goodfire per la prima fase di valutazioni esterne sulla sicurezza dei modelli. Ogni organizzazione si occuperà di un ambito distinto e l’accesso sarà definito per ciascun incarico, secondo il protocollo pubblicato da OpenAI.

Quattro gruppi esterni non significano quattro verifiche dello stesso tipo: il perimetro di ciascuna valutazione fa la differenza.

Che cosa esaminerà ciascuna organizzazione

I quattro incarichi riguardano aspetti diversi dell’allineamento dei modelli e dell’efficacia delle misure di sicurezza, durante l’addestramento e l’uso interno.

OrganizzazioneAmbito annunciatoDettagli su portata o tempi
Apollo ResearchQuattro ipotesi sulla sovversione dei modelli, esaminate in due fasi.Se l’addestramento l’abbia incentivata, se test e red teaming possano suscitarla, se i modelli l’abbiano tentata durante l’uso interno e se sia possibile rilevarne il ragionamento.
METRComportamenti disallineati in una specifica esecuzione di apprendimento per rinforzo di OpenAI, descritta come la più ampia finora.L’incarico riguarda checkpoint campionati, tracce delle fasi di addestramento e valutazione e registri di monitoraggio pertinenti a quell’esecuzione. Una più ampia valutazione dei sistemi di monitoraggio è ancora preliminare e in attesa di un accordo sul perimetro.
TransluceQualità e copertura di alcune valutazioni dell’allineamento successive all’addestramento.OpenAI e Transluce intendono svolgere un ulteriore lavoro di circa otto settimane all’inizio del 2027, con accesso più ampio.
GoodfireInterpretabilità dei modelli, monitoraggio delle fasi di addestramento, debugging e allineamento.OpenAI indica i propri ricercatori come pubblico principale dei risultati; Goodfire condividerà anche gli insegnamenti del lavoro.

I perimetri non sono intercambiabili. Per esempio, il lavoro iniziale di METR riguarda una specifica esecuzione di apprendimento per rinforzo; la valutazione più ampia sui sistemi di monitoraggio resta invece preliminare. Quella di Transluce è un’attività futura prevista, non un incarico già descritto come concluso.

Come sono regolati accesso e pubblicazione

OpenAI stabilisce ambito, accesso, risorse e misure di sicurezza insieme a ciascun gruppo. Gli esaminatori possono chiedere ulteriore accesso durante il lavoro; se l’accesso diretto rischia di esporre proprietà intellettuale sensibile, OpenAI afferma che può valutare alternative. Le risorse possono includere checkpoint dei modelli, codice sorgente, dati di addestramento e valutazione, sistemi di monitoraggio, documentazione tecnica e colloqui con ricercatori e ingegneri pertinenti.

Per consultare informazioni riservate, gli esaminatori lavorano negli uffici di OpenAI e usano dispositivi dell’azienda, con standard di sicurezza almeno equivalenti a quelli richiesti ai dipendenti. Le conversazioni con il personale sono autorizzate e guidate da OpenAI e avvengono a condizione che restino confidenziali: possono informare la valutazione, ma non essere pubblicate o attribuite ai dipendenti. Gli esaminatori possono chiedere dichiarazioni attestate da OpenAI e riferire se l’azienda rifiuta di attestarle.

Gli esaminatori mantengono la facoltà di pubblicare i risultati; OpenAI può oscurare informazioni riservate e chiedere ritardi per consentire una divulgazione responsabile. Il Comitato per la sicurezza della Fondazione OpenAI riceve i rapporti senza oscuramenti e può parlare in privato con gli esaminatori. Se una controversia non si risolve dopo il passaggio al Gruppo consultivo per la sicurezza e ai dirigenti, viene sottoposta al Comitato.

Le critiche sulle condizioni di accesso

A settembre 2026 Sam Altman aveva promesso, secondo quanto riferito da NPR, un accesso agli esaminatori simile a quello dei dipendenti. Dopo l’annuncio del programma, Sydney Von Arx, fondatrice del gruppo di ricerca Nightingale, ha detto a NPR che solo due esaminatori sembravano poter parlare con i dipendenti e che nessuno aveva accesso a Slack interno. NPR ha inoltre riferito che, nel processo di Apollo, OpenAI viene coinvolta prima di conversazioni sostanziali con dipendenti non autorizzati in anticipo.

OpenAI ha risposto a NPR che gli esaminatori possono chiedere di parlare con altro personale e ottenere dichiarazioni dell’azienda su informazioni raccolte informalmente. Il protocollo pubblicato precisa che i colloqui autorizzati con i dipendenti restano confidenziali e che OpenAI guida l’accesso al personale. Le osservazioni di Von Arx descrivono la sua valutazione delle restrizioni; i termini pubblicati da OpenAI definiscono le condizioni formali degli incarichi, senza promettere accesso indiscriminato a ogni modello o sistema. NPR ha riportato le critiche e la risposta dell’azienda.

OpenAI dichiara che Apollo Research e Goodfire ricevono compensi non legati ai risultati delle valutazioni; METR e Transluce non accettano compensi finanziari per questi incarichi, ma possono ricevere crediti API o risorse di calcolo.