OpenAI kondigde op 16 november 2026 een eerste fase van externe evaluaties aan, met Apollo Research, METR, Transluce en Goodfire als beoordelaars. Apollo onderzoekt vier beweringen over mogelijke modelsubversie en of veiligheidsmaatregelen die kunnen opsporen. OpenAI beschrijft de opdrachten en afspraken.
De aankondiging past in een debat over externe controle dat NeoTeo eerder beschreef: drie voormalige medewerkers vroegen OpenAI om veiligheidsaudits voort te zetten. Lees onze eerdere berichtgeving over hun brief.
Wat Apollo Research gaat onderzoeken
Modelsubversie betekent hier dat een model mogelijk heimelijk tegen de bedoelingen van zijn ontwikkelaars in handelt. OpenAI heeft Apollo gevraagd vier punten te beoordelen:
- Of de training modellen tot subversie heeft aangezet.
- Of sterke evaluaties en red-teaming, waarbij onderzoekers gericht naar kwetsbaarheden zoeken, subversief gedrag kunnen uitlokken.
- Of modellen tijdens intern gebruik zulke pogingen hebben gedaan.
- Of de redenering achter subversief gedrag te herkennen zou zijn.
Dit zijn onderzoeksvragen voor de evaluatie, geen bevindingen over het gedrag van OpenAI-modellen.
Welke toegang OpenAI voor Apollo beschrijft
Voor de eerste fase noemt OpenAI geselecteerde openbare en niet-uitgebrachte modellen en trainingsmomentopnamen, relevante trainingsgegevens en evaluatieresultaten, registraties van ingrepen tijdens de training, monitoringsystemen en gemarkeerd gedrag. Apollo krijgt volgens OpenAI ook toegang tot onderzoekers die context kunnen geven, plus gereedschappen en rekenkracht om zelfstandig tests uit te voeren.
Elke beoordeling begint met afspraken over de reikwijdte, toegang, middelen en veiligheidsmaatregelen. OpenAI zegt dat beoordelaars binnen die afgesproken grenzen de ruimte nodig hebben om aanwijzingen te volgen en hun aanpak bij te stellen. Voor gevoelige vertrouwelijke informatie werken beoordelaars volgens OpenAI op locatie met OpenAI-apparaten en gelden minstens de beveiligingsnormen voor OpenAI-medewerkers; voor sommige experimenten kunnen strengere regels gelden.
Om de betekenis van een externe beoordeling te wegen, zijn zowel de onderzoeksvragen als de afgesproken toegang en publicatieregels van belang.
Publicatie en toezicht
OpenAI zegt dat beoordelaars hun resultaten mogen publiceren. Het bedrijf kan vertrouwelijke informatie redigeren en om uitstel vragen wanneer openbaarmaking risico’s voor veiligheid of beveiliging kan opleveren. De Safety and Security Committee van de OpenAI Foundation krijgt de ongeredigeerde rapporten en mag vertrouwelijk met de beoordelaars spreken.
Bij een meningsverschil voorziet OpenAI in overleg met de Safety Advisory Group en leidinggevenden. Als het geschil onopgelost blijft, gaat het naar de Safety and Security Committee. Gesprekken met medewerkers zijn volgens OpenAI niet voor publicatie en mogen niet aan individuele medewerkers worden toegeschreven. Beoordelaars kunnen wel om een door OpenAI bevestigde verklaring vragen en openbaar maken als OpenAI weigert die te bevestigen.
De vier beoordelaars hebben verschillende opdrachten
De aangekondigde fase bestaat uit afzonderlijke beoordelingen, geen vier identieke controles. OpenAI koppelt de opdrachten en vergoedingsvormen als volgt:
| Beoordelaar | Aangekondigde opdracht | Vergoeding volgens OpenAI |
| Apollo Research | Onderzoeken of modellen tegen de bedoelingen van ontwikkelaars kunnen handelen en of dat gedrag te herkennen is. | Financiële vergoeding; niet afhankelijk van de uitkomst. |
| METR | Een beoordeling van de afstemming van OpenAI’s grootste reinforcement-learningrun tot dan toe. | Geen financiële vergoeding voor de beoordeling; mogelijk wel rekenkracht of API-tegoed. |
| Transluce | De kwaliteit en dekking van evaluaties van afstemming na de training beoordelen. OpenAI wil begin 2027 een vervolgbeoordeling van ongeveer acht weken laten uitvoeren. | Geen financiële vergoeding voor de beoordeling; mogelijk wel rekenkracht of API-tegoed. |
| Goodfire | Interpretatieonderzoek naar interne modelprocessen, monitoring van trainingsruns, foutopsporing en afstemming. | Financiële vergoeding; niet afhankelijk van de uitkomst. |
OpenAI zegt dat Goodfire zijn bevindingen ook publiceert, hoewel de beoordeling vooral bedoeld is voor interne onderzoekers.