OpenAI kondigde op 16 november 2026 een eerste fase aan van externe beoordelingen van modelveiligheid, met Apollo Research, METR, Transluce en Goodfire. De organisaties onderzoeken verschillende onderdelen van modelafstemming en veiligheidswaarborgen tijdens training en intern gebruik. OpenAI koppelt de toegang aan de afspraken per beoordeling, niet aan één algemene bevoegdheid voor alle systemen. OpenAI beschrijft de eerste fase en het bijbehorende protocol.

Wat onderzoeken de vier organisaties?

De vier opdrachten richten zich op verschillende vragen: van mogelijk ondermijnend modelgedrag tot de kwaliteit van evaluaties na training. OpenAI noemt per beoordeling een eigen afbakening.

OrganisatieAangekondigde focusOmvang of timing
Apollo ResearchVier beweringen over ondermijning door modellen, waaronder of training dit gedrag stimuleerde en of evaluaties het uitlokken.De beoordeling verloopt in twee fasen en kijkt ook naar pogingen tijdens intern gebruik en naar de herkenbaarheid van de bijbehorende redenering.
METRVerkeerd afgestemd gedrag tijdens een geselecteerde reinforcement-learningrun van OpenAI, die het bedrijf omschrijft als zijn grootste tot dan toe.De eerste beoordeling omvat relevante checkpoints, trainings- en evaluatieruns en monitoringsgegevens. De scope is smaller dan METR’s voorgestelde brede onderzoek. Een aparte, bredere beoordeling van monitors is voorlopig en hangt af van overeenstemming over de scope.
TransluceDe kwaliteit en dekking van geselecteerde evaluaties van modelafstemming na training.OpenAI en Transluce zijn van plan begin 2027 een vervolg van ongeveer acht weken uit te voeren, met ruimere toegang.
GoodfireInterpretatie van modelgedrag, monitoring van trainingsruns, foutopsporing en afstemming.OpenAI-onderzoekers zijn volgens het bedrijf de voornaamste doelgroep voor de bevindingen; Goodfire wil ook lessen publiceren.

Bij de opdrachten kan toegang bestaan uit geselecteerde modelversies en checkpoints, trainings- en evaluatiegegevens, monitoringssystemen, technische documentatie en gesprekken met betrokken onderzoekers en technici. Welke middelen beschikbaar zijn, hangt af van de betreffende beoordeling. OpenAI zegt dat beoordelaars tijdens hun werk om extra toegang kunnen vragen. Als directe toegang gevoelige intellectuele eigendom zou blootleggen, kan het bedrijf alternatieven overwegen, zoals samenwerking met eigen onderzoekers.

Welke regels gelden voor gesprekken en publicatie?

OpenAI zegt dat gesprekken met medewerkers vooraf worden toegestaan en begeleid. Die gesprekken zijn niet voor publicatie: beoordelaars mogen medewerkers niet citeren of aan hen toeschrijven wat zij zeggen. Ze kunnen wel vragen om een verklaring die OpenAI voor publicatie bevestigt; als het bedrijf zo’n verklaring weigert, mogen ze die weigering melden.

Beoordelaars mogen hun bevindingen publiceren. OpenAI behoudt het recht om vertrouwelijke informatie te redigeren en kan om uitstel vragen wanneer verantwoordelijke openbaarmaking nodig is. Wie gevoelige vertrouwelijke informatie moet inzien, werkt volgens het protocol op locatie en met apparaten van OpenAI.

De afspraken noemen ook de financiële relatie met de beoordelaars. Apollo Research en Goodfire ontvangen een vergoeding die niet afhangt van de uitkomst. METR en Transluce ontvangen geen financiële vergoeding voor deze beoordelingen, maar kunnen wel API-tegoed of rekenkracht accepteren.

Waar komt de kritiek op de toegang vandaan?

NPR meldde dat Sydney Von Arx, oprichter van Nightingale, de toegang beperkt vindt. Volgens haar leken slechts twee beoordelaars met medewerkers te mogen spreken en had geen van hen toegang tot de interne Slack-berichten. NPR meldde ook dat Apollo OpenAI moet betrekken voordat beoordelaars inhoudelijke gesprekken voeren met medewerkers die niet vooraf zijn goedgekeurd. Dit zijn aan Von Arx toegeschreven kritiekpunten. NPR beschreef de kritiek en de reactie van OpenAI.

De discussie raakt aan een eerdere toezegging: NPR meldde dat Sam Altman in september 2026 evaluatoren toegang op werknemersniveau had beloofd. OpenAI zei tegen NPR dat beoordelaars gesprekken met extra medewerkers kunnen aanvragen en lichtte een route toe om uitspraken van het bedrijf te laten bevestigen. Het gepubliceerde protocol beschrijft gesprekken die door OpenAI zijn toegestaan en die niet voor publicatie zijn bestemd.

Voor toezicht ontvangen de Veiligheids- en Beveiligingscommissie van het bestuur van de OpenAI Foundation de ongecensureerde rapporten. De commissie kan ook privé met beoordelaars spreken. Geschillen gaan eerst naar de Safety Advisory Group en leidinggevenden van OpenAI; onopgeloste kwesties worden aan de commissie voorgelegd. OpenAI kondigde die route aan als onderdeel van het protocol voor de eerste fase.