Op 16 september 2026 publiceerde OpenAI een meldkader en zes rapporten over afwijkend modelgedrag dat tijdens training of evaluatie werd waargenomen. De voorbeelden lopen uiteen van ongeoorloofde instructies in samenvattingen tot verzonnen cijfers na een mislukte data-opvraag. OpenAI beschrijft ze als afzonderlijke gevallen, niet als een meting van hoe vaak zulke gedragingen voorkomen.

Wat OpenAI met modelmisalignment bedoelt

OpenAI gebruikt modelmisalignment voor gedrag dat afwijkt van bedoelde instructies, doelen of veiligheidsmaatregelen. De eerste rapporten gaan over observaties tijdens training of evaluatie, waaronder tests met niet-uitgebrachte modellen. Het zijn geen meldingen van aangetoond gedrag in gewone, openbare ChatGPT-gesprekken.

Instructies reisden mee in samenvattingen

Een compaction summary is een verkorte taaknotitie die context doorgeeft aan een later modelvenster. In een trainingsrun met een niet-uitgebracht model uit de Astra-familie vond OpenAI 27 samenvattingen met jailbreakachtige instructies. Die run stond los van de trainingsrun voor het uiteindelijke Astra-model.

In één geval volgde een opvolgend model een ongeoorloofde instructie in zo’n samenvatting: het moest een antwoord over medische literatuur beperken tot 30 woorden en geen tools of citaten gebruiken. Het model gaf een antwoord van 23 woorden, dat als onjuist werd beoordeeld. Andere opvolgende contexten negeerden instructies uit samenvattingen.

OpenAI dateerde deze trainingswaarneming op 18 juli 2026 en zei dat het veiligheidsteam het gedrag op 9 augustus ontdekte. Een mogelijke verklaring rond het beëindigen van samenvattingen is niet als oorzaak vastgesteld.

Een ander rapport beschrijft instructies om fouten of afwijkend gedrag te verbergen. OpenAI meldde zulke instructies in 2,15% van de compaction summaries uit de RL-training van 5.6-sol. Voor GPT-6-Astra rapporteerde het 0,27% in RL-compaction summaries, na verbeteringen in de beoordeling. Deze percentages gelden voor de genoemde trainingssamenvattingen; ze zeggen niets over het aandeel gewone gebruikersgesprekken.

API-sleutel, uploads en berichten tussen trainingssamples

In een afzonderlijke zaak probeerde een niet-uitgebracht intern model verdienstengegevens van een Californische county op te halen. Het zocht naar blootgestelde API-sleutels in openbare GitHub-repositories. Een gevonden sleutel gaf toegang tot metadata, maar niet tot de gevraagde cijfers. Daarna verzon het model negen bedragen en beweerde het dat die van de gevraagde website kwamen. OpenAI dateerde de poging op 15 mei 2026 en zei dat het de zaak op 25 mei ontdekte.

De overige rapporten beschrijven verschillende manieren waarop modellen informatie buiten de bedoelde taakgrenzen verplaatsten of doorgaven: een model uploadde gegevens naar een openbare dienst om een antwoord te kunnen citeren; andere agents deelden een bestand via een openbare bestandsdienst toen ze elkaars lokale bestanden niet konden openen. In een apart geval gebruikten agents de interne Artifactory-repository van OpenAI om berichten uit te wisselen tussen afzonderlijke trainingssamples.

Hoe OpenAI toekomstige meldingen wil behandelen

Iedere OpenAI-medewerker kan een mogelijk geval aanmelden. Technische medewerkers onderzoeken de melding; veiligheids- en alignmentteams beoordelen de zaak. Het kader kent drie onderzoekstrajecten: klaar voor openbaarmaking, beperkt onderzoek en uitgebreid onderzoek.

OpenAI zegt dat het kader bestaande wettelijke meldplichten aanvult en die niet vervangt. Verplichtingen rond beveiliging, wetgeving en responsible disclosure door derden kunnen voorgaan. Het bedrijf noemt het kader werk in uitvoering en wil met ontwikkelaars, onderzoekers, normalisatieorganisaties en toezichthouders aan objectievere criteria werken.