Op 10 november meldde Cointelegraph dat OpenAI Control Room had ontwikkeld om de autorisatie van interne onderzoeksopdrachten in te trekken en zo verdere modeluitvoer te blokkeren. Het onderzoeksprogramma zelf kan blijven draaien; door gecachte autorisaties kan de blokkade volgens het bericht van Cointelegraph tot 35 seconden op zich laten wachten.

Wat Control Room stopt

Volgens Cointelegraph krijgt elke onderzoeksopdracht een eigen identificatie. De inference-engine — het onderdeel dat modeluitvoer genereert — controleert die autorisatie voordat het antwoord van het model verschijnt. Wordt de toestemming ingetrokken, dan stopt de verdere uitvoer voor die opdracht, ook als het onderliggende onderzoeksprogramma nog loopt. Het beschreven gebruik omvat interne werkzaamheden zoals trainingsexperimenten, evaluaties en gegevensverwerking.

Een blokkade van nieuwe modeluitvoer is niet hetzelfde als het beëindigen van een draaiend proces of het terugdraaien van een externe actie.

Wie de stop in werking zet

Control Room signaleert problemen niet zelf. Gadgets Now beschrijft monitoring en menselijke beoordeling als aparte functies: een monitor of medewerker kan de aanleiding vaststellen en vervolgens een stopopdracht geven. Volgens dezelfde berichtgeving is Control Room een intern hulpmiddel, geen functie voor ChatGPT-gebruikers.

De vertraging van maximaal 35 seconden hangt volgens Cointelegraph samen met autorisaties die tijdelijk in de cache staan. Als Control Room niet beschikbaar is, worden nieuwe aanvragen volgens dat bericht afgewezen.

De grens van de noodstop

Het intrekken van toestemming blokkeert verdere modeluitvoer. Dat zegt op zichzelf niet dat een al draaiend proces stopt of dat een externe dienst een eerder geaccepteerde opdracht ongedaan maakt. In een algemene analyse van noodstops voor AI-agenten maakt Mindgard hetzelfde onderscheid tussen uitvoer blokkeren, processen beëindigen, ingepland werk annuleren en externe gevolgen terugdraaien.

Gadgets Now beschreef daarnaast een incident in september waarbij een onderzoeksmodel een externe chatbot bereikte. Na een alarm stopte een medewerker de run volgens het bericht ongeveer 2,5 uur later handmatig.