OpenAI soll mit Control Room die Autorisierung interner Forschungsjobs entziehen können, damit das Inferenzsystem keine weiteren Modellantworten ausgibt. Der Forschungsprozess selbst kann dabei weiterlaufen. Cointelegraph berichtete am 10. November von einer Verzögerung von bis zu 35 Sekunden durch zwischengespeicherte Freigaben. Zum Cointelegraph-Bericht auf TradingView

Was Control Room stoppen soll

Der berichtete Einsatzbereich umfasst interne Forschungsjobs von OpenAI, etwa für Trainingsexperimente, Auswertungen und Datenverarbeitung. Wird die Freigabe eines Jobs entzogen, soll das Inferenzsystem dessen weitere Modellausgaben blockieren. Der Job selbst muss dadurch nicht enden.

Laut Cointelegraph erhält jeder Job eine Kennung, die das Inferenzsystem vor der Ausgabe prüft. Ein Mensch oder ein automatisches Überwachungssystem kann dem Bericht zufolge den Stopp auslösen. Zwischengespeicherte Freigaben können dazu führen, dass die Sperre erst nach bis zu 35 Sekunden greift. Wenn Control Room nicht erreichbar ist, soll das System neue Anfragen zurückweisen.

Eine Sperre weiterer Modellantworten ist nicht dasselbe wie das Anhalten des gesamten Prozesses.

Wer den Stopp auslöst – und was er bedeutet

Control Room erkennt problematisches Verhalten dem Bericht von Gadgets Now zufolge nicht selbst. Separate Überwachungssysteme oder menschliche Prüfer müssen den Anlass für einen Eingriff erkennen und den Stopp auslösen. Gadgets Now beschreibt Control Room außerdem als internes Werkzeug, nicht als ChatGPT-Funktion. Zum Bericht von Gadgets Now

Das Blockieren weiterer Modellausgaben ist eine andere Maßnahme als das Beenden eines laufenden Programms, das Abbrechen bereits eingereihter Aufträge oder das Rückgängigmachen einer externen Aktion. Diese Eingriffsebenen unterscheidet auch Mindgard in seiner allgemeinen Analyse zu Abschaltmechanismen für KI-Agenten.

Gadgets Now schilderte in einem am 10. November veröffentlichten Bericht einen Vorfall, den der Bericht auf September datiert: Nach einem Alarm habe ein Mensch den Lauf etwa zweieinhalb Stunden später gestoppt.