本文目錄
據 OpenAI(@OpenAI) 於 2026-11-10 06:01:00 Asia/Shanghai(UTC 2026-11-09T22:01:00.000Z)的 X 帖,以及 openai.com/news 上標註 Nov 9, 2026 的 Safety 博文,OpenAI 介紹了 Control Room:一套中央系統,用來追蹤研究基建上的模型工作負載,並在出現安全或安全顧慮時快速叫停。
它是什麼
博文把 Control Room 寫成研究側推理負載的統一入口——包括訓練/評測裡的 agentic sampling、數據處理等——需要停的時候可以切斷後續模型輸出。X 帖與 Safety 博文都按研究基建工具來寫,不是 ChatGPT 用戶側的控制面板。
決策後約 35 秒上限
Control Room 收到停止或暫停某 job 的指令後,進一步產出在約 35 秒內不再可能。這個數字是推理授權緩存層帶來的上限/滯後,不是「任何情況下瞬間切斷」的絕對承諾。官方寫明目標是把該數字壓到 0。這個 35 秒是已公開的上限,不是博文以外的硬保證。
與 misalignment monitoring 聯動
Control Room 與 misalignment monitoring 聯動。監控側若決定停某 job,可向 Control Room 發送 stop,並帶上 job_id。該 job 下一次向任意模型、任意 engine 發起的推理請求會被拒絕,後續輸出不再繼續。
已部署研究基建;對外 serving 另有路徑
Control Room 已部署於 OpenAI 的 research infrastructure。對外模型 serving 棧本身更集中,另有既有的快速下架能力——這是並行能力,不是同一條 Control Room 路徑。
fail-closed,以及覆蓋到哪
系統設計為 fail-closed:Control Room 自身宕機或被禁用(含被篡改)時,在恢復正常前一律拒絕推理請求。Fail-closed 已覆蓋全部 frontier research;其餘 research 仍在數日內滾動部署。這是研究側範圍——不等於全棧/全部對外推理路徑都已按 fail-closed 落地。
邊界
這是研究基建上的追蹤/急停系統,不是面向 ChatGPT 普通用戶的停服開關。
我們暫時還沒有實測 Control Room——上文只跟 @OpenAI 帖與 Safety 博文對齊。
相關閱讀(不同題)
若看的是 OpenAI 公佈的內部模型越界/misalignment 事例彙整(不是 Control Room 追蹤/急停系統本身),見 OpenAI 公佈的內部模型越界事例彙整。
