本文目录
据 OpenAI(@OpenAI) 于 2026-11-10 06:01:00 Asia/Shanghai(UTC 2026-11-09T22:01:00.000Z)的 X 帖,以及 openai.com/news 上标注 Nov 9, 2026 的 Safety 博文,OpenAI 介绍了 Control Room:一套中央系统,用来跟踪研究基建上的模型工作负载,并在出现安全或安全顾虑时快速叫停。
它是什么
博文把 Control Room 写成研究侧推理负载的统一入口——包括训练/评测里的 agentic sampling、数据处理等——需要停的时候可以切断后续模型输出。X 帖与 Safety 博文都按研究基建工具来写,不是 ChatGPT 用户侧的控制面板。
决策后约 35 秒上限
Control Room 收到停止或暂停某 job 的指令后,进一步产出在约 35 秒内不再可能。这个数字是推理授权缓存层带来的上限/滞后,不是「任何情况下瞬间切断」的绝对承诺。官方写明目标是把该数字压到 0。这个 35 秒是已公开的上限,不是博文以外的硬保证。
与 misalignment monitoring 联动
Control Room 与 misalignment monitoring 联动。监控侧若决定停某 job,可向 Control Room 发送 stop,并带上 job_id。该 job 下一次向任意模型、任意 engine 发起的推理请求会被拒绝,后续输出不再继续。
已部署研究基建;对外 serving 另有路径
Control Room 已部署于 OpenAI 的 research infrastructure。对外模型 serving 栈本身更集中,另有既有的快速下架能力——这是并行能力,不是同一条 Control Room 路径。
fail-closed,以及覆盖到哪
系统设计为 fail-closed:Control Room 自身宕机或被禁用(含被篡改)时,在恢复正常前一律拒绝推理请求。Fail-closed 已覆盖全部 frontier research;其余 research 仍在数日内滚动部署。这是研究侧范围——不等于全栈/全部对外推理路径都已按 fail-closed 落地。
边界
这是研究基建上的跟踪/急停系统,不是面向 ChatGPT 普通用户的停服开关。
我们暂时还没有实测 Control Room——上文只跟 @OpenAI 帖与 Safety 博文对齐。
相关阅读(不同题)
若看的是 OpenAI 公布的内部模型越界/misalignment 事例汇总(不是 Control Room 跟踪/急停系统本身),见 OpenAI 公布的内部模型越界事例汇总。
