2026 年 11 月 13 日,OpenAI 在官方博客安全与对齐栏目发布公告《Our first phase of embedded assessments》,宣布已与四家独立外部评估方——Apollo Research、METR、Transluce 和 Goodfire——签署第一阶段嵌入式评估(embedded assessments)协议。此次公告旨在公布第三方独立安全评估的合作架构、资源访问范围与工作协议。

什么是嵌入式评估?资源访问机制与四家机构具体分工

根据 OpenAI 定义,嵌入式评估是在较长时间跨度内向外部独立专家提供实验室内部模型与系统的深度访问权限,用于评估模型对齐程度及安全防护(safeguards)的有效性(尤其是与安全案例 safety cases 相关的环节),并支持其在超级智能白宫协议(White House Accord on Super Intelligence)下对安全控制接受独立评估的承诺。初始阶段重点聚焦模型在训练和内部使用期间的对齐与防护:根据各项评估的具体需要,评估方将获得部分与 OpenAI 内部研究者类似的资源,包括模型检查点、源代码、训练与评估数据、监控系统、技术文档,以及与负责相关工作的研究人员和工程师交流;当直接访问可能暴露最敏感知识产权(如模型权重或架构)时,双方会采用评估方与 OpenAI 研究者配对运行分析等替代方案。四家机构的任务分工如下:

Apollo Research(评估隐蔽违背意图风险):开展试点评估,检验模型是否会暗中违背开发者意图(subversion)以及现有防护能否检出此类行为。评估分两阶段验证四项核心主张(训练未激励颠覆意图、强评估与红队测试未诱发颠覆行为、内部使用期间模型未尝试颠覆、颠覆背后的推理过程可被检测),第一阶段将提供部分公开及未发布模型与训练检查点、相关训练与评估数据、训练干预记录、监控系统与标记行为以及独立测试工具和算力。

Goodfire(可解释性与训练监控调试):嵌入可解释性研究者并借助 Goodfire 平台分析模型内部机制,核心目标服务于训练运行监控、调试与对齐优化;其主要受众为用于改进安全的 OpenAI 内部研究者,同时在过程中也会对外发布相关经验与研究发现。

METR(前沿强化学习运行对齐评估与后续监控评估):在对齐评估方面,第一阶段将围绕 OpenAI 迄今规模最大的前沿强化学习运行(largest frontier RL run to date)开展失配行为评估,重点排查现有测试与监控可能遗漏的失效模式,提供检查点采样、训练与评估 rollout 及失配监控记录(其范围窄于 METR 对齐评估提案中的广泛普查)。在监控评估方面,继双方在 2026 年 10 月 22 日公开的为期三周内部监控红队演练之后,双方已初步同意开展范围更广的监控评估,目前仍待双方就具体评估范围达成一致。

Transluce(训练后对齐评测质量审查):对训练后对齐评测(post-training alignment evaluations)的质量与覆盖面进行初始评估,获取部分公开及未发布模型、评测结果、行为数据与 safety case 文档及算力支持;此外,双方还表达了在 2027 年初开展约八周后续评估的意向,以扩大访问范围并考察评测结果如何影响模型发布决策。

现场安全、独立监督、发布与利益冲突披露协议

为兼顾评估独立性与前沿机密保护,OpenAI 披露了配套治理与工作协议细节:

现场办公与安全标准:需要接触敏感机密信息的评估方须在 OpenAI 办公室现场工作并使用公司配发设备,遵守不低于正式员工的安全标准(特定实验条件下适用更严格安全审查)。

独立监督委员会(SSC)与争议处理:OpenAI 基金会董事会下设的独立安全与安全保障委员会(Safety and Security Committee,SSC)可在评估前、中、后履行监督职责,有权接收未删节报告并与评估方直接或私下沟通。若评估期间产生分歧,先提交安全顾问组(Safety Advisory Group)与管理层在规定时限内处理并立即通知 SSC,仍未解决则交由 SSC 裁决。

员工访谈、声明核证(Attestation)与发布披露:评估方与 OpenAI 员工的交流默认遵循不公开引用原则(off the record),不可直接发表或归因于个人;评估方可请求 OpenAI 出具经核证的官方陈述(attested statements)以核实或澄清了解到的情况,并公开发表该陈述(或披露 OpenAI 拒绝核证)。评估方保持独立发表评估结果的权利,OpenAI 保留删改机密信息以及为修复潜在安全风险而要求负责任延迟披露的权利。

财务报酬披露与冷静期机制:根据公告脚注披露,Apollo Research 与 Goodfire 接受财务报酬(报酬金额与评估结论无关),而 METR 与 Transluce 不接受财务报酬,仅在评估范围内接受 API credits 与算力支持。此外,双方正在制定明确的利益冲突与冷静期(cool-off period)规则,要求参与嵌入式评估的第三方人员在转向另一家 AI 开发者进行嵌入式工作前遵守短暂冷静期,以降低机密信息无意泄露风险。