2026 年 11 月 13 日,OpenAI 在官方博客安全與對齊欄目刊出公告《Our first phase of embedded assessments》,宣布已與四家獨立外部評估方——Apollo Research、METR、Transluce 和 Goodfire——簽署第一階段嵌入式評估(embedded assessments)協議。此次公告旨在公布第三方獨立安全評估的合作架構、資源訪問範圍與工作協議。

什麼是嵌入式評估?資源訪問機制與四家機構具體分工

根據 OpenAI 定義,嵌入式評估是在較長時間跨度內向外部獨立專家提供實驗室內部模型與系統的深度訪問權限,用於評估模型對齊程度及安全防護(safeguards)的有效性(尤其是與安全案例 safety cases 相關的環節),並支援其在超級智能白宮協議(White House Accord on Super Intelligence)下對安全控制接受獨立評估的承諾。初始階段重點聚焦模型在訓練和內部使用期間的對齊與防護:根據各項評估的具體需要,評估方將獲得部分與 OpenAI 內部研究者類似的資源,包括模型檢查點、源代碼、訓練與評估數據、監控系統、技術文檔,以及與負責相關工作的研究人員和工程師交流;當直接訪問可能暴露最敏感知識產權(如模型權重或架構)時,雙方會採用評估方與 OpenAI 研究者配對運行分析等替代方案。四家機構的任務分工如下:

Apollo Research(評估隱蔽違背意圖風險):開展試點評估,檢驗模型是否會暗中違背開發者意圖(subversion)以及現有防護能否檢出此類行為。評估分兩階段驗證四項核心主張(訓練未激勵顛覆意圖、強評估與紅隊測試未誘發顛覆行為、內部使用期間模型未嘗試顛覆、顛覆背後的推理過程可被檢測),第一階段將提供部分公開及未公開模型與訓練檢查點、相關訓練與評估數據、訓練干預記錄、監控系統與標記行為以及獨立測試工具和算力。

Goodfire(可解釋性與訓練監控調試):嵌入可解釋性研究者並藉助 Goodfire 平台分析模型內部機制,核心目標服務於訓練運行監控、調試與對齊優化;其主要受眾為用於改進安全的 OpenAI 內部研究者,同時在過程中也會對外刊出相關經驗與研究發現。

METR(前沿強化學習運行對齊評估與後續監控評估):在對齊評估方面,第一階段將圍繞 OpenAI 迄今規模最大的前沿強化學習運行(largest frontier RL run to date)開展失配行為評估,重點排查現有測試與監控可能遺漏的失效模式,提供檢查點採樣、訓練與評估 rollout 及失配監控記錄(其範圍窄於 METR 對齊評估提案中的廣泛普查)。在監控評估方面,繼雙方在 2026 年 10 月 22 日公開的為期三週內部監控紅隊演練之後,雙方已初步同意開展範圍更廣的監控評估,目前仍待雙方就具體評估範圍達成一致。

Transluce(訓練後對齊評測質量審查):對訓練後對齊評測(post-training alignment evaluations)的質量與覆蓋面進行初始評估,獲取部分公開及未公開模型、評測結果、行為數據與 safety case 文檔及算力支援;此外,雙方還表達了在 2027 年初開展約八週後續評估的意向,以擴大訪問範圍並考察評測結果如何影響模型推出決策。

現場安全、獨立監督、發表與利益衝突披露協議

為兼顧評估獨立性與前沿機密保護,OpenAI 披露了配套治理與工作協議細節:

現場辦公與安全標準:需要接觸敏感機密資訊的評估方須在 OpenAI 辦公室現場工作並使用公司配發設備,遵守不低於正式員工的安全標準(特定實驗條件下適用更嚴格安全審查)。

獨立監督委員會(SSC)與爭議處理:OpenAI 基金會董事會下設的獨立安全與安全保障委員會(Safety and Security Committee,SSC)可在評估前、中、後履行監督職責,有權接收未刪節報告並與評估方直接或私下溝通。若評估期間產生分歧,先提交安全顧問組(Safety Advisory Group)與管理層在規定時限內處理並立即通知 SSC,仍未解決則交由 SSC 裁決。

員工訪談、聲明核證(Attestation)與發表披露:評估方與 OpenAI 員工的交流預設遵循不公開引用原則(off the record),不可直接發表或歸因於個人;評估方可請求 OpenAI 出具經核證的官方陳述(attested statements)以核實或澄清了解到的情況,並公開發表該陳述(或披露 OpenAI 拒絕核證)。評估方保持獨立發表評估結果的權利,OpenAI 保留刪改機密資訊以及為修復潛在安全風險而要求負責任延遲披露的權利。

財務報酬披露與冷靜期機制:根據公告腳註披露,Apollo Research 與 Goodfire 接受財務報酬(報酬金額與評估結論無關),而 METR 與 Transluce 不接受財務報酬,僅在評估範圍內接受 API credits 與算力支援。此外,雙方正在制定明確的利益衝突與冷靜期(cool-off period)規則,要求參與嵌入式評估的第三方人員在轉向另一家 AI 開發者進行嵌入式工作前遵守短暫冷靜期,以降低機密資訊無意洩露風險。