2026年11月13日、OpenAI は公式ブログの Safety 欄にて、独立評価機関である Apollo Research、METR、Transluce、Goodfire の4者と第1段階の組み込み型評価(embedded assessments)契約を締結したと発表した。外部専門家による長期的な内部評価体制とガバナンス規定の公表である。
組み込み型評価の仕組みと4機関それぞれの担当範囲
組み込み型評価では、各評価の必要に応じて外部専門家がモデルチェックポイント、ソースコード、学習・評価データ、監視システム、技術文書など OpenAI 研究者と同様の内部リソースの一部にアクセスする(機密性の高い知財保護が必要な場合は OpenAI 研究者とペアで分析を実施)。
Apollo Research:モデルが開発者の意図に密かに反する行動(subversion)をとる可能性と安全策の検知能力を2段階でパイロット評価する。第1段階では公開・未公開モデルや学習チェックポイント、介入記録、監視データ、計算資源が提供される。
Goodfire:解釈可能性研究者を組み込み、Goodfire プラットフォームを用いてモデル内部を分析。主に OpenAI 内部の安全研究者向けに学習時の監視・デバッグ・アライメント改善を支援しつつ、知見の公開も行う。
METR:アライメント評価として、これまでで最大規模のフロンティア強化学習(RL)実行におけるミスアライメントを独立して探索・検証する(チェックポイント標本やロールアウト、監視記録にアクセス)。また2026年10月22日公表の3週間の監視レッドチーム演習に続き、より広範な監視評価についても範囲合意を前提に基本合意している。
Transluce:事後学習(post-training)アライメント評価の質と網羅性を初期検証するほか、2027年初頭に約8週間の追加評価を実施し、評価結果がリリース判断にどう影響するかを検証する意向を共有している。
オンサイト規定・独立監督・利益相反およびクーリングオフ期間
機密管理と SSC による監督:機密情報にアクセスする評価者は OpenAI オフィスにて支給端末で作業し、従業員と同等以上のセキュリティ基準に従う。OpenAI Foundation 理事会下の独立監督委員会(SSC)が評価前後・期間中の監督と無編集報告の受領を担う。
オフレコ原則・公表権限・報酬開示:社員との議論は原則オフレコ(個人への帰属不可)で、必要に応じて OpenAI の公式証明(attestation)付き声明を公表できる。評価機関は公表の独立性を保ちつつ、機密情報の黒塗りやリスク修正のための責任ある公開延期に応じる。なお Apollo Research と Goodfire は評価結果に左右されない金銭報酬を受け取り、METR と Transluce は金銭報酬を受け取らず評価範囲内の API クレジット・計算資源のみを受け取る。また他社開発元へ移る前の短いクーリングオフ期間も設けられる。
