2026年11月16日、OpenAI は既存の Child Safety Blueprint および検出・報告体制を土台とした4つのオンライン児童安全施策を発表した(同日付で公式モデルカードも公開)。

審査済み組織向けの無料 API 画像分類器と初期評価

AI 生成判定シグナルを備えた分類器:審査を通過した児童保護団体や業界の安全チームに対し、OpenAI API 経由で新しい画像分類器を無償提供する。AI 生成物を含む潜在的な CSAM の検出および AI 生成の可能性を示す専用シグナルを出力し、優先審査を支援する。OpenAI の初期社内比較ではフラグ数を48%削減しつつ同水準の検出を維持したと報告されており、初期パートナーの fal、invideo AI、SafetyKit からも検証結果が共有されている。

ChatGPT での製品介入・開発者向け指針・法執行機関支援

24時間アクセス停止・開発者ガイド・調査支援ツール:ChatGPT では検索試行を遮断する警告表示、該当会話の削除、および専門支援リソースへのアクセスを残した24時間の利用停止措置(反復違反時はさらなる制限・アカウント閉鎖・当局への通報対象)の導入を進めている。また開発者向け CSAM ガイダンスの公開に加え、プログラム管理者の下で認可された児童保護法執行機関向けに、長文チャット記録や法的照会回答からソースリンク付きタイムラインを作成する調査ツールと研修を提供する。