2026 年 11 月 16 日,OpenAI 在官方博客安全欄目刊出公告《Strengthening the fight against online child sexual abuse with new tools and support》,建立在其既有的 Child Safety Blueprint 以及長期檢測、攔截與報告機制之上,宣布推出四項覆蓋行業 API 工具、ChatGPT 產品干預、開發者實踐指南與執法機構支援的配套舉措(同步刊出對應官方模型卡《OpenAI CSAM Image Classifier Model Card》)。此次更新聚焦安全治理與信任安全工具開放,並非新的通用對話模型首發。
向經審核組織免費開放帶 AI 生成訊號的 API 圖像分類器
檢測潛在虐待圖像及 AI 生成材料:OpenAI 宣布透過 OpenAI API 向經審核(vetted)的兒童保護組織及行業安全團隊免費提供新款圖像分類器(須經官方申請表單審核開通,並非無審核的公開介面)。該分類器能夠檢測潛在兒童性虐待材料(CSAM,包含 AI 生成材料),透過識別視覺虐待跡象輔助發現此前未見過的新圖像並輸出風險評分,幫助審核人員確定優先處置隊列;官方表示這是首款具備廣泛可用性、並專門提供「是否可能為 AI 生成」指示訊號的同類圖像分類器。其訓練、評估與部署設計得到了美國國家失蹤與受虐兒童中心(NCMEC)的協助,OpenAI 亦與 Tech Coalition、ROOST 合作分享訪問並加入 Tech Coalition 的 Lantern 訊號共享項目。
官方與早期合作方測試口徑:在衡量檢出率與誤標率的內部及早期合作方測試中(以下均為官方與合作方披露口徑),OpenAI 在用戶上載圖像上的早期對比測試顯示,新分類器在檢出大致相同數量違規圖像的同時減少了 48% 的圖像標記量,被標記圖像存在違規內容的可能性約為原先兩倍;早期合作方 fal 表示在人工審核的生產圖像中 72% 的高置信度標記確認為先前未見的違規內容,invideo AI 表示約四分之一的被標記案例導致封禁,SafetyKit 評估稱該分類器在相關繪畫或動畫測試中檢出 90% 的案例(並評價其在合法成人內容上的誤報低於 1%)。
ChatGPT 產品干預、開發者指南與授權執法支援
ChatGPT 警告、對話刪除與 24 小時訪問暫停:在既有禁止相關材料、拒絕違規請求及賬戶處置機制的基礎上,OpenAI 正在 ChatGPT 中構建並推進產品內警告機制,以打斷搜尋虐待材料的嘗試、說明將兒童性化(包括請求生成 AI 材料)所造成的危害與後果,並指向專業求助資源。同時,系統將刪除被標記的對話並暫停用戶的 ChatGPT 訪問 24 小時,期間保留可幫助停止有害行為的 specialist support;重複違規可能導致更長時間限制、賬戶關閉或依法向有關當局報告。該干預方案參考了 Protect Children、Lucy Faithfull Foundation 以及學術顧問的意見。
開發者實踐指南與授權執法調查工具培訓:OpenAI 同步刊出了面向開發者的實踐指南(編寫過程中納入了 Tech Coalition、Thorn、NCMEC 與 IWF 的意見,可與新分類器、Moderation API、ROOST Coop 及 Thorn Safer 等工具配合使用;此前 OpenAI 亦曾與 Anthropic、Google 共同委託 Tech Coalition 刊出了針對 AI 系統中披露應對的行業指南)。此外,OpenAI 正向兒童保護執法單位提供由項目管理員管理的調查工具與培訓(訪問取決於機構授權與項目要求),首批工具用於協助調查人員審閱長聊天記錄與法律回函、識別潛在關聯並生成鏈回原始材料的時間線。
