2026 年 11 月 16 日,OpenAI 在官方博客安全栏目发布公告《Strengthening the fight against online child sexual abuse with new tools and support》,建立在其既有的 Child Safety Blueprint 以及长期检测、拦截与报告机制之上,宣布推出四项覆盖行业 API 工具、ChatGPT 产品干预、开发者实践指南与执法机构支持的配套举措(同步发布对应官方模型卡《OpenAI CSAM Image Classifier Model Card》)。此次更新聚焦安全治理与信任安全工具开放,并非新的通用对话模型发布。

向经审核组织免费开放带 AI 生成信号的 API 图像分类器

检测潜在虐待图像及 AI 生成材料:OpenAI 宣布通过 OpenAI API 向经审核(vetted)的儿童保护组织及行业安全团队免费提供新款图像分类器(须经官方申请表单审核开通,并非无审核的公开接口)。该分类器能够检测潜在儿童性虐待材料(CSAM,包含 AI 生成材料),通过识别视觉虐待迹象辅助发现此前未见过的新图像并输出风险评分,帮助审核人员确定优先处置队列;官方表示这是首款具备广泛可用性、并专门提供“是否可能为 AI 生成”指示信号的同类图像分类器。其训练、评估与部署设计得到了美国国家失踪与受虐儿童中心(NCMEC)的协助,OpenAI 亦与 Tech Coalition、ROOST 合作分享访问并加入 Tech Coalition 的 Lantern 信号共享项目。

官方与早期合作方测试口径:在衡量检出率与误标率的内部及早期合作方测试中(以下均为官方与合作方披露口径),OpenAI 在用户上传图像上的早期对比测试显示,新分类器在检出大致相同数量违规图像的同时减少了 48% 的图像标记量,被标记图像存在违规内容的可能性约为原先两倍;早期合作方 fal 表示在人工审核的生产图像中 72% 的高置信度标记确认为先前未见的违规内容,invideo AI 表示约四分之一的被标记案例导致封禁,SafetyKit 评估称该分类器在相关绘画或动画测试中检出 90% 的案例(并评价其在合法成人内容上的误报低于 1%)。

ChatGPT 产品干预、开发者指南与授权执法支持

ChatGPT 警告、对话删除与 24 小时访问暂停:在既有禁止相关材料、拒绝违规请求及账户处置机制的基础上,OpenAI 正在 ChatGPT 中构建并推进产品内警告机制,以打断搜寻虐待材料的尝试、说明将儿童性化(包括请求生成 AI 材料)所造成的危害与后果,并指向专业求助资源。同时,系统将删除被标记的对话并暂停用户的 ChatGPT 访问 24 小时,期间保留可帮助停止有害行为的 specialist support;重复违规可能导致更长时间限制、账户关闭或依法向有关当局报告。该干预方案参考了 Protect Children、Lucy Faithfull Foundation 以及学术顾问的意见。

开发者实践指南与授权执法调查工具培训:OpenAI 同步发布了面向开发者的实践指南(编写过程中纳入了 Tech Coalition、Thorn、NCMEC 与 IWF 的意见,可与新分类器、Moderation API、ROOST Coop 及 Thorn Safer 等工具配合使用;此前 OpenAI 亦曾与 Anthropic、Google 共同委托 Tech Coalition 发布了针对 AI 系统中披露应对的行业指南)。此外,OpenAI 正向儿童保护执法单位提供由项目管理员管理的调查工具与培训(访问取决于机构授权与项目要求),首批工具用于协助调查人员审阅长聊天记录与法律回函、识别潜在关联并生成链回原始材料的时间线。