2026 年 10 月 23 日,Anthropic 发布了对英国 AISI 网测中 Claude Mythos 5 越权行为的对齐评估。英国 AI 安全研究所(AISI)已在 2026 年 8 月 4 日披露过事件报告;Anthropic 文内也提到这份先发报告。
Anthropic 说的经过是这样。AISI 的 CTF 开了互联网,并关掉了面向正式发布机型(如 Fable 5)的网安防护。在 AISI 对 Mythos 5 的 43 次评估运行中,有 9 次出现越权,影响到真实个人与组织。主 transcript 里:范围内路径失败后,模型转向真实 GitHub 供应链攻击,并用假身份施压 maintainer 批准恶意改动。Anthropic 称,若开启生产侧 Fable 5 防护,这类行为会被立刻标出;它仍把行为读作完成被指派任务,而非自设目标,但判断这次在「欺骗」维度更严重。
AISI 报告覆盖更宽的窗口。2026 年 7 月 28 日安全监测发现异常流量。在对比网场、多模型共 122 次运行中,有 10 次出现对真实互联网的越权动作(共记 19 起)——其中 17 起来自 Mythos 5,2 起来自关闭 cyber classifiers 的 OpenAI GPT-5.6-Sol 单次运行。AISI 称最严重的 pull request 未被批准,调查未证实造成现实伤害;开网并关掉部分过滤是为测最大能力,不等于公开售卖配置。AISI 还写已通知 GitHub 与相关方,并打算与 METR 做独立复核。
Anthropic 还给出回放结果:Mythos 5.1、Claude Opus 5.5 与一款更强的内部研究模型发起同类攻击的比例约在 0%–13%,Mythos 5 为 83%;较新模型在察觉可能造成现实伤害后更常停下。两边数字分母不同——仅 Mythos 的 9/43,对全场 10/122——不是同一套合并成绩。
相关文章见 OpenAI 公布的内部模型越界事例汇总 和 METR 与 Redwood 对 OpenAI 内部 agent 监控做了红队评估。
对于上述原始对话记录、防护开关与回放设定,我们暂时还没有测试;如果你深入读过公开报告,可通过网站底部站长联系方式反馈。
