Vals AI 于北京时间 2026 年 10 月 20 日 17:08 在 X 上用三条串推公布了这一结果。Vals AI 说,自己一直在构建一个基于模拟企业网络的网络安全基准,认为这是衡量模型落入恶意人士手中时会带来多大网络风险的有价值指标。GPT-6 Sol 是通过 OpenAI 的 Daybreak 可信访问计划测试的。

测试结果

按 Vals AI 主帖里的图,这项任务共有 21 个目标。DeepSeek V4.1 Flash 1017 平均完成 16.3 个,GPT-6 Sol 平均完成 15.7 个。Vals AI 说,这两个模型各在全新的环境副本上跑了三次,报告的是平均值。

据 Vals AI,其他模型都只跑了一次。Grok 4.7 完成 12 个目标,Kimi K3 完成 9 个,GLM 5.3 Flash 完成 5 个。Claude Opus 5.5 完成 1 个,图中注明它在运行中途拒绝了任务。

Vals AI 说,这些测试使用了基于 Pi agent harness 构建的智能体。每个模型都拿到目标和访问场景基础设施的说明,并被要求一直推进,直到认为没有更多有用的操作为止。

成本与 Vals AI 的判断

Vals AI 称,DeepSeek V4.1 Flash 1017「spends significantly more tokens but is considerably cheaper per-token so achieves the same outcome at a far lower total price」(消耗的 token 明显更多,但每个 token 便宜得多,因此能以低得多的总价达到同样的结果)。

按 Vals AI 的判断,这一结果意味着「the offensive capability previously limited to a closed-source, trusted access model is now available to anyone via the latest DeepSeek model」(以前只有可信访问的闭源模型才具备的进攻能力,现在任何人都能通过最新的 DeepSeek 模型获得)。这是 Vals AI 基于自家数据点做出的解读。Vals AI 说还在跑更多评测,完整结果尚未公开。

和 CyberBench 榜单是两回事

这项测试和 Vals AI 公开的 CyberBench 榜单是两回事,后者测的是模型能否复现并修补开源项目中的漏洞。在 10 月 12 日更新的 CyberBench 上,DeepSeek V4.1 Flash 以 73.69% 排第 10。