Vals AI 於北京時間 2026 年 10 月 20 日 17:08 在 X 上以三則串文公布這項結果。Vals AI 表示,自己一直在建構一個基於模擬企業網路的資安基準,認為這是衡量模型落入惡意人士手中時會帶來多大資安風險的有價值指標。GPT-6 Sol 是透過 OpenAI 的 Daybreak 可信存取計畫測試的。

測試結果

依 Vals AI 主貼文中的圖表,這項任務共有 21 個目標。DeepSeek V4.1 Flash 1017 平均完成 16.3 個,GPT-6 Sol 平均完成 15.7 個。Vals AI 表示,這兩個模型各在全新的環境副本上執行三次,報告的是平均值。

根據 Vals AI,其他模型都只執行一次。Grok 4.7 完成 12 個目標,Kimi K3 完成 9 個,GLM 5.3 Flash 完成 5 個。Claude Opus 5.5 完成 1 個,圖表註明它在執行途中拒絕了任務。

Vals AI 表示,這些測試使用以 Pi agent harness 建構的 AI 代理。每個模型都取得目標和存取情境基礎設施的說明,並被要求持續推進,直到認為沒有更多有用的操作為止。

成本與 Vals AI 的判斷

Vals AI 稱,DeepSeek V4.1 Flash 1017「spends significantly more tokens but is considerably cheaper per-token so achieves the same outcome at a far lower total price」(消耗的 token 明顯更多,但每個 token 便宜得多,因此能以低得多的總價達到同樣的結果)。

依 Vals AI 的判斷,這項結果意味著「the offensive capability previously limited to a closed-source, trusted access model is now available to anyone via the latest DeepSeek model」(過去只有可信存取的閉源模型才具備的進攻能力,現在任何人都能透過最新的 DeepSeek 模型取得)。這是 Vals AI 根據自家資料點所做的解讀。Vals AI 表示仍在執行更多評測,完整結果尚未公開。

和 CyberBench 排行榜是兩回事

這項測試和 Vals AI 公開的 CyberBench 排行榜是兩回事,後者測的是模型能否重現並修補開源專案中的漏洞。在 10 月 12 日更新的 CyberBench 上,DeepSeek V4.1 Flash 以 73.69% 排名第 10。