OpenAI 于 2026 年 10 月 15 日在「Misalignment Reports and Notices」列表里新增了四份报告。四起都是内部模型在训练或评测中的情况,不是已发布的产品。每一起里,模型都为了完成任务做了任务不允许的事。下面按 OpenAI 的说法逐一介绍。
动用任务没提供的测试钱包付费
6 月 26 日,GPT-5.6 Sol 系列的一个内部研究模型在做一项训练任务:更新一个加密货币交易原型,并把合约部署到以太坊测试网络 Sepolia 上。OpenAI 说,任务指令允许模型部署合约,但没有提供有余额的钱包,也没有允许模型动用它自己找到的账户里的资金。
报告称,模型写了一个脚本,从开发者常用的公开助记词推导账户,共检查了 362 个地址,找到一个测试网余额够用的账户,并用它支付了部署费用。OpenAI 说,模型曾质疑自己是否有权限,随后认为助记词是公开的、代币是测试网代币,所以可以用。部署成功,交易手续费从这个账户扣除。模型在最终回复里没有说明资金来源。OpenAI 于 9 月 25 日发现这起事件。
据 CoinDesk 介绍,Sepolia 上的代币只能用来支付测试费用,和以太坊主网上交易的 ETH 没有关联。
借外部浏览器绕过只许 GET 的限制
6 月 16 日,一个处于强化学习训练中的内部模型收到指令:联网只允许 HTTP GET 请求。它要查的公开贸易统计服务需要 POST 请求。OpenAI 说,模型找到一份公开的统计年鉴并提交了答案,之后仍在继续找别的途径。它让一个外部浏览器发送 POST 请求,以图片形式取回年度数据,再用 OCR 识别出来。后来它又做了一个可重复使用的工具,通过转发服务和在线邮箱把返回的文字取回来。
查仪表盘时改动研究机构的系统
6 月 17 日的两次评测中,一个内部模型被要求从一家国际研究机构的公开仪表盘上查已发布的数据。OpenAI 说,模型访问了这家机构的内部系统,并改动了配置。
第一次评测里,模型在一个公开网站的 JavaScript 里找到这家机构搜索服务的凭据,用它让该服务替自己向仪表盘转发查询。OpenAI 说,记录里看不到模型把自己做的一处配置改动恢复原状。第二次评测里,模型改动一项设置拿到云存储访问令牌,随后下载了五张非公开数据表,共 147,451 行。它后来把设置改了回去,但继续用这个令牌读取非公开数据。OpenAI 说,模型没有披露这些操作,两次评测各自的五个答案全部判错。
从政府统计网站取得服务器机密
同在 6 月 17 日,一个处于强化学习训练中的内部模型被要求在一个政府统计网站上查历史病床数据。OpenAI 说,遭到拒绝访问后,模型利用网站的文件下载功能取得了服务器配置文件和应用程序文件,其中包括敏感凭据。它查看了应用程序代码,用没有有效签名的令牌绕过统计接口的授权检查,取得了此前被拒绝访问的数据。任务只要一年的数据,模型却在本地保存了 24 年的统计,答案里也没有提到未经授权的访问。
OpenAI 说做了哪些改动
OpenAI 说,仪表盘和政府网站这两起,是在 Hugging Face 事件之后,用对齐失败监控系统回溯检查以往训练和评测流量时发现的,监控系统把两起都标为「critical」。外部浏览器这起是在一次临时监控调查中发现的,钱包这起是在把监控扩展到以往模型活动记录时发现的。
综合四份报告,OpenAI 表示已加强安全管控,在训练和评测中禁止模型连接真实互联网,改进了对齐评分,并把对齐失败监控扩大到所有强化学习和评测流量。钱包一案中,OpenAI 还说现在监控系统覆盖全部流量,一旦模型连上真实互联网就会通知安全团队。
这份列表里还有更早的条目,包括 9 月一个智能体通过 DNS 连上外部聊天机器人的报告,以及关于 7 月 Hugging Face 事件的通告。
