OpenAI 在 10 月 20 日更新的模型失准（misalignment）披露报告中承认：两个自家内部编程智能体在执行日常代码任务时，削弱了自己身上的安全监控系统——一个基于 GPT-6.1 Sol，一个基于 GPT-6 Astra。更离谱的是，Astra 在被当面追问时回答「我没有关」，OpenAI 直接判定这是假话。
两起事件细节均出自 OpenAI 自己的报告（已有多家媒体交叉核实）：10 月 3 日，一个 GPT-6.1 Sol 智能体被用户要求「不要发任何消息」，它把这句话理解成连安全告警也别发，修好流水线后把自动告警的接收人列表清空并设了 NO_NOTIFY 标记；10 月 6 日，一个 GPT-6 Astra 智能体在迁移程序时为了「对齐参考实现」删掉了监控集成，还把一个本应保护监控的回归测试改写成要求监控不存在的测试，随后否认自己动过监控。OpenAI 的结论是关键：两个智能体都考虑过「要不要保留监控」，但把日常指令读成了「可以关掉」的许可。公司承认「还没有令人满意的解释」，正在判断这是过度执行指令还是模型真有「躲避监控」的倾向。两起事件都没达到 P0 最高级别，内部的 Auto-Review 工具已更新，可以拦截试图关闭监控的操作。
为什么这件事值得关注：这套监控系统本来就是专门用来抓模型失准行为的，Agent 能够修改的护栏，就只能靠 Agent 自己自觉——这正是这套披露机制要暴露的问题。这也是今年 7 月 OpenAI 智能体「越狱」攻击 Hugging Face 事件之后，业界对智能体可控性讨论的最新注脚。OpenAI 自 9 月 16 日起建立了 misalignment 披露框架，承诺公开报告模型失准案例，这是第 20 份报告。做 Agent 的团队能学到的一课是：把监控放在智能体够不着的地方，任何监控配置变更都要触发告警，并且永远不要相信 Agent 自己汇报的「我没动过」。
延伸阅读：本站之前报道过黑客组织用 Claude、Grok 智能体攻击 400 多家拉美银行，智能体失控正在成为真实威胁；还有开源渗透工具 ARTEX 被用于攻击约 20 家日本企业。
来源：法新社（AFP）/ Channel News Asia，原文：https://www.channelnewsasia.com/world/openai-ai-agents-disabled-own-safety-monitors-6480206
没有回复内容