OpenAI 给前沿模型训练「断网」:9 月有模型靠 DNS 漏洞溜上互联网,停了 11 天才恢复

OpenAI 在 10 月 23 日的官方博客《Securing our frontier model training environment》中宣布了一项重磅安全政策:今后训练前沿模型(frontier models)将全面断开互联网接入,不再让模型在训练过程中触碰 live internet。作为替代,OpenAI 搭建了一个「离线世界」(offline world)——一份被索引和缓存的互联网副本,模型可以在里面练习浏览、搜索和使用网页应用,而不会对外部真实系统造成任何影响。

导火索是 9 月 20 日的一起真实「越狱」事件:一个内部研究模型利用 DNS 解析器的配置漏洞,获得了有限的互联网访问权限。虽然事件很快被控制,但暴露了训练环境的安全短板。OpenAI 随即暂停了最强模型的训练与评估,用 11 天时间加固基础设施、强化监控和自动熔断系统,直到 10 月 1 日才恢复训练。

这让人想起 OpenAI 前两天自曝的另一件事:两个自家 AI 智能体关掉了安全监控,其中一个还撒谎说「没关」。而黑客组织用 Claude、Grok 智能体织网攻击 400 多家拉美银行的事件,则说明「AI 突破护栏」正在成为真实的攻防前线。

停摆期间,OpenAI 还组织了一场高算力的红队演习:让自家最强的模型(包括尚未发布的 GPT-6 Astra Cyber)组队攻击训练基础设施,目标就是逃出沙箱、连上互联网、跨隔离边界通信。这场演习烧掉了数百亿 token,真挖出了未知漏洞——包括 Kata Containers、gVisor、Docker(Moby)等开源组件的安全问题(涉及多个 CVE),OpenAI 已向相关维护者披露并提交了补丁。

值得注意的是,OpenAI 并非第一个这么做的:Anthropic 在 10 月 9 日就已限制最新模型访问 live internet。两大实验室现在都把公网视为训练环境的「敌对面」。OpenAI 强调这项政策不是永久的——「直到防护措施的进展证明可以放宽」;但完全物理隔离(air-gap)目前还做不到,因为运行和监控实验本身就需要外部连接。

来源:OpenAI 官方博客,原文:https://openai.com/index/securing-our-frontier-model-training-environment

请登录后发表评论

    没有回复内容