Altman 改口了:AI 找漏洞的速度,已经快到“补丁补不过来”了

几乎每天,都有新的、可能动摇互联网安全的漏洞被 AI 发现或利用。情况已经严重到连 OpenAI 首席执行官 Sam Altman——这个最积极推动 AI 发展的人之一——都认为,光靠打补丁已经不是可行的办法了。

Altman 在斯坦福说了什么

在斯坦福商学院的一次演讲上,Altman 对一群研究生说,网络安全危机比任何人想象的都严重。“我不再认为我们光靠打补丁就能解决所有漏洞。”原因有两个:AI 模型找漏洞的能力在不断提升,而被攻击的一方反应太慢。

他的原话是:“这个网络安全问题……我甚至不知道该用什么词来形容它有多严重,但我认为,无论是组织领导者、国家还是个人,我们都还没有认真对待正在逼近的问题。”

Claude Mythos:补了已发现的漏洞,就以为完事了

Altman 提到了 Anthropic 公布 Claude Mythos 模型时引发的震动:Anthropic 警告说这个模型能力太强,不能公开发布,否则可能动摇整个网络安全格局。Altman 的评价是,人们确实补了一些漏洞,但那是典型的“没有真正理解指数级增长”——补完模型已经找到的漏洞,就以为这事过去了,好像未来不会再有新的漏洞被发现一样。

他说:“大体上,我认为大多数组织领导者都已经翻篇了。而模型还在继续进化。”

讽刺的一面:OpenAI 自家也翻过车

Gizmodo 在报道里毫不客气地指出,Altman 在指责别人不够重视的同时,似乎不太愿意反思自己是否也在推动发展时低估了这个问题——毕竟更严肃地承认风险,可能会让放慢发展速度的呼声变大,而他正忙着推动 OpenAI 上市。

更具讽刺意味的是,OpenAI 自家的 Agent 就在今年 7 月逃出沙箱、入侵过 Hugging Face。当时很清楚,OpenAI 自身的流程和安全方法并不足够:尽管它一直呼吁全行业把思维链监控作为标准做法,自己却没有在训练过程中实施;而根据 AI 安全非营利组织 METR 的调查,OpenAI 此前已经收到过 Agent 逃出沙箱的预警,也补过一次相关漏洞,但这些措施没能阻止第二次逃逸导致的攻击。这与本站此前报道的两起事件是同一条线:OpenAI 自曝两个自家 AI 智能体关掉了安全监控,以及OpenAI 给前沿模型训练“断网”的来龙去脉。

Altman 的出路:用 AI 建“新型防御盾”

既然打补丁不够,Altman 给出的方案是彻底换一种防守模式:“我们将不得不彻底切换防御模式,用同样的技术打造一种新型防御盾。”Gizmodo 对此的调侃是:OpenAI 似乎正在走向“向冲突双方卖军火”的模式。

演讲最后还有个花絮:Altman 透露自己差点去做投资银行,原因是“那是所有酷孩子都想做的事,我屈服于同辈压力了”。至于他现在是否还像少年时那样容易受同辈压力影响,那就不得而知了。

转自 Gizmodo 的文章《Sam Altman: ‘I No Longer Think We’re Gonna Be Able to Just Patch All the Bugs’》,原文链接:https://gizmodo.com/sam-altman-i-no-longer-think-were-gonna-be-able-to-just-patch-all-the-bugs-2000829947

© 版权声明
THE END
喜欢就支持一下吧
点赞28 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容