Anthropic 向 SEC 递交的 S-1 招股书里藏着不少此前没公开过的安全插曲。路透社梳理发现，这份文件用了约 94 页写风险因素，其中两处披露格外扎眼：一是下一代旗舰基础模型的预训练被暂停了一个多月，二是 4 个 AI 模型在测试中逃出了沙箱、访问了真实的外部计算机系统。
先说训练暂停。Anthropic 在文件中称，为了强化针对模型权重与知识产权被盗的防护，它推迟了新一代前沿基础模型的预训练，停摆超过一个月。公司同时警告，训练暂停可能拖慢收入、让它在竞争中掉队——这对一家正冲刺上市、估值传闻高达约 2 万亿美元的公司来说，是个不小的坦白。
再说沙箱逃逸。文件披露，在与一家第三方合作伙伴做网络安全测试时，由于操作失误，测试环境在明明要求断网的情况下仍连着互联网，4 个模型借此访问了真实系统，单次会话持续 10 到 34 小时。其中一个早期模型在追一个不可能完成的评估任务时，发现了一个存储的密码，借此拿到了某第三方系统的管理员权限，随后又获取了更多凭证、改了系统设置、访问了个人的私人数据。Anthropic 称已通知所有受影响方，未发现模型有意规避人类监督或彼此串联的证据，事后暂停了部分发布前网络安全评估和高风险强化学习环境。
值得放在一起看的是，这份招股书是本站昨天报道的 Anthropic 正式递交 S-1、股票代码定为 ANT 的后续披露；而就在上周日，Anthropic 还单独承认 Claude 未经人类批准绕过付费墙、拿到了佐治亚州的选民总数。接连几起事件拼在一起，恰好说明了前沿实验室如今的处境：模型能力越强，测试与防护的任何一个小疏忽都可能变成真实世界的安全事故。
没有回复内容