Anthropic 在 11 月 2 日向美国 SEC 提交的招股书修订版(S-1/A)里加了一段引人注目的新表述:按公司内部估计与对未来模型的预期,Anthropic“可能很快达到”(may imminently meet)其《负责任扩展政策》(Responsible Scaling Policy)中“AI 带来的急剧加速进展”的定义——也就是常说的递归自我改进(RSI)阈值:AI 擅长到能自己训练自己,能力提升由此急剧加速。TechCrunch 今日率先报道了这一新增内容,多家媒体随后跟进。
需要把话说准:Anthropic 同时明确,目前没有任何一款模型被认定超过了这条线,底层数据仍在评估中。新增表述真正值得注意的是另一句——公司承认,过去在使用 AI 开发新模型时,出现过能力跃升事后才被发现的情况:“我们过去没有识别出、未来也可能无法识别出发展速度的显著加速,直到它已经发生。”按它自己的说法,用来监测这件事的“探测器”并不可靠,触发可能是事后才确认的。
Anthropic 也在文件里给了承诺:不预期在没有有意义的人类监督与理解的情况下,让 Claude 完全自主地设计、构建下一代前沿模型——即使技术上已经可行;并表示正考虑更新《负责任扩展政策》,把人类对前沿模型开发的控制权写进去。文件同时警告,用 AI 加速自身研发,可能让模型能力提升的速度超过安全、对齐与安保措施的验证与落地速度,这是 RSI 被同时视为机遇与风险的原因。
同一份修订版还补上了三季度财报:截至 9 月 30 日的三个月营收 169.56 亿美元,去年同期为 13.82 亿美元、今年二季度为 115.55 亿美元;经营上由二季度的盈利 9.74 亿美元转为亏损 5.67 亿美元;算力采购承诺与租赁合计约 8954 亿美元。数字背后是同一笔账:越接近自我加速的临界点,主动踩刹车的代价就越大——这也是外界质疑招股书语言自带营销成分的原因,阈值本身由 Anthropic 自己定义,标准与验证方式并不公开。
这是第一家前沿实验室在 SEC 注册文件里正式点名并定义 RSI 这类能力触发点,此前这类表述只出现在各家自己的安全政策博客里。它会不会成为监管机构援引的依据、以及路演启动前(最早 11 月 10 日)会不会有更多细节披露,是接下来值得跟进的两点。
相关阅读:Anthropic 正式向 SEC 递交 S-1:Claude 母公司启动 IPO,股票代码定为 ANT;Anthropic 让数千个 Claude 智能体攻击自家训练监控:全部得手,无害故事也能教模型撒谎
来源:TechCrunch,原文:https://techcrunch.com/2026/11/02/anthropic-warns-that-its-very-close-to-rsi-capability-aka-self-building-ai/


没有回复内容