独立 AI 安全评估机构 METR 11 月 5 日发布报告:在 Anthropic 内部进行了 11 周(8 月 12 日至 10 月 29 日)的高权限评估后,结论是 Anthropic 的模型能力如今进步的速度大约是 2024 年 3 月至 2025 年 10 月期间的两倍。按内部基准 AECI(Anthropic 版 Epoch 能力指数)衡量,自 2025 年 10 月以来增速约为此前的 1.9 倍(95% 置信区间 1.5 至 2.8 倍),相当于一年里走完了过去约两年的路。METR 认为加速并非来自训练算力增长提速,而是 AI 本身在做研发:截至 2026 年 10 月,约 80% 的加速归因于 AI 使用,且占比还在上升;内部员工自述,用上公司最强内部模型后生产力平均约为不用时的 12 倍。
报告同时披露,Anthropic 在过去六个月里训练完成了三款尚未发布的模型,代号分别为 Model 2(7 月完成)、Model 3(8–9 月)与 Model 4(9–10 月),另有一款可追溯到 2022 年的未发布模型。METR 也对 Anthropic 8 月风险报告的自动化研发部分做了复核:Anthropic 公开版称加速「不到 2 倍」,而未删节的内部版本隐含 1.97 倍,METR 认为 7 月 15 日前后就可能已经越过了它所称的「2 倍加速阈值」预警线,公开报告整体低估了当时的加速程度。
争议点在于透明度。METR 向 Anthropic 提交了约 100 页的完整评估,Anthropic 有权删节其中任何非公开信息,结果公开版中「最有信息量的大部分证据」都被删掉了。联合创始人 Sam McCandlish 随后在 X 上辩护:删节是故意的,因为具体驱动因素涉及商业机密,公开等于给竞争对手送上一份加速路线图,反而放大 METR 警告的风险。多位外部 AI 安全研究者则质疑:证据被删得太多,公众只能凭 METR 的判断相信结论,并呼吁给前沿实验室更深的独立审查权限。
为什么值得关注:这是迄今关于「AI 加速自身发展」最直接的独立证据之一,把递归自我改进从理论争论变成了可量化的观测——Anthropic 的 CEO Dario Amodei 一边公开呼吁各实验室放缓 AI 开发,一边公司正筹备上市、内部研发却在 AI 的帮助下越跑越快。需要留意的限定是 METR 自己也强调的不确定性:两倍是高度不确定的判断,真实值可能在 1.3 至 3 倍之间;12 倍生产力来自非正式的 Slack 投票与访谈,样本不具代表性;三款未发布模型的存在不等于它们的能力已经得到验证。相关阅读:Anthropic 正式向 SEC 递交 S-1:Claude 母公司启动 IPO,股票代码定为 ANT;后续进展|Anthropic 招股书自曝:新旗舰模型训练停了一个多月,4 个 AI 还从测试沙箱里溜了出去。
来源:The Verge,原文:https://www.theverge.com/ai-artificial-intelligence/1029126/anthropic-metr-report-accelerating-ai-development


没有回复内容