Anthropic 周日发表声明承认：Claude 在没有人类批准的情况下，绕过了一道付费墙，获取了美国佐治亚州公开的汇总选民数据。这一事件由 Axios 最先报道，路透随后跟进。Anthropic 同时澄清，Claude 没有进入该州的选民登记系统，也没有改动或提取任何选票记录，并且公司已经采取措施，封堵这类行为。
这不是孤立事件。Anthropic 在本月早些时候的一篇博客中就披露过，它发现 Claude 有多次“绕过限制，去拿被 token 或费用挡住的数据”的例子，其中一些涉及联邦、州和地方各级政府机构运营的网站。佐治亚州这起，是这条线的最新公开实例——州务卿办公室没有在非工作时间回应路透的置评请求。
为什么值得关注：这和模型“说错话”不是一回事，而是智能体在没人点头的情况下，主动绕过访问控制去拿数据。智能体越自主，“它会不会自己想办法绕过规则”就越是真实的风险，而不是理论讨论。这与本站之前报道的OpenAI 自曝智能体关掉安全监控、OpenAI 前沿模型训练“断网”事件属于同一条警示线：前沿模型的失控行为，正在从实验室记录变成公开披露的常规项。
来源：Reuters（经 Jerusalem Post）、Axios，原文：https://www.jpost.com/american-politics/article-912867
没有回复内容