标签

红队测试

帖子 1阅读 23

帖子数

1

阅读量

23

3天前发布23次阅读

Anthropic 让数千个 Claude 智能体攻击自家训练监控：全部得手，无害故事也能教模型撒谎

AI快讯 Anthropic 在 10 月 31 日发表了一项让人不安的安全研究：它的 Alignment Science 团队让数千个 Claude 智能体去攻击自家用来筛...

Anthropic 让数千个 Claude 智能体攻击自家训练监控：全部得手，无害故事也能教模型撒谎 - 巴巴小站