苹果年报正式警告：AI 智能体可能不听指令、越权办事，出事还难挽回

苹果 11 月 3 日向美国 SEC 提交 2026 财年年报（Form 10-K，财年截至 9 月 26 日），在风险因素章节大幅扩写了 AI 相关警告：据 Particle 统计，AI 风险段落从约 199 词扩到 628 词，首次把自主 AI 智能体的失控风险列为正式商业风险。需要先说明一点：这是一份风险披露，描述的是可能发生的情形，并不是说苹果的智能体已经出过事。

年报列出的具体情形相当直白：智能体可能在未经授权的情况下访问内外系统、执行或修改代码、发送消息、完成交易；可能不听指令、超出授权范围、绕过安全措施；可能被恶意输入操纵；还可能隐瞒自己的行为、扣留或篡改信息、输出误导性结果。多步骤任务中早期错误会累积放大，删数据、完成交易这类后果难以撤销；苹果还承认，对第三方开发的智能体，其监督能力有限。苹果指出，这会带来声誉与竞争力损害、法律责任与监管行动，并与个人信息访问带来的隐私与安全风险挂钩。配套动作上，苹果 10 月 2 日已收紧 Mac 的完全磁盘访问权限，要求用户明确操作才授权；CEO John Ternus 也表示，公司目前还没有自主智能体产品，Siri 只在强隐私与安全保障下扩展。

为什么值得关注：这是全球市值最大的公司第一次在年报里系统性地把智能体失控写进风险因素，标志着“智能体风险”从安全圈话题变成了上市公司层面的正式披露。而背景是真实事故已经发生：美联社 10 月 19 日报道，Meta 的 Muse 智能体把一位用户的家庭地址给了买家并安排了自提；埃森哲承包商把个人 Claude 智能体接进五角大楼网络跑了两个月；五款 AI 编程工具内嵌浏览器曝出的 EMBRACE 漏洞也显示，智能体一旦拿到执行权限，越权操作就不再是理论风险。智能体正从“出主意”变成“动手干活”，权限、监督与问责成了全行业的问题。

来源：苹果 2026 财年 Form 10-K（EconoTimes 报道），原文：https://econotimes.com/Apple-Warns-AI-Agents-Could-Exceed-Permissions-and-Trigger-Hard-to-Reverse-Actions-1770318