10 月 21 日，BBC 报道称谷歌正因将 AI 技术用于军事用途而面临部分员工的强烈反对：驻伦敦的研究工程师 Sofia Liguori 本周已从 Google DeepMind 辞职，另一位 AI 研究员 Andreas Kirsch 也于本月初因同样的担忧离职。Liguori 在 DeepMind 工作了三年，她不顾合同中”终身不得批评谷歌”的限制，公开表示：”意识到我的公司正越来越大力地推动 AI 系统进入军事行动时，我为自己在谷歌工作感到羞耻。”
争议的焦点是谷歌今年早些时候与美国国防部签署的机密军事 AI 合同：谷歌的 AI 可用于”任何合法的政府目的”，但不得在没有适当人类监督和控制的情况下用于国内大规模监控或自主武器。今年 5 月五角大楼将谷歌列为 8 家向机密军事网络提供 AI 能力的公司之一，OpenAI、亚马逊、微软、SpaceX、甲骨文、英伟达等也签署了类似合同。此外 2021 年谷歌与亚马逊共同签下价值 12 亿美元的 Project Nimbus 合同，为以色列政府和军方提供 AI 与云基础设施。Liguori 还向 The Intercept 透露，她在内部发布的帖子曾被删除，管理层从未实质回应员工的关切。
这件事值得关注的地方在于，它把前沿实验室的”人类监督”承诺放到了台面上检验。OpenAI 地缘政治团队前主管 Sarah Shoker 指出，AI 的决策速度远快于人类，在高压环境下给操作员留下极短的决策时间，人类几乎不可能有效审查 AI 的输出是否有误——所谓关键时刻的”人类监督”可能形同虚设。一名匿名的 DeepMind 现任员工也对 BBC 表示：”很多受公司最初使命吸引的员工可能会离开。”
这让人想起 2018 年谷歌员工抗议 Project Maven 的那一波反弹。八年之后，大厂前沿实验室接军事订单已经常态化，但内部的治理张力显然没有消失，反而随着 AI 能力提升在加剧。AI 军事化的路线之争，正在成为整个行业的长期命题。
同样是 AI 与安全治理议题，本站今日还发了开源渗透工具 ARTEX 被用于攻击约 20 家日本企业的快讯。
来源：BBC，原文：TechNews 科技新报《不滿 AI 投入軍事用途，Google DeepMind 研究員接連辭職》
没有回复内容