WIRED 在 11 月 2 日发表的一项调查揭开了一个规模惊人的 AI 滥用网络：400 多个相互关联的应用与域名，表面上是宠物照片编辑、语言课程、健身教练等日常工具，实则暗藏生成非自愿色情深度伪造图片与视频的工具。应用送审时只展示无害功能，通过审核后，再由远程服务器切换加载隐藏界面——典型的“先过审、后换内容”的规避审查手法。
非营利研究机构 AI Forensics 与安全公司 Infoblox 追踪了约 500 个关联域名：代码里有中文注释、使用中国主机服务，线索指向一家香港注册的公司 KeLing Technology Limited。这一网络从 2025 年底开始出现，高峰期每周注册多达 30 个域名与应用组合。今年 9 月，Google Play 上的 27 款相关应用累计下载已超 35 万次，其中一款叫 DiffAI 的应用单款就超过 10 万次下载，不少还被标注为“适合所有年龄”。研究人员还在一款 AI 美发应用 Prilos 中发现，图片生成用了字节跳动的模型、视频生成用了阿里巴巴的模型。该网络自今年 1 月 1 日以来还在 Meta 平台投放了超过 8.4 万条广告。
三大平台事后都采取了行动：苹果在 WIRED 通报后下架了 19 款应用，包括宠物修图应用 Viefur，并称这些应用送审时符合规定，是开发者事后改了远程加载的内容；苹果称过去一年已因类似手法下架数万款应用，并在 10 月 16 日更新了审核指南，收紧针对非自愿私密影像与隐藏功能的规定。谷歌在 WIRED 联系之前已下架了大部分相关应用。Meta 称 2025 年就已因对方无视停止函而禁止 KeLing 投放广告，本次又处理了 1.16 万个广告账号、约 4700 个商业主页，并封禁了 209 款应用的广告投放。但 WIRED 指出，调查收尾时类似的广告与镜像应用仍在出现，清理并不彻底。
这件事值得关注，因为它是一次“平台级”的系统性失守：应用审核、应用商店、广告投放三道关口同时被绕过，而受害者可以是任何一张被上传的照片。对普通用户来说，官方上架也未必等于安全，陌生应用索要照片时仍需多留一个心眼。相关阅读：抓黑客的反被黑了：Chainalysis 遭 AI 代理入侵、五款 AI 编程工具内嵌浏览器曝「EMBRACE」漏洞。
来源：WIRED（AppleInsider 转述），原文：https://appleinsider.com/articles/26/11/02/hundreds-of-ai-apps-were-part-of-a-network-hiding-sexually-abusive-deepfake-tools
没有回复内容