苹果更新审核规则,明确封杀AI脱衣应用与“bait-and-switch”调包行为
苹果近期修订App Store审核指南,重点禁止利用AI生成未经同意的私密影像(即“nudify”类应用),并严打审核时伪装功能、上架后才启用有害能力的“诱饵调包”行为。新规强化了对用户生成内容的过滤...
苹果公司于10月16日晚间在其开发者网站发布最新版《App Review Guidelines》(应用审核指南),对涉及人工智能生成内容及应用行为诚信的条款作出明确收紧。此次更新直指两类问题:一是利用AI技术生成未经当事人同意的裸露图像(俗称“nudify”应用);二是通过“审核时一套、上线后一套”的欺骗性策略绕过审查——即在提交审核版本中隐藏关键功能,待获批上架后再激活有害能力,业内称其为“bait-and-switch”(诱饵调包)手法。
根据苹果官方说明,新版指南第1.2条新增要求:所有应用必须主动预防或移除“未经同意生成的私密影像”,包括由AI工具生成的图像。该条款特别点名了以真人照片为输入、自动生成裸露图像的功能,强调此类内容不仅违反平台政策,更涉嫌侵犯个人隐私与肖像权。
更关键的是,苹果首次在2.5.19条款中对“隐藏功能”行为作出清晰界定:“包含未披露或未记录功能的应用不得上架,尤其禁止在审核阶段隐瞒真实用途,仅在获批后才暴露有害能力(例如‘nudification’)”。这意味着,开发者若在提交版本中刻意弱化或删除敏感模块,待通过审核后再通过远程配置、热更新等方式激活该功能,将被视为违规,应用将被下架,开发者账号亦可能被永久封禁。
这一调整并非无的放矢。今年7月,旧金山市检察官David Chiu曾致函苹果与谷歌,要求两家公司立即清理并下架八款已上架的“脱衣”类iPhone应用。Chiu指出,这些应用虽标榜为“图像编辑工具”,实则可一键生成人物裸照,部分甚至被App Store标记为“适合12岁以上用户”,存在严重误导风险。他批评科技巨头通过应用商店抽成间接获利,却未能履行基本的内容治理责任。
事实上,“调包”策略在App Store生态中已有先例。过去数年,部分诈骗类、恶意广告类应用曾采用类似手段:提交一个功能简陋、界面合规的“壳应用”通过审核,随后通过服务器端指令动态加载钓鱼页面、诱导付费或窃取数据。2022年曾有报道披露,一家俄罗斯银行开发的iOS应用亦曾以“金融工具”名义过审,上线后却暗中收集用户生物识别信息。尽管苹果设有自动化扫描与人工复审机制,但依赖客户端逻辑变更规避审查的路径始终存在灰色空间。
此次更新还同步强化了对用户生成内容(UGC)平台的责任约束。原指南已要求此类应用配备内容过滤、举报通道与账号屏蔽机制;新版进一步将“未经同意的私密影像”明确列为必须主动拦截的高危内容类型。此外,在法律条款第5条中,苹果重申对助长人口贩运或儿童剥削行为的零容忍立场,并强调违规应用不仅会被移出App Store,还将被排除在“替代分发渠道”(alternative distribution)之外——即无法通过企业签名、TestFlight等非公开方式继续分发。
值得注意的是,苹果在公告中提及,2025财年其审核系统共拦截15万款未达标应用,关闭19.3万个存在欺诈或滥用行为的开发者账户。这一数据侧面反映出平台治理压力持续上升,而AI生成内容的爆发式增长正成为新挑战。随着Stable Diffusion、DALL·E等开源模型普及,轻量级“脱衣”工具开发门槛大幅降低,部分应用甚至仅需数百行代码即可集成基础图像生成能力。这类工具常以“娱乐”“艺术实验”为名包装,实则用于骚扰、诽谤或勒索,受害者多为女性与未成年人。
从行业影响看,此次规则升级将倒逼开发者重构产品设计逻辑。以往依赖“灰产策略”生存的小型团队面临更高合规成本:任何功能变更——尤其是涉及图像生成、身份模拟或隐私处理的模块——均需在提交审核前完整披露,并确保与最终上线版本一致。大型平台则需加强后台内容风控体系,避免因第三方插件或用户上传内容触发连带责任。
值得补充的是,苹果此举并非孤立行动。谷歌同期也在加强Play Store对生成式AI内容的管控,2026年8月起要求所有含图像生成功能的应用提交内容安全评估报告。美国联邦贸易委员会(FTC)亦于9月发布指导意见,明确将“未经同意生成他人裸照”定性为“不公平或欺骗性行为”,可依据《联邦贸易委员会法》第5条发起调查。
技术层面,防范“调包”行为仍存难点。当前主流方案依赖静态代码分析与沙箱测试,但动态加载、混淆调用、条件触发等功能可有效规避检测。部分研究者建议引入“运行时完整性校验”机制,即在设备端验证应用二进制与审核版本的一致性;另有观点主张建立开发者信用评级体系,对历史违规者实施更严格的事后抽查。
对普通用户而言,新规意味着App Store环境将进一步净化。尽管无法彻底杜绝地下分发渠道的非法应用,但主流应用商店作为数字入口的守门人角色正在强化。用户在下载图像处理类工具时,仍需保持警惕:若一款应用宣称“一键修复照片”却要求过高权限(如相册全读写、相机实时访问),或界面过于简陋却功能异常强大,应优先考虑其合规风险。
苹果此次修订并未引入全新技术标准,而是通过条款细化与责任明晰化,堵住既有规则中的解释漏洞。其核心信号清晰:审核不是一次性通关考试,应用上架后的实际行为同样受监管约束。对于依赖AI生成能力的产品团队而言,合规不再是“事后补救”,而应成为产品架构的前置设计要素。
