旧金山要求苹果谷歌下架13款AI换脸脱衣应用

近日，美国旧金山市检察官办公室对科技巨头苹果和谷歌采取了严厉措施，要求其立即从应用商店中下架13款涉嫌滥用人工智能技术的应用程序。这些应用程序利用面部识别和图像生成技术，将合法上传的图片转换为不雅内容，尤其以女性为目标，引发了公众对隐私安全和伦理问题的强烈关注。

根，旧金山市检察官办公室在本周向两家公司发送了正式的停止令（cease-and-desist letter），指出这些“换脸”应用（face-swap apps）已被证实主要用于非法目的，包括但不限于性骚扰、网络欺凌以及侵犯个人隐私。其中一款名为“Nudify”的应用更是成为焦点，因其算法能够快速将照片中的衣物移除，从而生成裸露图像。

据调查数据显示，此类应用的用户群体中，超过80%的使用者将目标锁定在女性和青少年身上。尽管开发者声称这些工具可用于娱乐或艺术创作，但实际使用场景却严重偏离初衷，甚至被犯罪分子用作勒索或传播色情内容的手段。

面对这一指控，苹果和谷歌均表示正在紧急审查相关应用，并承诺配合政府执法部门采取必要措施。然而，此次事件也暴露出当前数字平台在内容监管方面的漏洞，尤其是在AI技术快速发展的背景下，如何平衡技术创新与社会责任成为亟待解决的问题。

旧金山市检察官办公室强调，此次行动旨在保护弱势群体免受网络暴力侵害，并呼吁科技公司加强对第三方开发者提交内容的审核力度。同时，他们还计划推动立法，进一步规范AI技术的应用边界，防止类似事件再次发生。

专家分析认为，随着AI技术的普及，类似的伦理争议可能会越来越多。因此，建立更加严格的内容审核机制和技术伦理标准势在必行。此外，用户教育也是关键一环，只有提高公众对潜在风险的认识，才能从根本上减少此类滥用行为的发生。

目前，这两家公司在收到通知后已开始清理相关应用，并表示将进一步完善平台规则，以应对日益复杂的网络安全挑战。