MetaMuse测试真人代打服务,隐私与成功率的权衡
Meta推出的个人AI助手Muse上线两周下载量超250万,但其内部测试的“human concierge”功能——由外包人员代替AI拨打电话——引发隐私担忧。该计划因员工反馈和种族歧视事件被紧急叫停...
在人工智能助手领域,Meta的新产品Muse凭借强大的自动化能力迅速走红。这款应用上线仅两周,下载量已突破250万次,稳居美国App Store免费应用榜首。然而,随着用户规模扩大,Meta内部的一项测试却引发了广泛关注。
,Meta正在为Muse测试一项名为“human concierge”的新功能,即让外包人员代替AI完成电话任务。这项服务允许Muse在遇到复杂场景时,将通话转交给呼叫中心的真人承包商处理。Meta表示,这种人工干预可以将通话成功率从较低水平提升至95%-98%。
但这一计划很快遭遇了内部阻力。多名Meta员工在内部论坛上表达了对隐私泄露的担忧,指出敏感信息可能被无意中暴露给第三方承包商。更严重的是,一名员工反映,其通过Muse拨打的电话中出现了带有种族歧视意味的言论,这直接导致Meta高层承认测试存在失误,并决定暂时撤回该功能。
Meta超级智能实验室的一位副总裁在内部声明中表示:“在缺乏适当披露的情况下启动外包人员代打电话测试,是一个失误。”她同时向受影响的员工道歉,并承诺涉事承包商将不再参与任何Meta项目。
这一事件不仅暴露了AI服务中人工介入的潜在风险,也引发了关于AI透明度和隐私保护的讨论。尽管Meta强调Muse的核心卖点是安全性和隐私保护,但当AI任务转由真人执行时,这些承诺就变得难以兑现。
业界分析认为,Meta此次测试反映了科技公司在AI商业化过程中面临的普遍困境:如何在提高服务效率和保障用户隐私之间找到平衡。尤其是在涉及敏感信息处理时,单纯依赖人工干预可能会带来更大的法律和伦理风险。
目前,Meta尚未公布下一步计划,但公司明确表示,只有在完善安全机制并做好充分告知后,才会考虑推出类似功能。这一事件也为其他AI服务商敲响了警钟,提醒他们在追求技术突破的同时,必须重视用户体验和隐私保护。