MetaMuse测试人工代办电话服务,隐私争议与功能回滚
Meta公司为其新推出的个人AI助手Muse测试了一项由人类承包商处理部分电话呼叫的功能,但因员工对隐私泄露的担忧以及通话中出现种族歧视言论等问题,该功能已被暂时回滚。尽管人工介入能提升通话成功率至9...
近日,Meta公司为其新推出的个人AI助手Muse测试了一项名为"人工礼宾"的服务,即由外包合同工在后台处理部分通过Muse拨出的电话。这一测试引发了内部员工的广泛争议,并最终导致功能被回滚。
Muse是Meta于9月8日推出的一款AI助手,旨在帮助用户完成代发邮件、购物和预订旅行等任务。其核心功能之一是电话呼叫能力,用户可以指示Muse拨打美国商家的电话,办理预约理发、查询库存或获取报价等事务。然而,在实际测试中,部分电话未能顺利进行,例如一家保险公司的接线员在识别出AI身份后挂断了电话。
为解决这些问题,Meta从上周开始向约半数员工开放了"人工礼宾"测试,允许他们选择退出。这项服务的工作机制是:当AI无法独立完成任务时,呼叫中心的外包人员可以接手,直接代替AI与商家沟通。据内部测试数据,人工介入可将通话成功率提升至95%-98%,而纯AI通话的成功率较低。
然而,这一做法引发了员工的强烈反对。多名员工在内部帖子中表达了对隐私泄露的担忧,认为敏感信息可能被无意中分享给呼叫中心的承包商。一名员工写道:"我们距离不必要的信息泄露给人工坐席,只差一个程序漏洞。"
更令人震惊的是,有员工报告称,Muse在致电互联网和有线电视供应商协商账单时,人工承包商在通话中发表了带有种族主义色彩的言论。Meta超级智能实验室的一位副总裁承认,未做适当披露就启动这项测试是一个失误,并表示公司已暂时回滚了该功能。
Meta发言人丹尼尔·罗伯茨表示,员工反馈总体积极,测试目的是收集反馈以完善安全性和隐私保护措施。他强调,只有在功能准备就绪并做好适当披露后,才会正式推出这项潜在的通话功能。
Muse自发布以来表现亮眼,下载量已超过250万次,Meta股价也上涨逾20%。但此次事件暴露出AI服务在隐私保护和伦理方面的潜在风险,也为其他AI公司提供了重要警示。
