网通社科技快报

C开发儿童语音伙伴小芽r4版上线 GPU加速语音合成提速16倍

由开发者用C#构建的开源儿童语音伙伴“小芽”近日发布r4版本,核心突破在于采用DirectML实现GPU加速语音合成,显著提升响应速度。在搭载RTX 4060 Laptop(7956 MiB显存)的测试设备上,中文语音合成首次耗时从原5.05秒降至3.07秒,预热后连续合成平均仅0.32秒,提速约16倍。该优化依托“CPU识别+GPU合成”分工架构:本地唤醒词检测、语音截取与SenseVoice离线ASR仍由CPU处理,TTS环节则通过DirectML调用NVIDIA GPU执行;团队还重写了7个不兼容算子,确保模型在双路径下行为一致。

技术流水线实现流式分句生成与合成解耦——大模型尚未完成全文输出时,前端已开始合成并播放前序短句,配合模型预热、确认语缓存、播放设备复用等工程措施,大幅压缩首字音频延迟。实测中,文字提交后DeepSeek首字延迟约0.83秒,首段音频生成约2.16秒,ASR识别约280毫秒。

交互层面,r4版强化免按键体验:用户喊出“小芽小芽”唤醒后可直接提问,系统自动截句识别并提交至大模型;回答结束可无缝追问,超时自动待机。支持自定义唤醒词、本地基础查询(如时间)、“再见”指令返回待机,并保留“停止/关麦”按钮保障可控性。默认外放半双工模式防反馈循环,耳机用户可试用实验性唤醒打断功能。

软件支持接入自部署大模型API,用户可替换默认DeepSeek服务实现私有化部署;配置明确提示需自行提供服务地址,并强调AI内容需家长审阅,鼓励将回答作为探究式学习起点。项目定位为开源教育工具原型,公开完整源码,适配Windows平台,主流独显笔记本即可发挥GPU优势,旨在提供低门槛、高可控的亲子对话媒介,推动边缘侧语音应用在教育场景落地。