网通社科技快报
SiMa.ai发布Palette 3.0 边缘文本生成提速3.5倍并集成模型浏览器
SiMa.ai近日正式发布Palette 3.0开发工具套件,聚焦边缘AI的工程化落地能力升级。核心改进包括:文本生成推理速度较前代提升3.5倍,该性能增益源于其专有的Simulated Annealing编译优化技术与动态内存调度策略,无需依赖硬件算力堆叠;同时内存占用降低约22%,并支持细粒度任务优先级配置,保障关键响应路径不被后台进程阻塞。
新版本集成“模型浏览器”功能,允许开发者在本地环境中浏览、筛选与测试适配不同芯片平台的量化模型,覆盖Qwen、DeepSeek、Llama等主流开源大模型的轻量化版本,可直观对比吞吐量、延迟与精度,并一键导出部署配置,大幅缩短模型选型到上线周期。
此次升级明确面向工业级离线场景,服务于机器人、无人机、工业相机等资源受限终端,解决多任务共存下的实时性与可靠性难题。随着国产端侧模组(如移远SP300BF-AP)加速普及及中国移动“智能网”战略推进,Palette 3.0正成为连接模型能力与硬件落地的关键桥梁。SiMa.ai下一步将增强对视觉-语言联合模型(VLA)支持,并探索与ROS 2等工业中间件深度集成,推动边缘AI从‘能跑模型’迈向‘跑好模型’阶段。
新版本集成“模型浏览器”功能,允许开发者在本地环境中浏览、筛选与测试适配不同芯片平台的量化模型,覆盖Qwen、DeepSeek、Llama等主流开源大模型的轻量化版本,可直观对比吞吐量、延迟与精度,并一键导出部署配置,大幅缩短模型选型到上线周期。
此次升级明确面向工业级离线场景,服务于机器人、无人机、工业相机等资源受限终端,解决多任务共存下的实时性与可靠性难题。随着国产端侧模组(如移远SP300BF-AP)加速普及及中国移动“智能网”战略推进,Palette 3.0正成为连接模型能力与硬件落地的关键桥梁。SiMa.ai下一步将增强对视觉-语言联合模型(VLA)支持,并探索与ROS 2等工业中间件深度集成,推动边缘AI从‘能跑模型’迈向‘跑好模型’阶段。