范式智能联合睿思智联开源模域ModelSphere，一站式AI部署平台支持昇腾、海光DCU等国产芯片

10月16日，范式智能技术集团有限公司（股票代码：6682.HK）联合北京睿思智联科技有限公司正式上线开源一站式生产级AI部署平台“模域”（ModelSphere）。该平台采用Apache 2.0协议全面开源，GitHub仓库已开放访问（https://github.com/modelsphere/modelsphere），面向企业用户免费提供，旨在解决大模型规模化落地过程中的工程化瓶颈。

随着大模型从技术验证阶段迈入商业应用深水区，企业普遍面临三大现实挑战：其一，异构算力资源分散，华为昇腾、海光DCU、摩尔线程等国产芯片生态尚未统一，底层适配成本高；其二，模型部署流程复杂，需反复调试环境、编译驱动、配置服务，开发周期长；其三，生产环境稳定性与性能调优困难，如KV缓存管理、负载均衡、断流续写等企业级能力缺失，导致推理服务可用性不足。模域的定位正是填补这一“最后一公里”的工程鸿沟——它不替代vLLM、SGLang等单机推理引擎，而是聚焦集群级纳管与运维优化，形成“推理引擎+部署平台”的协同技术栈。

平台核心能力围绕四大方向构建。首先是部署简化与服务高可用。模域提供图形化操作面板与预置部署模板，开发者无需编写大量环境配置脚本即可快速搭建推理服务；同时内置自动弹性扩缩容、PD分离部署、三级KV缓存、高可用负载均衡及服务断流自动续写机制，保障模型在7×24小时生产环境中稳定运行。以某金融客户实测为例，在突发流量峰值下，服务中断时间由传统方案的分钟级降至秒级内自动恢复。

其次是自动化性能调优。平台集成AutoTune智能排期策略与硬件感知型负载均衡调度算法，可基于线上请求特征动态调整模型并发策略与资源分配。官方测试数据显示，系统极限吞吐效率较未优化基准提升约285%，首次响应延迟显著降低，整体性能达到原水平的4倍。这意味着企业可在不增加硬件投入的前提下，释放现有算力的全部潜能。

第三是异构芯片统一调度。模域融合自研EngineX推理引擎，实现对多类国产加速卡的深度适配与混合调度。目前明确支持华为昇腾910B/310、天数智芯BI系列、摩尔线程MTT S系列、海光DCU DCU810等主流国产芯片，用户无需为不同硬件重写底层逻辑或适配代码。这一能力对信创场景尤为关键——在政务、能源、交通等强合规要求领域，企业可基于国产化底座快速构建端到端AI服务能力。

最后是主流模型快速适配。模域团队持续跟踪开源社区迭代，已完成对DeepSeek-V4/V4-Flash、通义千问Qwen系列、Kimi、MiniMax、GLM等头部开源模型的性能优化与部署封装。新模型发布后，通常可在数日内完成适配并推送至生产环境，大幅缩短从模型更新到业务上线的周期。

从技术分工看，模域并非试图“重复造轮子”，而是与现有开源生态互补。例如，vLLM负责单节点内PagedAttention、连续批处理等底层优化；SGLang则强化函数调用与工具集成能力；而模域专注于跨节点的请求路由、统一KV缓存池管理、服务质量（QoS）驱动的扩缩容策略及全链路监控告警。这种分层协作模式降低了企业技术选型的耦合风险，也避免了“一个平台包打天下”的工程陷阱。

实际使用中，模域的控制台界面清晰呈现服务状态、资源利用率与集群拓扑。如图所示，用户可直观查看当前部署模型数量（28个）、总配置实例数（127）、可用服务数（1），以及GPU分配率（38%）、节点在线率（100%）等关键指标，并支持按命名空间、集群、节点维度进行细粒度筛选与操作。

值得注意的是，模域的开源策略具有明确的产业导向。范式智能作为港股上市企业，此次联合睿思智联推动平台开源，意在构建国产AI基础设施的公共能力层。一方面降低中小企业接入大模型的技术门槛；另一方面，通过汇聚社区反馈与贡献，加速完善对新兴芯片与模型的支持节奏。目前已有多家行业客户进入POC测试阶段，涵盖智能制造质检、医疗影像辅助诊断、金融风控等场景。

在国产算力生态加速成熟的背景下，部署平台的价值正从“可有可无”转向“不可或缺”。据IDC预测，2026年中国AI基础设施软件市场中，模型部署与运维管理类工具占比将升至23%，年复合增长率达41%。模域的出现，标志着国内厂商开始从“堆硬件”转向“提效率”，从“能跑模型”迈向“跑好模型”的新阶段。

开源不等于简单公开代码。模域的长期竞争力在于其持续演进能力：是否能快速响应新一代芯片指令集变更？能否兼容未来涌现的稀疏化、MoE等新型模型结构？这需要背后扎实的工程团队与开放的协作机制。目前项目已在GitHub收获58颗星标与6个Fork，社区活跃度初显。对于希望在国产化路径上稳健推进AI落地的企业而言，模域提供了一个值得评估的标准化选项。