蚂蚁百灵开源Ling-3.1-flash，560B参数模型部署降至4卡,每百万Token仅0.19美元

10月15日，蚂蚁集团旗下百灵大模型正式开源Ling-3.1-flash，这是继Ling-3.0系列后推出的又一重要版本。该模型延续混合线性架构设计，总参数量约560B，但每个Token仅激活约25B参数，兼顾高能力与高效能；最大上下文长度支持达100万Token，为长文档处理与多轮任务链提供基础支撑。

在公开基准测试中，Ling-3.1-flash展现出面向真实业务场景的实用能力。办公任务评测GDPVal-AA V2.1中得分为1673（ELO），显著高于多数同类开源模型；在专业医疗评估HealthBench Professional中得分65.35；软件工程基准FrontierSWE与终端操作基准Terminal-Bench 4.0中亦稳定输出高质量结果。这些指标表明，模型不仅在通用语言理解上达标，更能在需逻辑连贯、知识整合与反馈迭代的复杂工作流中完成闭环任务——例如整理分散资料生成汇报材料、依据零散症状梳理病史问题、阅读旧代码后编写新功能并基于测试结果自动修正。

百灵团队将“智效比”作为核心设计目标，即智能能力与推理效率的平衡。在Artificial Analysis的统一评测框架下，Ling-3.1-flash智能指数为41，输出速度约210 Token/秒，处于当前开源模型中较快区间。尤为关键的是其成本结构：混合调用价格约为每百万Token 0.19美元，显著低于主流闭源API服务（如GPT-4 Turbo约5美元/百万输入+15美元/百万输出），为高频调用场景提供可落地的经济性方案。

为降低部署门槛，百灵对模型进行了针对性压缩优化。针对路由专家层（routed experts）采用MXFP4量化，密集层（dense layers）保留block-FP8精度，整体权重体积从原534GB降至292GB。在NVIDIA Hopper架构GPU测试环境中，服务部署所需显卡数量由8卡减少至4卡，使具备中等算力资源的团队也能在自有服务器上运行该规模模型。

开源策略方面，Ling-3.1-flash已在Hugging Face与ModelScope平台开放权重下载，支持社区二次适配与验证。值得注意的是，Ling-3.0系列此前已实现跨设备部署实践：服务器端可在单台NVIDIA DGX Spark上驱动编码智能体开发小游戏；个人电脑端，16GB内存的MacBook Air可运行Ling-3.0-tiny构建本地助手；移动端则有Galaxy A32 4G与小米14T Pro分别通过Tiny GGUF和PocketPal实现轻量级本地对话。近30天内，Ling-3.0系列在Hugging Face下载量接近100万次，社区衍生出Flash GGUF、Tiny GGUF、Flash MLX 4bit等多种适配版本，反映出开发者对可部署、可定制开源模型的强烈需求。

与单纯追求参数规模不同，百灵系列始终聚焦“真实可用”——即模型能力能否直接嵌入业务流程并交付结果。除通用版外，百灵已基于Ling-3.0-flash推出领域增强版本，如面向金融投研的Ling-3.0-flash-Fin与面向健康管理的Ling-3.0-flash-Sante，将通用能力转化为具体行业动作。此次Ling-3.1-flash开源，进一步压缩了从需求文档、代码仓库到生产环境的链路距离，使企业知识助手与代码助手能更高效地完成资料整合、内容生成与反馈修正的连续动作。

从技术路径看，Ling系列采用的混合专家（MoE）架构配合动态路由机制，是实现“大参数、小激活”的关键。560B总参数中仅约4.5%被单次推理激活，既避免了全参数加载带来的显存压力，又保留了模型容量优势。这种设计与DeepSeek-V3、Mixtral等主流开源MoE模型思路一致，但在推理效率与成本控制上做了针对性调优。结合其在终端操作与软件工程等需工具调用场景的表现，Ling-3.1-flash实质上已向“智能体基座模型”演进——不仅生成文本，更能协调工具、执行步骤、验证结果。

开源生态层面，百灵选择开放完整权重而非仅API接口，意在推动可审计、可定制、可私有化的AI基础设施建设。相比部分厂商仅提供黑盒服务，此举更契合金融、医疗等对数据主权与模型可控性要求严苛的行业需求。未来，随着Ling系列持续迭代，其在专业场景中的微调能力与工具集成深度或将成为区分开源模型实用价值的关键维度。

目前，Ling-3.1-flash尚未公布训练数据细节与具体许可协议，但其部署友好性与成本优势已引发社区关注。在大模型走向“降本增效”与“场景深耕”的阶段，此类兼顾性能、效率与可及性的开源模型，或将加速企业级AI应用从概念验证迈向规模化落地。