网通社科技快报

美团开源1.6万亿参数LongCat2.5 支持百万上下文与国产GPU部署

2026年11月9日,美团正式开源自主研发的LongCat-2.5大模型,总参数达1.6万亿,采用MIT协议允许免费商用与二次训练。该模型定位为面向长程智能体任务的原生多模态大模型,支持最长100万token上下文窗口,每个token激活约480亿参数。其核心创新在于架构原生融合多模态能力:视觉信号经残差向量量化处理为离散token,与文本共享主干参数,在统一语义空间协同完成理解与代码生成,避免传统两阶段结构的语义割裂。

训练层面,团队引入真实Agent失败轨迹作为可复现样本,结合partial rollout异步训练、动态过采样与跨checkpoint梯度校正机制提升学习效率;推理环境模拟断网、清除缓存等真实约束,并由LLM judge实时监督轨迹质量,抑制无效推理行为。推理端采用W4A4量化方案,专家权重与激活值同步压缩至4bit,依托INT4矩阵乘法单元执行,量化后性能接近FP16版本。

针对国产算力,模型深度适配显存不足80GB的国产GPU,通过模型分片、混合词表并行、MoonEP动态专家复制与零拷贝通信,使长序列SFT单卡吞吐量较DDP基线提升86%。在Program Bench、Terminal Bench v4.0、AutomationBench、BrowseComp及3DCodeBench等基准测试中,LongCat-2.5全面优于GPT-4.0与Claude-Opus-5;在Vision2Web与LongCatClawBench-MM评测中得分达80.2与72.1,领先第二名超5个百分点。该模型已上线Hugging Face平台,标志着国产‘国芯国模’组合进入实质性落地阶段。