网通社科技快报
面壁开源MiniCPMV 4.7 35B MoE模型iPhone断网3G内存运行
面壁智能联合OpenBMB正式开源多模态大模型MiniCPM-V 4.7,包含35B-A3B(MoE稀疏激活架构)与1B轻量版两个版本。其中35B-A3B总参数350亿,前向推理仅激活约30亿参数,实现在iPhone 17 Pro Max等设备上断网运行,内存占用约3GB,解码速度最高达13 Token/s以上。该模型在MMBench得分为91.72,OmniDocBench v1.6达94.24分,显著领先同级端侧模型;理科任务MMMU为80.22、MathVista为88.00,视频理解Video-MME与LongVideoBench分别为76.40与68.90。实测中可离线解析拿破仑远征路线图中的-30° Réaumur并完成单位换算,输出-37.5°C。其对视觉token压缩鲁棒性强,压缩比16倍时精度损失不足1%。1B版本实际参数约1.3B,专注OCR、数学推理与短视频理解,在同尺寸模型中居前列。纯文本能力方面,CMMLU中文知识评测90.21分,τ2-Bench工具调用84.65分,为当前端侧最高水平。技术上采用动态专家路由与LoRA微调,训练数据覆盖中文图文、科学图表、手写体等,强化非标准视觉输入理解。模型支持iOS与Android部署,提供Core ML/NNAPI适配工具链,权重已开放至Hugging Face与ModelScope,采用Apache 2.0协议允许商用。此举推动端侧多模态能力本地化落地,降低硬件成本门槛,适用于教育、医疗、工业巡检等高隐私与低延迟场景。