面壁MiniCPM-V4.7开源，35B参数MoE模型仅占3G内存，iPhone断网实测每秒13Token

面壁智能与OpenBMB近日正式开源多模态大模型MiniCPM-V 4.7，标志着端侧大模型进入新阶段——首次实现350亿参数规模的MoE（Mixture of Experts）架构在消费级移动设备上的高效部署。该模型在iPhone 17 Pro Max等旗舰手机上可断网运行，仅占用约3GB内存，推理速度达每秒13 Token以上，刷新了端侧多模态模型的性能上限。

核心突破在于其35B-A3B版本：总参数量为350亿，但采用MoE稀疏激活机制，每次前向推理仅激活约30亿参数（即3B），大幅降低计算与内存开销。这一设计使其得以在iOS与Android设备上流畅运行，无需依赖云端服务。对比此前同类端侧模型，其在保持高精度的同时显著压缩资源占用——传统35B全参数模型通常需15GB以上显存，难以部署于手机；而MiniCPM-V 4.7通过结构优化与量化压缩，在3GB内存约束下仍维持高性能输出。

实测场景中，研究团队在断网状态下将拿破仑远征俄国路线图上传至iPhone 17 Pro Max，提问：“图中记录的最低气温是多少摄氏度？出现在哪一天？请说明换算过程。”模型在不到1分钟内定位到图中标注的“-30° Réaumur”，识别日期为1812年12月6日，并依据1 Réaumur = 1.25°C完成换算，输出“-37.5°C”。整个过程完全离线完成，体现其对复杂图表信息的精准解析能力。

速度方面，经针对性优化后，该模型在相同硬件上的解码吞吐量从原始35B模型的约2 Token/s提升至8–12 Token/s，最高实测达13 Token/s以上。以路边停车标志图像问答为例，优化前后响应时间差异显著，用户感知为“答案唰唰往外蹦”，符合“丝滑”体验标准。

性能评估覆盖通用视觉、理科推理、文档理解、视频分析及纯文本能力五大维度。在MMBench（多模态综合评测）中，35B-A3B得分为91.72；在专攻文档理解的OmniDocBench v1.6上斩获94.24分，较第二名高出12分以上，展现出极强的OCR与结构化信息提取能力。理科题方面，MMMU得分为80.22，MathVista达88.00；视频理解任务Video-MME与LongVideoBench分别取得76.40与68.90分。

尤为关键的是其对视觉压缩的鲁棒性：当视觉token压缩比提升至16倍时，MMBench仅从91.72微降至90.87，OCRBench从91.20降至90.40，精度损失不足1%，证明其在算力受限场景下仍能有效保真。

除35B-A3B外，MiniCPM-V 4.7还提供1B轻量版，实际参数约1.3B,主打极致轻量化，在OCR、数学推理与短视频理解任务中处于同尺寸模型第一梯队。该版本更适合中低端设备或对延迟敏感的应用场景。

在纯文本能力上，该模型同样表现不俗：中文知识评测CMMLU得分为90.21，工具调用能力τ2-Bench达84.65，均为当前端侧模型中最高水平。这意味着它不仅擅长“看图说话”，还能进行逻辑推演、公式计算与外部工具协同，具备实用级智能助手潜力。

技术路径上，MiniCPM-V 4.7延续了MiniCPM系列的端云协同理念，但此次更聚焦“端侧原生”能力构建。其训练数据涵盖大量中文图文对、科学图表、表格与手写体文档，强化对非标准视觉输入的理解；推理阶段采用动态专家路由与低秩适配（LoRA）微调策略，在有限算力下最大化模型表达力。

行业影响层面，该模型开源为终端厂商提供了新的AI能力集成选项。过去，手机端多模态功能多依赖云端API，存在延迟高、隐私风险与网络依赖等问题；MiniCPM-V 4.7使本地化、高精度多模态推理成为可能，尤其适用于教育、医疗、工业巡检等对数据安全与实时性要求高的场景。

此外，其3G内存占用特性也缓解了硬件成本压力。随着全球DRAM价格波动，终端厂商面临内存配置升级带来的BOM成本上升。能在3GB内存运行35B级模型，意味着中端机型亦可搭载类似能力，无需堆料即可提升AI体验。

值得注意的是，该模型目前支持iOS与Android平台部署，官方已提供完整推理框架与量化工具链。开发者可基于Hugging Face或ModelScope直接下载权重，结合Core ML或NNAPI进行适配。开源协议为Apache 2.0，允许商业使用。

在端侧大模型竞争日益激烈的背景下，MiniCPM-V 4.7的发布凸显了国产模型在工程落地层面的快速迭代能力。相比国际同类方案（如Google Gemini Nano、Apple MM-LLM），其在中文场景适配、文档理解深度与资源效率上形成差异化优势。

未来，随着更多轻量化技术（如动态稀疏化、神经架构搜索）融入，端侧多模态模型有望进一步缩小与云端模型的性能鸿沟。而MiniCPM-V 4.7作为首个在手机上流畅运行且不牺牲性能的开源MoE模型，为这一趋势提供了关键验证节点。