端侧多模态小模型突破35B性能
推荐指数 66.0 NO. 003 · 2026.10.17
likes841downloads17,553
为什么值得看
MiniCPM-V-4.7-35B-A3B 是 OpenBMB 推出的端侧多模态模型,以仅 3B 激活参数实现 35B 级别性能,视觉理解能力对标 GPT-4V。对需要在手机、IoT 设备部署多模态能力的团队,这是目前性价比最高的选择之一。
编辑判断
端侧多模态之前基本是苹果的私有游戏,Android 阵营一直缺能打的开源方案。MiniCPM-V 这条线从 2.0 开始就在刷榜,这次 4.7 版本用 A3B(激活 3B)的 MoE 架构把 OCR、图表理解做到可用级别,直接威胁的是之前不得不上云的视觉 RAG 场景。
跟 Qwen2-VL、InternVL2 这些同量级模型比,MiniCPM-V 的推理速度在骁龙 8 Gen3 上实测快 40% 左右,而且支持 180 万像素高清图输入。做智能硬件、车载座舱、工业巡检相机的团队,如果还在用云端 API 跑视觉理解,现在可以重新算一笔账了。