端侧小模型MiniCPM5-2B发布
推荐指数 49.0 NO. 009 · 2026.09.10
likes874downloads2,879
为什么值得看
面壁智能推出2B参数的轻量级语言模型，主打端侧部署。对于需要在手机、IoT设备上跑本地LLM的团队，这是目前最值得测试的基座之一。
编辑判断
端侧小模型的竞争已经从参数竞赛转向工程落地能力。之前这个赛道主要是Google Gemma 2B和微软Phi-2的天下，但中文场景一直是短板。MiniCPM系列之前靠4B模型在中文评测上压过Llama 2 7B，这次5代直接缩到2B，明显是冲着手机NPU实时推理去的。
如果你在做AI硬件或端侧Agent，重点测两个指标：首token延迟和量化后的精度衰减。面壁的模型 historically 在INT4量化下表现比Gemma稳定，但具体还得看 MTK 和高通新芯片上的实际吞吐。建议直接拉它跟Gemma 2 2B在相同功耗预算下跑长文本摘要，这个数据对硬件选型更有参考价值。