1.7B模型塞进手机跑256K上下文
推荐指数 66.0 NO. 012 · 2026.10.30
votes136comments8
简介
Liquid AI发布第三代Liquid Foundation Models，六个2B级开源模型共享同一骨干网络，覆盖文本、视觉、音频、多模态和决策任务。1.7B文本模型4-bit量化仅1GB，端侧可跑且单卡可微调，对想部署本地Agent的开发者是实质性选项。
编辑判断
端侧小模型赛道之前被Phi、Gemma、Qwen2.5占据，但多模态统一骨干一直是短板——开发者往往要为视觉、音频任务分别加载不同模型，内存和延迟都扛不住。LFM3的共享backbone设计意味着一个1.7B权重可以同时处理文本+视觉+音频输入，这对机器人、AR眼镜这类算力严格受限的场景很关键。
不过"256K上下文"在1.7B参数上的实际有效利用率存疑，小模型的KV cache压力会被放大，需要等社区在真实长文档任务上验证。如果你在做本地Agent或边缘硬件选型，建议先跑它的Hugging Face权重，重点测多轮对话后的context retention，而不是只看纸面参数。