1GB内存跑256K上下文端侧模型
推荐指数 74.0 NO. 026 · 2026.10.28
score5comments0
简介
LiquidAI发布LFM3-1.7B,采用全新三混合架构,4-bit量化仅需1GB内存即可支持256K上下文,专为端侧Agent场景优化。对需要在手机、笔记本上部署长上下文Agent的开发者,这是目前极罕见的硬件友好选项。
编辑判断
当前端侧长上下文几乎被Qwen2.5和Phi-4垄断,但两者在128K+场景下的内存占用仍是痛点。LFM3的三混合架构(状态空间+Transformer+线性注意力)不是新名词,但LiquidAI声称在1.7B规模上做到了256K,这如果属实,意味着状态空间模型在中小参数上的效率优势终于被兑现。
真正值得关注的是其Agent训练配方:直接针对Hermes Agent、OpenClaw等 harness 优化,而不是通用聊天。这说明团队押注端侧Agent是下一个爆发点,而非纯聊天或代码场景。如果你正在做手机端个人助理或离线工作流Agent,这个模型值得优先测试长上下文保持率和工具调用稳定性。