LiquidAI 发布 1.7B 非 Transformer 架构小模型
推荐指数 54.0 NO. 007 · 2026.10.31
likes555downloads23,694
简介
LiquidAI 推出 LFM3-1.7B,采用液态神经网络(Liquid Neural Networks)架构而非标准 Transformer,在 23K+ 下载量下获得社区关注。小模型赛道正探索 Transformer 替代架构,对边缘部署和成本敏感场景有参考价值。
编辑判断
非 Transformer 架构的小模型之前最成功的案例是 Mamba 系列,但 Mamba 的问题是长文本稳定性不足。Liquid Neural Networks 起源于 MIT 的机器人控制研究,核心优势是连续时间建模带来的动态适应性,之前主要用在无人机导航这类时序任务上。
这是 LNN 首次被验证在语言任务上的可扩展性,如果 1.7B 能在推理效率上比同尺寸 Transformer 有显著优势,做端侧 AI 的团队需要重新评估架构选型。建议先跑一下它在你的具体任务上的延迟和内存占用,不要只看 benchmark 分数。