LLM 自管上下文省 59% 算力
推荐指数 78.0 NO. 013 · 2026.10.02
发布2026/10/01Score89Comments19
为什么值得看
CLM 让模型把上下文当作可自由读写的文件自主管理，无需外部策略干预。在 12 小时长任务和浏览任务上，用更少 FLOPs 显著超过现有 SOTA 上下文压缩方案，多 agent 场景天然兼容。
编辑判断
现有长上下文方案如 H2O、StreamingLLM 或商业 API 的滑动窗口，本质都是人类设计的启发式规则，模型被动接受。CLM 的颠覆性在于把控制权交给模型本身——它知道自己在解决什么问题，因此能自主决定保留推理链还是丢弃中间结果。
这篇论文的 zero-shot 实现方式很关键：用现有模型直接微调即可，不需要从头预训练。这意味着 7B 级别的开源模型很快会有社区实现的 CLM 版本，长文本 API 的定价逻辑可能被重写。
最值得跟进的信号是 BrowseComp-Plus 上 21.5% 的 FLOPs 降幅，搜索类 agent 的上下文膨胀是工程痛点，CLM 如果开源，Perplexity、Devin 这类产品的推理成本结构会直接受益。
社区反馈
意见分歧 19 条评论
核心争论：自管上下文是突破还是工程取巧，注意力成本与模块化谁更优
Wow. Context management is one of the big remaining hassles with modern LLMs so this could be big. The obvious complication is cache busting so it's also exciting they investigated solutions for that.
The biggest discovery might actually be that they ignored regular caching rules and kept invalid cache suffixes and it didn't hurt performance
I wonder how bad the performance would be if they plain ignored the whole rotary encoding dance and just back-filled precisely the parts of the cache that changed directly. Would it break the model? Confuse the model? Or would the model internally correct for it?