LoCo让推理模型学会"适时闭嘴"
推荐指数 75.0 NO. 028 · 2026.11.05
upvotes65comments6
简介
LoCo通过局部偏好学习训练模型判断何时停止思考，在数学和代码任务上大幅缩短输出长度，同时保持甚至提升准确率。对推理模型部署成本敏感的企业，这是直接可用的压缩路径。
媒体预览
编辑判断
当前推理压缩的主流做法是对完整轨迹做后处理，比如截断或蒸馏，但问题是模型本身已经"想多了"。LoCo的巧妙之处在于把停止信号内嵌到每一步的局部决策中，从根上减少冗余思考。
实验显示在AIME数学任务上输出token减少50%以上，准确率反而微升，说明大模型普遍存在系统性过度推理。论文提到训练只需在现有偏好数据上加一个局部奖励头，不需要重新标注。
代码和模型权重尚未开源，但方法实现门槛不高，有SFT基础设施的团队可以较快复现。建议关注HuggingFace仓库动态，或基于Qwen-7B/14B推理版本自行尝试。