7B模型靠工具调用逼近大模型推理
推荐指数 83.0 NO. 021 · 2026.09.16
upvotes291comments6
为什么值得看
ZGCM-1 是一个从头训练的 7B 开源模型，通过架构与系统协同设计、渐进式长上下文扩展和自主 agent 工作流，实现内部推理与外部工具调用的深度结合。对算力有限的团队来说，这是小模型突破参数瓶颈的务实路径，256K 上下文也覆盖了复杂文档分析场景。
媒体预览
编辑判断
小模型做数学和工具调用的主流思路是蒸馏大模型或复用现有权重，ZGCM-1 选择从头训练且强调"不能被动记忆，必须主动调用工具"，这个设计哲学跟 Qwen2.5-Math、DeepSeekMath 等蒸馏路线形成鲜明分野。256K 上下文不是炫技，而是支撑 agent 在多轮工具调用中保持连贯性的基础设施，这点在开源 7B 档很少见。
论文提到"autonomous agent workflows"作为训练阶段的一部分，暗示他们可能用了类似 AlphaProof 的自我对弈或环境交互来生成训练数据，而非静态 corpus。如果代码和训练数据完全开源，这将是验证"小模型+工具"能否替代部分 70B 模型场景的关键基准。
最该关注的人群：在端侧或 API 成本敏感场景做 agent 落地的团队，以及研究训练阶段融入 tool use 是否比后训练微调更稳定的学术研究者。