35B模型靠Agent逼近万亿参数性能
推荐指数 84.0 NO. 024 · 2026.07.01
upvotes65comments2
为什么值得看
Agents-A1 用 35B MoE 架构通过长程轨迹扩展和异构Agent能力扩展，在推理任务上达到万亿级大模型水平。这对算力受限的团队是重要信号：模型规模不再是唯一路径，Agent化训练策略可能成为新范式。
媒体预览
编辑判断
这篇论文的取巧之处在于把"模型能力"和"任务完成能力"做了切分——万亿参数模型的优势本质上是能处理更复杂的长期任务，而非单步推理更强。Agents-A1 用三阶段训练（SFT→领域教师模型→多教师蒸馏）把长程规划能力压缩进了小模型，这其实是把 AutoGPT 那套"试错-迭代"的范式内化了。
关键问题是工程成本：长程轨迹数据从哪来？论文提到的"知识-行动基础设施"如果是自建的，复现门槛会很高。目前 upvote 65 但评论仅 2 条，说明社区还在观望代码是否开源。如果代码和训练数据 pipeline 放出，这会是今年小模型逆袭路线的重要参考；如果只有论文，价值会打折扣。