零数据多模态模型自我进化新范式
推荐指数 73.0 NO. 030 · 2026.10.31
upvotes148comments3
简介
A-RSI 通过监测学习信号衰减来自动刷新训练任务，并用可独立验证的程序生成答案替代模型自举的监督信号，实现无需外部标注的递归自我提升。对想降低数据标注成本的 AI 团队有直接参考价值。
媒体预览
编辑判断
现有自提升方法如 STaR、Self-Reward 普遍依赖模型自身输出的多数投票或自一致性来构造监督信号，本质上是"自己考自己"，容易陷入确认偏误。A-RSI 的关键区别在于用程序执行结果作为外部验证器，把监督信号从"模型认为对"变成"程序能跑通"，这在代码生成、数学推理等可验证领域尤其有效。
实验显示在 MATH 和 GSM8K 上均有提升，但论文未披露具体训练成本。如果开源，建议优先在代码补全、SQL 生成等已有执行环境的场景试水，验证信号衰减检测机制是否比固定轮次重训更省算力。