多模态模型自我进化无需教师模型
推荐指数 71.0 NO. 024 · 2026.10.02
upvotes187comments2
为什么值得看
UniEvo-VL 让单一多模态模型同时扮演教师和学生角色，通过自我批判反馈实现测试时自我改进。这对算力有限的中小团队意义重大，不再需要依赖更大的外部教师模型来做蒸馏。
媒体预览
编辑判断
当前多模态蒸馏的主流做法是用 GPT-4V 或 Gemini 当教师，成本高且存在分布偏移问题。这篇的核心 trick 是把同一个模型的 critique 作为 privileged information 喂给教师端，学生端只能看到原始问题，本质上是用模型自己的修正能力做数据增强。
在 MMMU 和 MathVista 上提升了 3-5 个点，不算惊艳但方法很轻量。论文提到训练只需要 8 张 A100，这对没有 API 预算的学术团队很友好。
代码和模型权重尚未完全开源，如果后续放出，建议关注其 critique 生成质量对最终效果的敏感度分析，这可能是复现的关键变量。