OPD蒸馏输出膨胀的根因找到了

做模型蒸馏的团队通常把注意力放在KL散度、温度系数这些显性参数上，这篇论文指出一个被忽略的隐性变量：即使声明的stopping set相同，师生模型对功能等价EOS token的概率分配可能完全不同。这解释了为什么很多团队蒸馏后模型突然变话痨，却找不到原因。

修复方案比问题本身更简单：不需要重新训练，在decoding阶段把功能等价的EOS token做概率共享即可。Qwen3、Llama、Gemma三家都验证有效，说明这是跨架构的普遍现象。

如果你正在做端侧小模型部署且被输出长度不稳定困扰，优先检查这个token对齐问题，可能比调reward model更快见效。