块扩散模型加速大模型推理

投机解码的瓶颈一直在于 draft 模型的质量与速度权衡——Medusa、Eagle 这类方法虽然有效，但训练成本高或依赖特定架构。DFlash 用块扩散的思路把并行度拉起来，关键是它做到了"轻量"，从支持模型列表看已经覆盖了 MoE 和 dense 两种主流架构。

如果你在用 vLLM 或 SGLang 做推理服务部署，可以重点测一下 DFlash 的 acceptance rate 对比 Eagle-2 的表现，特别是在长序列场景下扩散模型的优势会更明显。目前 3.4k star 且刚上 Trending，说明社区关注度在快速爬升。