DSpark：投机解码加速LLM推理

投机解码的核心瓶颈一直是草稿模型命中率与验证开销的权衡，Medusa 和 Lookahead 等方案通过树状注意力或 n-gram 缓存来缓解，但草稿生成仍是串行瓶颈。DSpark 的改进点在于重新设计了 draft-target 的交互粒度，可能采用了 batch-level 或 layer-level 的投机策略而非逐 token 投机，这在高 batch size 场景下收益更明显。

目前 vLLM 和 TensorRT-LLM 的投机解码实现对小模型（<7B）做 draft 的支持较好，但大模型服务中草稿模型的显存占用和调度复杂度仍是落地障碍。如果 DSpark 开源了与 vLLM 的集成插件，推理团队可以用 A/B 测试快速验证在自己的模型上的加速比，这比论文本身的理论贡献更值得关注。