并行到底：用推测解码超越单Token生成
Parallel All the Way Down: Beyond Single-Token Generation with Speculative Decoding
摘要
投机者（Speculators）与 vLLM 现已支持 P-EAGLE、DFlash 和 DSpark 三种并行草稿算法，用于 LLM 推理中的投机解码（speculative decoding）。这些算法突破了顺序 token 生成方式，旨在提升推理速度、简化实现并增强可扩展性。
投机者（Speculators）与 vLLM 现已支持 P-EAGLE、DFlash 和 DSpark——三种并行草稿算法，它们突破了顺序 token 生成方式，为 LLM 推理提供更快、更简单且更具可扩展性的投机解码（speculative decoding）。
译自 vLLM · 官方博客 · 录于 二〇二六年七月二十八日