06:00
DeepSeek投机解码框架DSpark深度拆解：半自回归设计与置信度调度如何突破推理瓶颈
DSpark: Semi-Autoregressive Drafting and Confidence-Scheduled Verification for Speculative Decoding
本文是DeepSeek刚开源的投机解码框架DSpark的深度技术解析。作者从投机解码的数学原理（拒绝采样、加速比公式推导）讲起，系统梳理了从传统自回归草稿（Speculative Decoding/Sampling、BiLD、Self-Speculative）、树状投机（SpecInfer）、多头/特征层方法（Medusa、Lookahead、EAGLE系列）、MTP训练集成（Meta MTP、DeepSeek-V3 MTP），到并行扩散范式（DFlash、DDTree、JetSpec）的完整演进脉络。在此基础上，重点剖析DSpark的两个核心创新：1）半自回归生成（Semi-Autoregressive Generation）：并行主干（DFlash）一次前向输出基础logits，轻量马尔可夫头/RNN头串行注入依赖，仅增加约1%起草时间却提升30%草稿质量；2）置信度调度验证（Confidence-Scheduled Verification）：训练置信度头预测每位置条件接受概率，经序列化温度缩放校准后，硬件感知调度器将验证长度选择形式化为全局吞吐量最大化问题，在高并发下动态裁剪低置信度后缀。文章还揭示了生产部署中的关键适配：两步延迟的异步调度机制配合CUDA Graph回放，解决了因果性与硬件锯齿性能曲线间的冲突。DSpark已在DeepSeek-V4生产环境中替代MTP-1，在中等SLA下提升50%以上聚合吞吐量，严格SLA下维持基线无法达到的交互性水平。本文代码级细节丰富（包含训练代码逐行解析），适合一线推理系统工程师与AI Infra从业者深读。