DFlash 2据称将并行投机解码吞吐提升至自回归解码3.43倍

摘要与判断

帖文称，DFlash 2通过因果动态卷积和低秩候选转移机制，在保持并行计算的同时引入局部顺序信息。在Qwen3.8-27B上，其平均接受长度达到4.80，高于DSpark的3.62，最高推理吞吐达到普通自回归解码的3.43倍。该方案试图缓解并行起草中速度与Token依赖难以兼顾的问题。

Topics

引用和原文

• 大模型推理加速又出了一个新 SOTA：DFlash 2。 它是一个给大模型做投机解码的并行起草器。 简单说，正常的大模型一次只能生成一个 Token，DFlash 2 会提前一次猜
• 原文链接

Trace

Raw Item

raw_af6ebce391fd4e88

Processed Item

processed_1730bd24df6247e8

Source

source_x_maxforai

Cluster

查看所属簇

LLM Logs

llm_7a5c23c023e24232, llm_475347325a904c60, llm_2d28534fd6374e3a

Coze Loop

2bf027b1e7a32e8c1350b61115f90e8c