DSpark与MTP推测解码机制解析
本期视频深入探讨了DeepSeek V4 Flash在本地部署中的性能优化，重点对比了MTP（Multi-Token Prediction）与新的DSpark推测解码器。在模型下载界面中，用户可以选择基于预览版的MTP版本或新的DSpark版本。当在推理控制引擎中启用推测解码时，MTP通常预测未来几个token，而DSpark则尝试一次性预测五个未来的token。虽然这种激进的策略听起来有些疯狂，但它并非像某些极端案例那样不可控。通过在主模型中验证每一个预测的token，系统保证了数学上的准确性。尽管内部随机数导致不同解码器生成的具体文本可能略有差异，但所有输出均符合模型的最高概率逻辑。
DSpark在短提示词下的性能权衡
尽管启用了DSpark，但在处理特定短提示词时，生成速度反而略慢于基线。实测数据显示，启用DSpark后的速率为28.99 tokens/s，而未启用的基线速度为30.5 tokens/s。这种微小的性能倒退仅发生在最坏情况下的短文本生成中，对于熟悉操作的用户而言，这种差异可以忽略不计。因此从通用角度看，启用DSpark仍然是一个值得考虑的选择，因为它在大多数场景下能带来收益。
"28.99 tokens a second. So even with DSpark enabled, it was slower... generically you're only losing one tokens a second at the worst case kind of scenario."
长代码生成中的显著加速效果
为了验证DSpark在完整生成长度下的表现，测试了生成约4,900 tokens的Tetris HTML游戏代码。基线速度为30 tokens/s，启用旧版MTP后提升至36.6 tokens/s。当切换到DSpark时，速度进一步跃升至42 tokens/s。这一提升幅度约为6 tokens/s，且生成的代码质量与基线版本几乎完全一致。随后进行的优化测试显示，在纯语法处理阶段，速度甚至飙升至50至75 tokens/s之间。这种加速主要得益于对预测token置信度的优化处理，避免了因低阈值导致的频繁回滚和重新计算。
"Now with DSpark enabled, look at that. We shot up to 42 tokens a second... It's between pretty much 50 to 75 toggles a second."
置信度阈值优化与内存开销分析
在Angry Birds代码生成测试中，基线速度为31 tokens/s（5,000 tokens），MTP提升至35 tokens/s，DSpark达到39 tokens/s。通过引入置信度阈值优化（Confidence Levels），最终速度提升至43 tokens/s。该机制通过设定接受预测token的置信度门槛，减少了错误回滚次数，从而在数学上保证由主模型验证的同时提升了效率。然而DSpark并非免费午餐：相比MTP仅增加1层（几GB），DSpark包含3个额外层，导致存储占用增加约10 GB。内存使用量从基线的147 GiB上升至160 GiB。尽管有额外的内存开销，但在数学或编码等特定任务中，这种配置能带来约50%的性能提升，峰值速度甚至可达80 tokens/s。
结论
DSpark在长文本生成中展现出显著优势，相比基线提升约50%速度（如42-43 tokens/s），且通过置信度阈值优化进一步减少回滚，保证输出质量与基线一致。其短板在于短提示词场景下可能略慢于MTP或基线，且需额外占用约10GB内存（总增至160GiB）。该方案适用于对长代码或数学任务有高性能需求的本地部署，但受限于内存资源；对于短文本生成，MTP仍是更轻量且稳定的选择。