如果人工智能能够预见自己的未来会怎样？虽然无法完美预测，但只需稍微窥探一二。DeepSeek 在他们最新的研究工作中完成了一项令人惊叹的壮举。当你要求 AI 重写一封棘手的邮件时，它通常是一个字或一个 token（词元）地回答你。这种方式可能会相当缓慢。那么，为什么不一次性输出多个字，比如整整一句话呢？这样会快得多。而这将是一个改变游戏规则的创新，因为它能将许多缓慢的 AI 系统提升为可用状态，甚至可能让你口袋里的手机也能流畅运行。
然而现实是行不通的。一个大型智能 AI 就像一位资深编辑，才华横溢但成本高昂。如果你让它一个字接一个字地写五个字，它仍然需要思考五次，既慢又贵。那该怎么办呢？解决方案出乎意料地巧妙：雇佣一位初级写手。这位初级写手能快速写出接下来的几个字，当然这些字并不总是准确的。于是你请资深编辑来验证它们。编辑会看着说：“对，对，对，不，不。”第一个“不”之后的所有内容都会被丢弃。如果初级写手猜对了，我们就能以低成本快速得到这五个字。太棒了！我们将此称为推测解码（Speculative Decoding）。
但别急，这里有个问题。这位写手经验不足，经常出错。比如它会忘记事情，或者开始一个短语却接上了另一个不相关的结尾。我不想让这位小写手失业，所以 DeepSeek 推出了一项名为 DeepSpark 的惊人新技术，通过三个新技巧来改善这种合作关系。第一，DeepSeek 给初级写手增加了一点微小的记忆功能，让它不至于什么都忘光。有了这个机制，一个草稿中的词可以影响下一个词的生成。不需要拥有巨大的大脑，只需要足够让这几个字不至于分崩离析即可。
第二，你必须意识到有些词注定是失败的。如果我们问：“嘿小 AI，我们住在哪个星球上？”如果答案以“千层面”（lasagna）开头，我想你完全可以不看后面的内容直接丢弃。虽然……嗯，那确实挺好吃的。在这里，DeepSpark 会估算哪些词不太可能存活下来，从而为资深编辑节省处理这些无效内容的时间。第三，DeepSpark 还会询问：“现在检查这个额外的词是否值得花费宝贵的 GPU 时间？”
有时候答案是肯定的。如果我们讨论的是代码或数学，下一个词可能非常可预测，写手在这些方面表现出色。但是，如果提示语是开放式的，比如写一篇有趣的婚礼致辞……（笑声）呃，这里有成千上万种好答案和坏答案。在这种情况下，草稿变得高风险的速度会快得多。也许前几个词没问题，但后面的词更有可能分崩离析。“女士们先生们，今天我们聚集在这里庆祝古老的土豆。”不，绝对不行。而 DeepSpark 能提前预测到这一点。
这太神奇了。那么，所有这些魔法带来了什么？各位学者请坐稳扶好，因为他们报告称在自家的 Flash 和 Pro 模型上实现了 60% 到 85% 的速度提升。这是与他们旧的生产环境多 token 预测基线 MTP-1 相比得出的结果。哇哦。但是，各位学者请注意，论文中还有一个数字显示吞吐量提升了 661%。这是怎么回事？那并不是日常的平均提速，它只出现在旧 MTP-1 系统资源耗尽的极端案例中。我只是想帮你们避免一些陷阱。在实际应用中，我们获得的是 60% 到 85% 的提升，这已经非常惊人了。
最棒的部分在于：原则上它可以被整合到许多 AI 助手中，但这并非从外部 magically（神奇地）实现。你需要一个匹配的草稿模型、对目标模型概率的访问权限，以及能够高效执行此操作的服务系统。因此，这再次证明它并不是一个新的更聪明的 AI 模型。正因如此，你没有看到很多关于它的头条新闻相反，它让忙碌的大脑变得更快，而我们免费获得了这一切。这是开放科学的胜利，我认为这太棒了。生逢此时，何其有幸！
然而，这项技术并非完美无缺。第一，它不是一个可以放入任何封闭 API 的魔法开关，我们刚才已经提到了这一点。但它确实赋予了一种能稍微窥探未来的 AI 能力。第二，收益取决于工作负载。代码和数学方面效果极佳；开放式聊天则没那么好。这就是“千层面”反击的地方。我经常使用 Lambda 在几分钟内复现 AI 研究论文，它也非常适合训练你自己的模型或微调现有模型。运行推理、文本转图像或视频都轻而易举。运行 DeepSeek 聊天机器人或智能体则超级快速且可靠。Lambda 为你提供强大的 Nvidia GPU，让你运行自己的实验。我测试我所报道论文中的想法，片刻之后就能看到结果。太爱了！
认真地说，现在就去 lambda.ai/papers 试试看吧。