我在家里运行这个AI，它甚至能进行轻量级的模拟计算，生成如此精美的图像。>> [笑声] >> 看看这个。连焦散效果都做得很美味，天哪。它还能编写一款有趣的策略游戏，甚至能在Blender这类免费开源软件中构建完整的3D场景。它的能力令人惊叹，而且任何人都可以零成本拥有这一切——没错，完全免费且开源。
等等，这被称为GLM-5.3 Flash。加上它的大哥GLM-5.3，Flash最初曾以另一个名字低调发布，我意思是……>> [笑声] >> 什么？看看这个。它迅速在用户量上甚至超越了DeepSeek。我理解新奇感的作用，但这简直疯狂了。现在，各位学者请扶好你们的论文，因为如果给它一些思考时间，无论是大型还是小型模型在某些基准测试中都能接近Fable的水平。
在我看来，总体而言这感觉并不像达到了Fable级别，但在某些实验中，差距已经不远了。我不敢相信自己会这么说，但我认为在今年之内、或许只需几个月，Fable水平可能会被免费的AI系统超越。生逢此时何其有幸。那么，这种“黑魔法”是如何实现的？他们是怎么做到的呢？
亲爱的各位学者，这是由Károly Zsolnai-Fehér博士带来的《两分钟论文》。GLM-3.5 Flash的核心在于用更少的算力塞入更多的智能：每个令牌激活约20亿参数，而之前的层数高达92层。现在，层数大约减半了。它还掌握了一些新技巧：它不再将每个令牌与其他所有令牌进行比较，而是能将附近的上下文总结为一个小型包。
他们称之为线性注意力（linear attention），而且——[清嗓子] ——这比他们也使用的稀疏注意力要便宜得多。你是否也有过这样的经历：在与AI的会话中聊了很久，随着对话越来越长，它的表现反而越来越差？是的。如果你有一堆文档、庞大的代码库或长篇讨论，搜索这些上下文会非常昂贵。
该系统可以在搜索前压缩已存储上下文的索引，这样模型就能回溯得更远，同时使用更少的内存和算力。他们称之为“索引池”（index pool）。如果将这些技术结合起来，你就拥有了一个从底层构建、旨在快速、智能且廉价的系统。不过，它仍然需要价值数千美元的强劲硬件支持。
但令我欣赏的是，各位才华横溢的学者们始终不知疲倦地致力于让它能在更普通的硬件上运行。这再次是一个开放权重的系统，一个我们应该共同工作并加以完善的项目。因此，非常感谢所有通过改进它、分享实验结果或仅仅是谈论它来传播这一理念的贡献者。
本频道拥有最棒的观众，能为你们制作这些视频是我的荣幸。这是第1072期论文视频，我与大家互动的乐趣前所未有。这也是为什么我拒绝了那些想收购我们频道的私募股权公司提供的数百万美元报价。我知道并听说过的其他所有频道都被卖掉了，但我们没有卖。虽然>> [笑声] >> 我确实会拥有更好的硬件，那是肯定的。
是的，关于这点……这里我的主要限制当然是硬件。运行这个需要大量的算力。虽然参数规模不再以千亿计，这太棒了，但仍然不便宜。我也没有在家里运行大型模型所需的全部硬件。不过Lambda提供了帮助。因此，我们将许多使用较小、压缩量化后的版本，这些版本可以像这样疯狂地循环运行。
所以不要期待完美，但请准备好享受 tinkering（折腾）的乐趣，对此我感激不尽。非常感谢。我经常在几分钟内使用Lambda复现AI研究论文。用它训练自己的模型或微调现有模型也非常棒，运行推理、文生图甚至视频生成都易如反掌。
运行深海聊天机器人或智能体也超级快速、可靠。Lambda为你提供强大的Nvidia GPU来运行你自己的实验。我测试我在论文中覆盖的想法，片刻之后就能看到结果。太爱了。真的，现在就去lambda.ai/papers试试看吧。