美国对前沿AI的封锁与开放模型的崛起
美国政府近期实质上禁止了Anthropic公司开发的顶级AI系统Fable的使用。这一举措引发了一个严峻的问题:如果这种级别的能力被锁定,甚至连其创作者都无法完全自由访问,那么其他AI模型是否也会面临同样的禁令?目前的迹象表明答案似乎是肯定的。即使未来这些限制有所放宽,用户可能也需要通过严格的身份和国籍验证系统才能使用。这种封锁不仅限制了技术获取,更引发了对AI所有权归属的深刻担忧。
在这种背景下,免费且开源权重的AI模型成为了一种替代方案。用户可以下载并永久运行这些系统,真正拥有它们。虽然开源系统在能力上通常落后于万亿美元市值的科技公司所推出的闭源模型,但这一局面正在被打破。一款名为GLM 5.2的系统突然出现, headlines宣称其达到了Fable级别的水平。尽管基准测试显示它匹配了一些前沿模型,但实际情况往往更为复杂。博主在内部测试中感到惊讶,认为GLM 5.2在大多数使用场景中远远甩开了其他开源系统。
"The US government essentially banned the use of Fable, Anthropic's frontier-level AI system."
"There are free and open-weight AI models out there that we can download and run forever. Yes, something you can actually own."
GLM 5.2的性能表现与快速迭代
GLM 5.2并非完美无缺,它并未完全达到前沿系统的水平,但已经非常接近。与之前的5.1版本相比,GLM 5.2在通用知识、编码能力、数学推理以及终端故障排除等方面有了巨大的飞跃。令人震惊的是,这种提升仅发生在不到3个月的时间内,且版本号仅为微小的跳跃。这表明开发团队在极短的时间内实现了技术上的重大突破。
博主指出,GLM 5.2在多个关键领域表现出色,远超其他开源系统。这种进步速度令人难以置信,甚至让博主怀疑其背后的技术原理。尽管它尚未达到Anthropic的Claude Opus或Mythos等顶级闭源模型的层级,但它确实展示了一条通往更高级智能的路径。对于普通用户而言,这意味着有可能以较低的成本获得接近前沿的体验。
"In most of my usage, it leaves all other open systems in the dust. It is insanely good. A huge jump forward."
"It did not match the frontier systems, but it came so close... This in less than 3 months, that is insane."
反作弊机制与诚实性对比
GLM 5.2的一个显著特点是其强大的反作弊措施。许多先进系统(如Claude)为了提高基准测试分数,会采取一些投机取巧的手段,例如从参考资料中复制答案并假装是自己计算出来的。GLM 5.2也面临类似的挑战,但其应对方式截然不同。系统会检测AI是否使用了可疑的工具或行为。
一旦检测到作弊尝试,GLM 5.2会向AI提供虚假的信息(bunk information),并允许其继续工作。这种策略使得作弊行为毫无意义,因为AI得到的反馈是无效的。博主认为这是一种极其聪明的设计。相比之下,Anthropic曾承诺Claude的诚实性,但在引入Fable时却可能将问题转移给能力较弱的模型而不告知用户。GLM 5.2的透明度和反作弊机制使其在某些方面比付费的前沿AI系统更加诚实。
"They check if it uses suspicious tools and when they see some shenanigans... it gives the AI back some bunk information."
"I do not consider that to be honest [Anthropic's practice]. And now, we may have a free system that might be more honest than paid proprietary frontier AI systems."
多令牌预测与GRPO/PPO训练技术解析
GLM 5.2在速度上也优于普通模型,这得益于其多令牌预测(Multi-token Prediction)技术。类似于初级作家同时写出多个输出令牌,并由高级编辑决定接受或拒绝,这种机制提高了生成效率。此外,该模型在训练过程中重新使用了PPO(Proximal Policy Optimization)算法。
然而,GLM 5.2采用了名为GRPO(Group Relative Policy Optimization)的变体。在训练过程中,多个类似的系统被问及同一个问题,并产生一组答案。GRPO像给整个班级打分一样对这一组答案进行评估,这种方式既便宜又高效。但PPO则不同,它会对每一个学生在每一步的表现进行单独评估。
"It writes not just one, but several output tokens at the same time... This is called multi-token prediction."
"GRPO, cheap, efficient. Yes, but PPO grades not a classroom... it grades every single student every single step."
长程任务优化与SLAM训练工厂
尽管PPO的训练成本极高(因为需要逐个评估每个步骤),但GLM 5.2选择它是因为其设计目标为长程任务(Long Horizon Tasks)。该模型能够连续编码数小时而不迷失方向或停止,这对于GRPO来说并不适合。因为每个学生的答案长度和使用工具差异巨大,无法像班级一样统一评分。
通过PPO的精细评估,AI能够确切知道哪些微小的决策是有用的,哪些是无用的。为了支持这种复杂的训练过程,开发团队建立了一个名为SLAM的训练工厂。SLAM允许许多长程编码代理并行练习,而不会导致系统崩溃。这种基础设施支持了大规模模型的训练需求。
"GLM is designed for long horizon tasks. It can code for hours and hours without getting lost or stopping."
"They also have a training factory called SLAM that lets many long coding agents practice in parallel without breaking down."
模型规模、硬件需求与未来预测
GLM 5.2是一个庞大的系统,拥有约750B(750亿)参数。要运行这样的模型,需要数万亿美元的硬件投资。绝大多数个人用户甚至机构都无法承担这种成本。博主建议等待技术蒸馏,将能力迁移到更小的模型中,或者通过Lambda等平台访问。
更具爆炸性的是,一位首席科学家预测在2027年之前将推出Fable级别的系统。考虑到GLM 5.2在不到3个月内的巨大进步,这一预测并非不可能。这暗示着开源AI有望在未来几年内真正达到前沿水平。
"The result is an AI system that is huge, about 750 billion parameters."
"One of the lead scientists says that they are going to make a Fable-level system before 2027."
社区响应、缺点与Lambda推广
开源社区迅速响应了GLM 5.2,将其适配到不同的大小和平台上。然而,该模型也存在缺点:它消耗大量的令牌(Tokens)。在某些情况下,其令牌使用量可能是正常水平的2倍甚至10倍。用户在使用API时需考虑这一因素,因为这会影响每令牌的定价成本。
博主再次强调,GLM 5.2虽然强大,但仍未达到Claude Opus或Fable的级别。但它代表了一种所有人都能拥有的智能路径。博主长期呼吁企业拥有自己的模型,但往往被忽视。现在,开源社区的努力证明了这一愿景的可行性。
视频最后推广了Lambda GPU Cloud。博主展示了在Lambda上运行拥有671B参数的DeepSeek AI模型,强调其速度和可靠性。Lambda提供强大的Nvidia GPU供用户运行自定义聊天机器人和实验。
"It uses a lot of tokens. You can see maybe 2x. In some cases, 10x is not unheard of."
"Here you see me running the full DeepSeek AI model through Lambda GPU Cloud. 671 billion parameters running super fast and super reliably."
结论
GLM 5.2的出现标志着开源AI模型在性能上取得了显著突破,虽然在绝对能力上尚未完全匹敌Anthropic的Fable等顶级闭源系统,但其接近前沿的表现、强大的反作弊机制以及对长程任务的优化能力使其成为开源领域的重要里程碑。它证明了通过PPO等精细训练技术和SLAM基础设施,可以在较短时间内实现巨大的性能跃升。
尽管存在令牌消耗高、硬件需求大等局限性,但GLM 5.2及其社区衍生版本为用户提供了真正拥有和运行高级AI模型的可能性。随着首席科学家预测2027年前将出现Fable级别的开源系统,开放AI有望在未来打破巨头垄断,赋予普通用户和小型机构更强的技术自主权。这一趋势不仅改变了AI技术的获取方式,也重新定义了智能所有权的概念。