大家好,欢迎来到本期节目。今天我们要看看 GLM 5.3 Flash Edition(闪电版)。这是击败 GLM 5.2 的模型。GLM 5.2 确实非常出色,我至今还在用,非常喜欢它。但 GLM 5.3 比 GLM 5.2 更强。你可以看到,在所有发布的基准测试中,GLM 5.3 Flash Edition 都优于 GLM 5.2。
Flash 版的一个优点是,看这里,它只有 640 GB。而 GLM 5.2 是 1.5 TB,这意味着模型大小提升了三倍。它只有 3200 亿参数,是前几天我们测试的 Qwen 4 Exp(实验版)大小的三倍。但它拥有更多的激活参数,且得分高于 Qwen 4。我们将看看它是否真的更好,以及其他相关表现。
这个模型的好之处在于它还支持视觉推理。如果你曾想复制粘贴别人的网站并让它为你克隆,现在可以做到了。(笑声)这对做任何生产力工作来说是终结。我们将只有一堆自己使用的应用程序,那会很有趣。
我们现在就深入体验一下。我将分享我在这上面做的工作。这个模型的推理代码状态比 Qwen 4 Exp 更糟糕,因此需要大量工作来获得准确的结果。该模型有三种思考模式:低、高和最大版,不再支持非思考模式。
如果你尝试用非思考模式进行推理,可能会得到一些奇怪的结果。它基于新的 DeepSeek V4 架构训练,并结合了 Kimi Delta Retention(Kimi 增量保留)技术。让我展示一下它的一些怪癖、如何解决这些问题,以及你能生成的内容类型。
首先,我们问它是谁?它说我是 GLM,这很好。它知道自己是 Tabby Cap(一种模型类型)。完美。当我们切换到低思考模式时,看那个反应,只有一点点思考过程。对于这类问题,这种程度的思考非常有趣且易于操作。
只有在让它写代码时,过度思考才会变得麻烦。我们将稍后讨论这部分内容。即使开启最大版思考模式,它的思考量仍然很少,而且答案本身甚至更短。现在我们要尝试一些编码任务。如果你引入非思考模式,会得到非常疯狂的结果。
它会开始创建某些内容,然后中途意识到自己犯了错误并决定重写它。实际上它在写出一些可疑的代码时确实会出错,但它能捕捉到错误并自我纠正,这很好。看那个拼写错误,太疯狂了。
我一直在改进推理代码,修复算子、保真度等各种问题。第二阶段它变得更好且更接近目标,但在这里没有产生好的代码,因为你可以看到它在发起 HTTP 请求时出现了空格错误。所以它也会犯错。
最终我让代码达到了可以在禁用思考模式下实际编码的状态。令人惊讶的是,它生成了这只猫。这并非官方支持的功能,理论上你不应该能做到这一点。虽然禁用思考模式有点可爱,但这消耗了 79,000 个 token,相当巨大。
下一阶段我们将使用低思考模式。如果你尝试这样做,会出现运行时错误。我调查了这个问题并运行了最高保真度测试以找出原因。当处于低思考模式时,它使用了错误的 URL 或凭空捏造了地址。即使在最高保真度下,它就是无法正常工作。
有趣的是,如果你尝试使用 GLM 5.3 Flash Edition 的云服务商接口,他们实际上不允许你关闭深度思考。因此,对于从这个模型中获取好的代码来说,思考功能至关重要。即使是在低思考模式下,你也会遇到这个问题。
显然,如果你在循环中运行并告诉它“这里有错误”,并提供具体的报错信息,它能够自我纠正。它会生成一些有趣的内容,比如这里的尾巴动画效果,眼睛也会时不时睁开。这是一个不错的生成结果。
让我们检查一下我们试图复刻的图片本身。那个围栏对我来说看起来像混凝土的,我不认为那是木栅栏。所以它并不完全完美。下一步是进行最大思考模式测试,我们将全力以赴对待这个任务。
但它似乎不想停止思考。它不像是在循环等待输出;如果让我跑 5 个小时,它可能会最终生成结果。目前这已经是 75,000 个 token 了,我可能已经生成了两百万个 token。
我做了几十次不同的测试,挑选了一些非常有挑战性的任务让它工作并调试以使其更好。我尝试了许多不同变体,但它就是喜欢永远思考下去。它可能会跑到 10,000 token 或更多,所以我决定给自己放个假。
我开发了一个名为“有限思考”的功能并进行了优化改进。最初,我的限制思考更像是一种建议:我与模型协作,计算每一个传入的思考 token,并允许它在准备好结束时停止思考。
但这次我采取了一种更强制的方式:当它尚未完成思考时,我就强行让它结束。如果你天真地尝试在某个点插入 think 标签来强制停止思考,你会得到一些糟糕的结果。因为它不会真正停下来,而是继续生成内容。
所以我必须更智能地处理这个问题。完成优化后,我们现在有了最大思考模式,但限制其最多只进行 10,000 token 的思考。这是我在这里设定的比例参数。我将展示一个测试,向你说明给予不同思考量时它的表现差异。
模型在代码优化上取得了进展,但依然存在一定限制。目前它处于最大思考模式,生成了一段非常可爱的内容:你可以点击互动,看到爱心特效和摇摆的尾巴。画面中还有栅栏、草地和混凝土路面,看起来确实很像原图中的场景。总的来说,这是一次非常漂亮的生成结果。
接下来我们对比在线版本的模型表现。使用在线版时,必须启用深度思考功能,它会进行相当长时间的推理。虽然过程漫长,但生成的质量确实很高,尤其是尾巴摇摆的细节非常逼真。这个本地模型的表现非常出色,与在线版本的生成结果几乎完全一致。尽管不同的随机种子或温度设置会产生差异,但本地生成的质量已经非常接近在线版,这是一个令人满意的结果。
接下来我们要测试生成太阳系的功能,并将结果与 Qwen 27B、Qwen 3.8 以及最新的 Qwen 4 EXP(即 Qwen 3.8 Flash Next)进行对比。首先回顾一下,如果禁用思考功能,模型会出现错误并尝试编写代码。官方建议不要禁用该模型的思考模式,因为聊天模板中未包含此设置且未经过相应训练,强行禁用会导致输出大量无意义内容。
在低思考模式下,模型消耗了 31,000 个令牌并生成了令人惊叹的画面。其质量堪比 Kimi K3,甚至可能优于 Qwen 的某些表现。这里的太阳看起来非常壮观,行星可以点击互动,拥有精美的摄像机角度和标签。低思考模式下的表现已经相当不错,但还有另一种设置可以进一步提升生成质量,那就是上下文注意力机制。
启用上下文注意力后,模型会将注意力扩展到更多上下文以生成令牌。之前我们生成了 30,000 个令牌,现在则达到了 40,000 个。观察发现生成效果依然美丽,甚至可能更加精致。例如,月球的大小变得更加真实;相比之下,Qwen 4 之前生成的月亮显得过大且失真。尽管行星互动功能同样出色,但我们仍想看看最大思考模式能带来怎样的极致质量。
最大思考模式虽然耗时较长,但能产出最高质量的代码。我最近忙于处理其他事务,甚至尝试在 GTA 5 中完善相关功能时,发现代码本身存在底层错误。不过回到正题,为了控制时间,我将思考令牌限制在 10,000 个以内。模型会在合适的位置停止思考,随后开始生成代码。从初步效果来看,太阳周围的光晕显得非常迷人,金星等行星也都具备了精美的纹理细节。
随着生成过程的推进,我们可以明显看到保真度的提升,质量越来越好。作为回顾,Qwen 3.8 27B 生成了另一组画面。我们将两者并排对比:虽然新模型的行星环显得更具攻击性,但 Qwen 27B Prime 的效果确实非常华丽。尽管新模型的体积是前者的十倍,且太阳光晕更漂亮,但差距并未达到十倍以上。
为了获得客观评价,我们邀请了一位独立测试者 Sarah 加入视频进行盲测。她需要判断左侧还是右侧的画面质量更好。经过仔细观察,Sarah 表示新模型看起来稍好一些,但并非碾压式的十倍优势。这意味着 Qwen 3.8 依然能产出非常精美的画面,两者差距并没有想象中那么巨大。
接着我们查看 Qwen 4 EXP 的表现。这个版本同样看起来很棒,特别是它成功生成了小行星带,这一点比之前的模型更讨人喜欢。不过,模拟碎片的效果并不理想,屏幕上只是一些模糊的光点,视觉效果较差。虽然整体观感优于 Qwen 3.8,但并未达到三倍的优势,目前仍略逊一筹。真正的差距将在引入飞船时显现出来。
在 Qwen 3.8 中,我提示添加一个可用鼠标和键盘控制的飞船。点击播放后,发现飞船实际上不可见,需要多次反复调试才能使其正常工作。而在 Qwen 4 EXP 中,启用最大思考模式并经过几次报错反馈后,最终成功生成了飞船。虽然控制逻辑有些奇怪(如方向键反向),且没有激光武器,但画面效果非常华丽。
最后测试 GLM-5.3 Flash 的表现。在禁用思考模式时,尽管生成了 37,000 个令牌,但由于该模型未针对此场景训练,效果不佳。我甚至考虑直接禁用该功能以免误导用户。在使用 Qwen 版本作为基线并提示添加飞船后,我发现没有进入飞船的选项。随后切换到最大思考模式但限制为 10,000 个令牌,模型生成了包含飞行模式和飞船的代码。
尽管生成的飞船位置略微偏离屏幕中心,导致无法完全体验其功能,但确实成功实现了基本需求。目前我已将参数进一步增加,以观察是否能获得更完美的生成结果。这一系列测试表明,不同模型在特定任务下的表现各有千秋,本地部署的灵活性正在逐步缩小与在线服务的差距。
在25,000个token的限制下,模型生成了49,000个token。虽然提升幅度不算巨大,但最终只多产生了9,000个额外token或思考内容。这可能是因为模型找到了良好的逃逸策略,并未完全用尽25,000个token。为了观察具体过程,我稍微放慢了速度并按下F键获取飞船。确实生成了一艘船,且控制逻辑合理:向下按就下降,向上按就上升。此外还有涡轮加速模式可以飞入场景,画面非常美丽。
飞船配备了激光武器,但存在一个缺陷:激光没有惯性。当我减速时,激光会停留在飞船旁边,虽然产生了壮观的光效,但无法攻击行星。不过它有一些额外的疯狂模式:按T键可以锁定目标(例如地球),再按G键即可自动导航至该处。这些是我并未要求的功能,但模型自行实现了。当我向地球射击时,系统提示“温度临界”,表明这些额外功能确实有效且看起来非常棒。
我认为这次生成甚至超越了Qwen的表现。观察小行星带周围的光晕,可以看到这里实际上能清晰看到小行星带本身。动态光照和反射都得到了修复,这意味着它改进了我们提供的基准代码。最终,当思考token设置为50,000时,激光终于能够正常发射了。让我们看看能否炸毁地球——成功了!还有爆炸效果,这意味着我们获得了完整的游戏体验。
虽然长时间盯着屏幕会让人疲劳,但在50,000个token左右时生成质量达到了完美。当然你可以设置更低的值,但需要更多次提示交互来调整功能。尝试摧毁太阳时,模型反馈说它“不以为然”,这很有趣。总体而言,在现有代码基础上进行扩展生成时,它的表现明显优于Qwen的其他版本。考虑到其体积是后者的三倍,这种提升也是合理的。
接下来挑战生成人类面部。Qwen 4 exp曾制作出史上最好的人脸,因此这次很难超越它,尤其是我尚未运行最大思考模式。这个版本使用了低思考强度,消耗了75,000个token。生成的面部确实不错:有嘴唇和眼睛的轮廓。如果我没见过Qwen 4 exp的版本,可能会认为这是个有力的竞争者。但相比之下,Qwen 4 exp的表现确实好得多。
我现在可以处理更多token或进行最大思考,但这可能需要几天时间。因为我在本地运行而非云端,没有超级计算机支持,所以需要更策略性地使用工具。这就是为什么我们引入有限思考等功能以获得良好生成效果的原因。目前我正在制作最大思考版本,但不确定能否完成。接下来展示我面临的最大挑战:制作GTA 5。
首先,让我展示它在云端运行的情况,以便理解推理代码的现状。我要求它制作GTA 5,但生成在1,387行代码后突然停止。这很疯狂。我告诉它文件不完整,询问发生了什么。通过查看思考过程,我们发现模型犯了严重错误:它在变量声明前就使用了该变量,且缺少函数定义。即使是云端版本也生成了这种严重损坏的代码。
在尝试制作GTA 5时,我进行了约30次生成以修复bug、提高保真度并确保其正常运行。这就是我所处的困境。Loss Sombra遇到了运行时错误,即使使用了最大思考模式也是如此。我审查了代码并应用了许多修复建议后,得到了一个漂亮的开场:城市中有汽车在道路上行驶,且具备AI行为。我可以跳过过场动画并接管角色控制。
我们有一个乐高风格的角色,戴着立方体帽子。开始奔跑后光照似乎变暗了,可能切换到了夜间模式,这需要修复以避免运行时错误。此时我处于最大思考模式的20,000个token上下文窗口中,从未使用有限思考模式,因为我想让它完美运行。让我劫持这辆车——我被撞倒了,但至少碰撞检测有效了。
现在完全是漆黑的夜晚,也许玩久一点会恢复白天光照。我劫持车辆后听到了声音,警察正在追捕我。虽然有点暗令人遗憾,但我肯定需要再次提示以修复光照问题。不过整体基本可用:有动画、行人以及潜在的碰撞互动,这次生成具有很大潜力。但我不想就此止步,因此还制作了一个更高保真度的版本,修复了推理代码等所有相关问题。
这个版本的运行速度略慢于我之前运行的Q9版本,但生成效果很有趣且我认为没有实际错误。也就是说这个GTA 5生成没有任何编译错误,这是通过最大思考模式和10,000个token实现的。它拥有精美漂亮的开场画面,整体体验更加流畅稳定。
这是西海岸的故事版本,但我上传的并非此版,因为它比 Q9 版本每秒慢五个 token。Q9 版本表现几乎一样好,只是这个迭代略有不同且幸运地没出错,尽管我曾用此版遇到过错误。看这里的生成效果:光照依旧破碎,但角色有了四肢并能正常行走。你可以用真实的 3D 模型替换骨骼动画,它能正确运作。
场景回到了埃及吉萨金字塔前,角色手持枪械可以射击,但子弹和激光一样不愿向前发射。我进入云端查看修复后的情况:点击启动 Grand Cat 5 却无反应,因为即使是云版本也出现了运行时错误和意外 token。这表明该模型即便在云端运行也并非百分之百稳定,但它擅长循环处理任务。
由于 1.5 TB 模型被压缩至 600 GB,质量或许有所妥协。在智能体循环中可见大量错误被修复:先是语法错误,接着是加载后的其他问题。虽然它能持续打补丁并生成精美的开场动画,但本地运行效果更佳。云端版本存在方向控制 bug:按下前进却后退,左右键功能互换。不过城市生成很出色,有交通和行人,甚至能撞倒警察,非常接近 GTA 5。
生成过程耗时漫长:占用 370 GB 内存,速度约每秒 16.5-20 token。处理 10 万 token 上下文需半小时,超过 20 万则超一小时。代码风格简陋如“原始人编码”,充满压缩块,但或许只需系统提示优化即可。接下来尝试有趣生成:制作儿童版 Photoshop 替代工具,限制思考在 10,000 token。结果无编译错误,可改色、盖章星星并刷新页面生成毯子图案,效果极佳。
逻辑测试方面:洗车店距家 50 米,模型以 53% 置信度建议开车(步行仅 5%)。面对“人群说 B selector”的谜题,它不知倒带梗但建议跳迈克尔·杰克逊舞。分橙子问题中,它将 8 个橙平分给 4 个孩子无需刀切。我认为 GLM-5.3 Flash 令人惊叹,不仅参数达万亿级(如 Kimi K3 的 2.8T),MiniMax 还在训练更大模型。
这是一个万亿参数的模型,GLM 5.5也会更大。他们已经表示将为其采用新架构,但随后又改口说:“让我们把这些模型做得小一点。”事实上,GLM也加入了这个行列。因为他们花了很长时间——现在已经超过一年了——一直在致力于开发更大、更大的模型,现在他们又回到了制作更易于管理的规模模型的轨道上。
也许这是针对他们的云端推理服务而言的。我不确定我们是否会得到一个Qwen 27B的竞争者。如果他们真的进入那个领域,对于许多在本地运行小型模型的人来说,那将是一个非常、非常令人兴奋的时刻。
还有一件事值得关注:这个模型确实支持MTP(多token预测)。所以,即使在Q9量化下以每秒20个token的速度运行,如果你将其设置为Q4量化,你将会获得大约30
tokens a second的推理速度。而MTP技术会让你获得更快的推理速度,因此这是值得期待的一点。
请保持关注,因为我们正在下载GLM 5.3的完整版(full fat edition)。我们将让它运行起来,看看生成效果有多好。希望你们觉得这个视频有用并享受了节目内容。
[音乐]