我刚戴上太阳镜,我们就是僵尸。大家好,欢迎收看本期节目。今天我们要体验的是 GLM 5.3 的全功能版本没错,我们将在系统上运行一个1.5万亿参数的模型。虽然跑得慢点,但我们做到了并且生成了大量内容。看看这头猛兽的基准测试数据简直好得吓人,光是从 GLM 5.2 的提升就很明显。
根据基准测试,性能分数从4.6跃升至28.3。我想他们肯定是在最大思考模式下运行的,因为那种模式耗时极长,但确实能做出好东西。再看66.9的深度得分,它击败了 Kimmy K3。后者是2.8万亿参数模型,而 GLM 5.3只有约700亿参数。别小看这个规模,它已经跻身前列甚至超越了 Claude Fable 5在自动化基准测试中。
这意味着我们拥有了一个前沿模型,且可在本地系统运行。也许今年你还跑不动它,但明年随着竞争加剧,大家都会像苹果那样跟进发布更多产品。不过他们有自定义许可证条款,我读过后发现总体不错:只有当你的收入超过10亿美元时才需要联系他们。如果你不是比尔·盖茨那样的富豪,就不用担心授权问题。
目前所有基准测试显示它正在摧毁世界历史记录中的各项指标至少是与顶级模型肩并肩。我们将在本地系统上运行并观察实际表现。过去两天我一直在努力优化配置,目前使用的是标准 Q4 四比特量化版本以及一个 INF 高精度版本。后者能提供更高质量的输出,我会展示两者差异让你了解预期效果、耗时及速度等关键信息。
首先运行标准 Q4 版本,并在部分示例中与 GLM 5.2对比以展示改进或退步情况。GLM 5.3你好,今天我能帮你什么?完美回答只需一秒因为提示词很短。接下来我们请求生成3D太阳系,但注意现在无法关闭思考模式尝试禁用只会产生垃圾代码。
例如在禁用思考模式下,它会开始编码并说“等等我需要小心这里着色器变长了”之类的话实际上是在生成过程中尝试思考。这很遗憾,是个悲伤的局面。不过我们生成了2800个令牌属于低思考模式不会突破常规。让我们看看效果:我们得到了一个太阳系很棒使用标准 Q4版本就能实现但有个bug比如点击行星时会触发运行时错误显示“未定义”。
你需要在循环中多跑几次来修复这些运行时错误。另一方面,我将展示 INF 版本的效果稍后做对比现在先让你了解情况。这次我拿 Qwen 4 exp生成的代码告诉它添加一个可用键盘和鼠标控制的飞船该版本生成了31000个令牌处于低思考模式并打印出来。
很好它保留了 Qwen 4 exp的生成内容当然他们可能称之为3.8 flash或 next jiggy总之你可以玩这个。现在可以添加飞船但不幸的是无法控制它这不是运行时错误而是编码遗漏所以仍需使用标准基础 Q4量化多进行几轮对话才能让它正常工作。
接下来是写实人脸渲染请求,结果开始循环我认为 Q4不是好的量化选择也许现阶段我应展示 INF版本对相同提示词的效果然后对所有其他待测提示词进行并排对比。对于 INF 版本我实际测试了多种不同量化因为我想要确保自己是在写论文毕竟需要为教授完成这项研究所以一切都很顺利。
我花了数天时间收集所有数据点这样当论文发表时大家都能获得完整信息。不过无论如何当你问它“你好吗”它会告诉你自己是什么让你制作太阳系这次生成了4000个令牌速度为每秒14个令牌内存占用428吉字节这意味着你有充足空间用于大上下文窗口。
如果你拥有512吉字节内存也许我会制作更大版本因为该模型支持分布式运行未来若遇到困难我可能会尝试。接下来将展示一些最大思考模式的生成内容也许在下一期视频中但我需要更多时间先看看这个4000令牌的3D太阳系效果如何。
它与 Q4版本的生成非常相似唯一区别是点击行星时会实际放大并允许交互使用记得之前运行 Q4版本时会产生运行时错误。这次生成处于低思考模式所以不算惊艳但如果说去年看到我会很 impressed 自从见过 Qwen 4 exp或3.8 flash之后那个看起来很棒。
因此我对该版本切换到了高思考模式生成了54000个令牌这里有个技巧我启用了名为“上下文注意力”的功能它扩展了每个令牌生成时的延伸范围使其变得更聪明一些。
我在系统提示中加入了一些指令,只是希望它能顺利运行。目前我还没能让“有限思考”模式正常工作,还需要进一步调整参数,首要任务是让所有功能跑通。我添加了一个名为“不要过度思考”的提示词,在54,000个令牌、每秒11个令牌的速率下运行。由于我现在处于调试模式,正式发布版本的速度会稍快一些。点击播放后,生成效果明显更好了。虽然不如“最大思考”模式那样极致,但界面看起来很漂亮,生成质量已经接近Qwen 4实验版的水平。
我们可以点击这里查看细节,这确实非常精美。我不想过度吹捧,但它的UI设计很棒。点击地球时,你会发现它看起来真的像地球的各大洲轮廓,那里是澳大利亚,旁边则是土星。这是一个非常完整的演示,你还可以加速时间流逝。我必须承认,这是太阳系的一个美丽生成结果。虽然之前我们见过Qwen的优秀表现,也许你不需要用它来做这个简单的任务,但在处理更复杂的场景时它依然有用。
我给了GLM与Qwen版本相同的提示词,要求它在获取太阳系的基础上增加一艘第三人称视角的飞船。之前运行Qwen时,它很难让飞船正常工作;而GLM Flash版本则难以让飞船发射激光,除非启用50,000令牌的最大思考模式。这次在低思考模式下运行,总共生成了约30,000个令牌,其中2.3万用于重复代码。它完美复现了Qwen生成的内容,没有破坏原有代码结构。按下V键后,飞船出现在屏幕上并带有尾焰效果。
接下来是最佳特效时刻:我炸掉了太阳!这太酷了,虽然爆炸后行星仍在轨道上运行不符合物理逻辑,但我期待下次能实现引力变化。这种破坏效果非常震撼,是我改进前代生成物中最成功的一次动画。激光发射时机也很准确,但地球似乎拒绝被炸毁,这可能是个减分项。接下来尝试生成逼真的人脸渲染,但我还没完成本地版本的制作过程记录。
我曾使用Z AI在线版制作过人脸模型,第一次尝试时它思考了很久才停止。当我输入问号后,它似乎意识到我在等待回应,消耗了大量令牌最终生成了结果。这个生成物深刻反映了它对人类的看法:一张看起来像僵尸的脸,脸颊填充物和鼻子形状怪异。虽然它可能比Qwen的版本更精美且眼睛很吓人,适合做游戏反派角色,但缺乏Qwen那样的程序化调整功能。也许这个AI眼中的“人类”其实是某种古老的外星生物?
让我们回到现实,下一个演示是制作游乐园。这个提示词来自Reddit用户提问,我使用低思考模式和“不要过度思考”指令运行。这次生成仅用了18,000个令牌,是最低消耗的一次。启用碰撞检测后出现了人物角色,但互动存在bug:按右键向左走、左键向右走方向相反。虽然可以拾取物品并体验飞镖游戏,但旋转木马会反向移动。低思考模式只能生成基础版本,而高思考模式的保真度明显更高,令牌消耗也更大。
我现在请求生成高质量版本,但它似乎陷入了无限思考循环,输出已超过10万令牌。这表明复杂场景需要更多的计算资源来确保逻辑正确性和视觉完整性,低思考模式虽然快速但功能受限。
宇宙的神秘之处留待它去探索。我们最终会看看结果如何。在此期间,让我们进入系统,比较一下 GLM 5.2 在完全相同的生成任务中的表现。对于 GLM 5.2,你能选择的最低思考等级是“非思考”模式。因此我也使用了该模式以及高思考模式,因为它没有低思考选项。非思考模式下生成了 34,000 个令牌,这是一个你亲手制作的作品。
画面呈现的是“嘉年华混乱”,看起来依然非常棒。我认为 GLM 5.2 仍然很出色,不过你确实有一只蝙蝠。哇!我把那个人打倒在地了。这比 GLM 5.3 在低思考模式下的生成效果可能更好一些。不管怎样,我确实怀念非思考模式,真的挺想念它的。
搜索一下垃圾桶,看看我们能不能上旋转木马。可以!是的,我们可以上去哦,方向是对的。那里有些噪音。我喜欢 GLM 5.2,肯定会想念这个家伙的。我们怎么下去?能上摩天轮吗?好的,我上了摩天轮。你好!什么都看不见,我不知道自己在做什么,我在看一个投票板,但是的,我能看到整个地平线。
这一切都是在禁用思考模式的情况下完成的。所以我确实怀念非思考那种直接完成任务的模式,即使使用高思考模式也依然如此。有趣的是,我们仍然只生成了 35,000 个令牌。所以最终的生成效果可能会更差,让我们来看看结果吧。
这次生成的内容看起来大致相同,只是我不再拥有蝙蝠了,但我可以拳打坏蛋。这太棒了!我真的很喜欢这一点。砰!你让开点,阳光小子,滚开吧。砰!我们这里有那个气球游戏吗?是的,我们可以玩打气球点阵游戏。
不幸的是我需要买票才能上摩天轮。GLM 5.2,请让我上去。小费里斯刚才撞了我的头。但 GLM 5.2 仍然是一个令人惊叹的模型。也许如果你想解开宇宙的神秘,那就跳进 GLM 5.3,戴上你的思考帽,然后睡上一周醒来获取答案。或者使用 GLM 5.2,你依然能在那里获得一些不错的结果。
在这里我让它制作一个 Photoshop 克隆版,我正在使用低思考模式。这是低思考模式的输出,它生成了 57,000 个令牌。嗯,是的,我们在屏幕上得到了 Photoshop。让我们看看能不能画一个大圆?哦我们做到了!能添加一个图层吗?因为这就是 Photoshop 的核心所在,即添加图层。
所以我将在这里添加一个图层,我要给这家伙一顶帽子。哦看那,他有了一顶帽子。现在我将切换这顶帽子的显示状态。砰!我们实际上实现了图层功能,一切都很好。让我们看看我能否制作渐变效果?这里有一个漂亮的渐变色块。画一个小方块,我能改变颜色吗?再画一个方块。
我在那个上面犯了个错误,所以让我们看看能否删除那个图层。砰!我们在屏幕上运行了 Photoshop。这是一次非常出色的生成过程。显然,你知道这个版本是免费的,而真正的 Photoshop 是需要付费的。不幸的是,在这个版本中你没有那种特权。
幸运的是,我不确定它是否支持加载文件?我认为它甚至打不开文件。所以这仍然是低思考模式,不是最大思考模式。所以我们仍然有一些限制,但我们得到了一个菜单系统,看起来非常专业。这真是令人赞叹,UI 的质量和艺术作品的品质都非常好,他们在那里做得非常出色。所以我必须在这里给予表扬。
哦看那,他继续前进吧。现在我想向你们展示的另一件事是仅通过一些编码问题来测试它的智能程度。这是一个 WinRT 的问题,我在不同的领域询问过它。这里使用的是低思考模式,它说订阅的产品 ID 是错误的,建议尝试使用 durable 而不是 subscription,并试着包含两者。
所以我打算给这个答案打半分,因为它答对了一半。正确的答案是应该使用 durable 而不是 subscription。而另一个回答只是提示你应该使用 durable,所以它最终会正常工作,但订阅在 WinRT 中已经不存在了。当我们使用标准 Q4 量化版本时,它并没有提到需要使用 durable,所以那个回答完全失败了一百个百分点。
现在我要切换一下策略,对这个使用高思考模式的问题进行尝试。它的好处是仍然只有 4,000 个令牌左右,就像当你让它编写代码时那样。在高思考模式下生成代码会达到四万到十万甚至更多的令牌,但当你只是询问编程问题时,仍然只在一千多个字左右。
所以它仍然是可用的,就像几分钟而不是几小时那样快。在这里我们实际上得到了正确的答案:这是错误的产品 ID 字符串,这应该被列为第一点,因为它说报告为 durable 而非 subscription。这是 Q4 量化版本的正确答案作为对比,我们可以看到它实际上说你应该继续使用订阅。
所以如果你正在使用这个模型,要小心他们使用的量化方式。我知道很多人觉得自己很厉害地在一比特量化下运行它。你可以跑,很好为你感到骄傲,但你最好还是用更高的量化级别来运行一个更小的模型。你会得到更好的结果。好吧,这很酷,但稍微小一点更好,这是我的建议。
命中了一些证明标准:Q4 量化版本即使在高思考模式下也答错了,所以你需要更明智地选择使用的量化级别。接下来是 Swift 问题,Q4 答对了,这很好;C++ 问题 Q4 也答对了,那也不错。数学问题 Q4 同样答对了,所以只是在那些琐碎、挑剔的细节上你需要小心量化选择。
或者只是准备好进行多轮循环来修正问题,否则可能会遇到麻烦。我现在仍在运行许多场景测试,我认为我已经筛选出了最终版本,因为到目前为止它似乎能带来最好的结果。还有其他技术我想引入以提高保真度,比如我正在尝试一种疯狂的技术,我看到它最终将与 Kim K3 配合工作。
我不确定到最后是否还需要这样做,看起来这些模型正源源不断地发布出来,而且它们都非常惊人。那真的非常非常好。但嗯是的,请告诉我你们对这个神奇模型的看法,我认为它很美。根据基准测试来看,让你感觉良好的是我们正在与那些收费昂贵的前沿模型竞争。
当然,订阅制确实存在各种各样的限制和条件需要考虑在内。
这其实不算太糟糕,因为使用超级计算机的话,你可以让多个生成任务同时进行。某种程度上来说,不必依赖自己较慢的硬件设备还挺不错的;不过,能够本地运行这些东西也是一种解放。也许在未来,你确实能完全在本地跑这些模型。仅仅能够访问全球数据库这一事实本身就已经非常美好了。
请保持关注,因为这个模型实际上支持 MTP(多 Token 预测)。上次我尝试时,NTP(Next Token Prediction)在 GLM-5.2 上并没有生效。我当时的处理做得不太好,实际上不启用它运行起来反而更快。这次我要在 GLM-5.3 上再试一次。希望我能做得更好,如果它能跑得更快,那么实际使用它的可信度就会提高一些。我确实希望用上这个功能。
所以,希望你们觉得这段视频有用并享受了节目内容。我刚刚把太阳炸毁了。它认为我们才是僵尸。