大家好,欢迎收看本期节目。今天我们将深入探讨模型的思考模式。GLM 5.3 是目前最聪明,甚至可以说是最好的开源权重模型之一,但它存在一个问题:训练后不再允许禁用思考功能。即使在低思考模式下生成内容,也可能高达 70,000 token。这并非最快模型,在 Mac 上推理 70,000 token 需要超过半小时。是的,非常慢。相比之下,GLM 5.2 还算友好,至少可以禁用思考以更快获得答案。但在 5.3 中,这一选项已彻底取消,甚至引入了最大思考模式,生成一次可能需要两小时以上。
我一直在努力从中榨取最佳智能表现,并将向大家展示一种名为“最小最大思考模式”的功能。其核心理念是以最少的 token 数量获得最大的智能输出。这样,它不再需要生成超过 70,000 token,而是控制在约 10,000 token。该功能也适用于其他模型,比如我最近很喜欢的 Qwen 3.8 Flash Next。配合最小最大模式使用,既能获得最智能的答案,速度依然很快,因此我不再需要禁用思考功能。
如果你尝试在 GLM 5.3 中直接禁用思考,会发现它虽然开始写代码,但会引入严重错误并试图自我修正。然而由于训练数据中剔除了此类样本,这种机制实际上无法正常工作。本视频将展示一个简短示例:使用低思考模式在 GLM 5.3 中制作三维太阳系。它仅生成了 3,000 token,非常高效且美观,支持鼠标悬停和点击行星。虽然效果不错,但整体较为基础。
接下来切换到高思考模式,token 数量跃升至 60,000。模型会进行不间断推理,仿佛在吟唱咒语以回忆数据库中的代码树。生成的效果非常惊艳:你可以旋转视角,看到美丽的太阳、木星以及关于土星的信息索引。这明显优于低思考模式的结果。随后我们进入最大思考模式,token 数量达到 90,000。虽然仅比高模式多出约 20,000 token,但在其他生成任务中,切换至最大模式可能从 90,000 token 激增至 200,000 token。
在最大思考模式下,我们看到了极光效果、更精细的地球细节(如闪烁的光点可能是火箭发射)以及小行星带。尽管存在一个小 bug,但整体质量更高。通过并排对比可见:低思考模式仅 3,000 token,效果基础;高思考模式需 60,000 token,界面更优且背景呈蓝色;最大思考模式需 90,000 token,提供了额外的精致感。
现在启用最小最大思考模式。该功能指示模型进行最大化生成,但在充分理解问题后立即退出思考过程,从而最小化 token 消耗。此次仅用约 14,000 token 生成了包含行星、地球和小行星带的效果。虽然可能略逊于最大模式,但明显优于低思考模式。回顾数据:低模式 3,000 token,高模式 60,000 token,最大模式 90,000 token,而最小最大模式仅需约 15,000 token。
制作三维太阳系属于已知问题,模型很可能拥有大量相关训练数据。因此,我们评估的重点并非其已掌握的知识,而是处理未见数据的真实能力。如果模型不知道答案,它将如何寻找并解决问题?这才是我们测试的核心目的。接下来将展示更令人印象深刻的场景,包括核爆炸效果以及不同思考模式在回答 Windows RT 和 C++ 应用问题时的冲突表现。
在最大推理模式下,模型消耗了2.2万令牌才得出正确答案。它指出订阅应作为持久对象返回,因此需使用“durable”而非“subscription”。虽然答案正确,但耗时约1600秒(半小时),代价高昂。相比之下,Minimax同步模式仅消耗了约1000个令牌,与低思考模式的用量相似。尽管令牌数大幅减少(从2万降至1千),它依然给出了正确答案,指出不存在订阅且需使用持久对象。这实现了以最小思考量获取最大智能的效果。
接下来看一道来自国际数学奥林匹克的难题:确定所有实数。在低思考模式下,模型用1700个令牌得出了正确答案,体现了有限的推理能力。目前我正在运行最大同步模式测试,已消耗1.1万令牌却仍未生成响应。我已在本地连续运行该模型数百小时,希望能让大家理解其价值。而在Minimax模式下,仅用2000个令牌就得出正确答案,并识别出其为偶数整数。最大模式虽最终可能正确,但已消耗1.2万令牌仍不愿呈现答案;低思考模式则直接给出正确结果。Minimax模式通常能在比低思考模式更少令牌的情况下,提供更智能的响应,除非问题极其简单。
现在让我们回到开头展示生成过程。既然大家已理解视频核心,即如何从模型中获取更高智能,您可以随时跳过此部分。接下来我们将进行核弹实验,尝试用3D模拟核爆炸。在低思考模式下,生成该场景消耗了5万令牌。相比之下,之前的3D太阳系仅用3000个令牌便快速生成。稍复杂的任务即使在低思考模式下也需约4万令牌进行深度推理,最终生成了美丽的爆炸效果:巨大的火球、上升的云团以及伴随的余震音效。这表明在推理过程中,模型能提供更优质的响应体验。
切换到最大思考模式后,令牌消耗飙升至7.8万,生成过程耗时极长。若让模型自行决定参数,它会制作出最复杂的核弹效果:巨大的爆炸、蘑菇云以及更炽热的火焰。虽然视觉效果略显卡通化,但支持调整相机角度和不同字段(如闪光、火球等),并可快进播放。而在Minimax思考模式下,仅用1万令牌便生成了类似的云团效果。对比来看:低思考模式耗5万,最大模式耗8万,Minimax仅耗1万。尽管UI美观且爆炸巨大,但核爆细节不如低思考模式精细。因此,Minimax并不总是优于低思考模式,但在大多数情况下表现更佳。
还有一个技巧:你可以不选择Minimax(旨在最少令牌),而是设置思考阈值上限。例如,我将阈值设为1000个令牌时,实际生成了2.2万令牌的版本。这次生成的核云更成熟、细节更好,支持时间膨胀(加速/减速)等功能,且仅消耗1.3万令牌。这比Minimax模式多用了约2000-3000个令牌,因为允许了更高的思考上限。若要使用此功能,需点击“限制思考”按钮并设定最大令牌数。实际上,1万令牌的阈值已足够生成令人印象深刻的效果:包含音效、武器大小选择及余震波纹。虽然风格可能略显卡通,但依然非常美丽且细节丰富。
接下来我们尝试生成一个高级3D太阳系:包含用户可控的飞船、第一人称视角以及等离子力学,以便炸毁太阳。该提示词要求精确的重力物理效果:若激光击中太阳致其爆炸,行星应因引力变化而飞散。在低思考模式下,使用量化版GLM 5.3时出现了一个运行时错误。虽然逻辑模块看起来很美,但存在小故障。我们需要等待其完全生成并修复这些错误后查看效果。目前上下文窗口已达11.2万令牌,这意味着在低思考模式下生成此场景需要耗费数小时。点击发射后效果确实很美,我特别喜欢其瞄准系统。
在这里向行星射击。不幸的是,我实际上看不到激光束。所以,即使有了修复,这仍然很好。但是太阳上似乎有一个血条。希望砰的一声后,太阳爆炸了,行星看起来开始变暗。飞船不再可见,而且由于不再有太阳的引力牵引,行星现在正朝着它们的方向飞去。
所以,这是一个成功的演示,但你真的看不到激光。它仍然有点损坏。为了获得一个完全成熟的解决方案,我们使用了最大思考模式,消耗了112,000个令牌。这次生成最终用了74,000个令牌。我认为这次生成的好处在于它不需要任何修复,开箱即用,而且看起来非常棒。也许控制移动仍然有bug。当你向右时,它看起来像向左走。但让我们假装这是金星。我确实喜欢等离子炮。哦是的,控制有点糟糕。飞船爆炸了。让我们看看。我们就去太阳那里吧。砰、砰、砰。看,太阳爆炸了。一切都变得有点暗,行星们正欢快地离去。
这需要74,000个令牌。现在,在最小思考模式下,这是最少的令牌数。制作这次生成用了12,000个令牌。所以,在低思考模式下,让我们只做第一次生成来看看它是什么样子。我们假装之前不需要那个编译器错误修复。在最小同步模式下是30,000个令牌。我们现在只制作12,000个令牌,并做出了这次生成。
所以我们得到了一艘宇宙飞船。我们仍然可以前进。我们仍然可以炸毁行星。哦,好的。成功炸毁了土星。所以我们要去太阳那里。我们仍然有建造的小行星,并且我们炸毁了太阳。一切都走向黑暗,行星们正欢快地离去。这相当酷。我们成功制作了一个类似的生成物。显然,它不像最大同步模式那样完美。
所以,最大同步模式是74,000个令牌,也许它看起来稍微好一点。显然,控制有点差,但也许它确实看起来稍好一些。差别微乎其微,但我们从70,000个令牌降到了12,000个令牌。而且差别并没有那么大。它不像我们在低思考模式下的免费太阳系和最大思考模式下带有Aurory示例时看到的那样巨大。那个相当 slick(流畅/巧妙)。现在我们要看它如何处理代码修改。
这实际上是一个由Quen为EXP制作的3D太阳系,我们要求它加入一艘宇宙飞船。在低思考模式下,制作响应需要55,000个令牌。让我们看看它看起来怎么样。这看起来不错。这像是Quen制作的生成物。让我们把它稍微变小一点,然后跳进飞船里。所以我们得到了一艘漂亮美丽的宇宙飞船。我们确实有激光。所以它完美地完成了这个提示词。那看起来太美了。
所以,它做得很好,但总共需要大约50,000个令牌。是55,000个令牌。现在,这里这个是最大同步模式,它用了26,000个令牌制作出来。我们将回去看看。让我们慢下来。让我们进入飞船。按F键。所以,在飞船里有一点点黑暗。所以,让我们看看我是否真的能修复它。也许是因为它离太阳很远。让我们来弄清楚一下。所以那里的飞船,或者激光看起来更好一些。爆炸有一点回弹效果。
所以也许有一些小bug,但激光确实比低思考模式下看起来更好一些。但它仍然成功在这里制作了一个生成物,并且没有运行时错误。总共来说,我们的上下文窗口是46,000个令牌,因为这包括了我们给出的提示词和原始生成物。而在低思考模式下,它是55,000个令牌。所以低思考模式下的令牌稍微少一点,但结果相当可比。
现在,我们要跳进去。我们将尝试做一个3D照片级真实感的人脸。这是在低思考模式下进行的。所以,在低思考模式下制作一个程序化生成的人脸需要77,000个令牌。是700个令牌吗?不,低思考模式。现在,它生成的效果非常好。他有着巨大美丽的方形嘴唇。他有鼻子。有一个错误说我们需要WebGL,尽管它已经成功渲染了。所以那是一个糟糕的错误。我们这里有令人惊叹的眉毛。很好,美丽的头发。这绝对是一个非常、非常漂亮的模型。
嗯,也许脸颊需要一点填充。所以,美容医生AI可能是你最大的福音。你将有很多工作要做。但这绝对是最大思考模式下的一次美丽生成。让我对这个模型感到疯狂的是最大模式。看它产生了多少代码。砰的一声。如此多的思考。然后开始输出代码。然后在174,000个令牌后,以每秒7个令牌的速度结束。如果你看这个,它会让你发疯的。它花了23,000秒。那是6个小时。制作这次生成花了6个小时。
最大的问题是响应循环。所以在174,000个令牌之后,它陷入了一个循环。好的。所以嗯,我只是问它:嘿,你能输出文件吗?它可以重用推理过程。它就在那一点停止了,因为它知道自己在循环中。这又额外消耗了40,000个令牌。降到了每秒四个令牌。我达到了我的内存限制。我从没运行过这么大的提示词。这是它制作的生成物。它在上面制作了生成物,有一个运行时错误,并且代码写了catch(捕获异常)。所以如果你能抓住我。所以在最大同步模式下它在那一项失败了。
现在,我也尝试使用最小思考来修复上面的循环问题,那一个生成了25,000个令牌,所以稍微少一点的令牌,更优化。但有趣的是,它得出了相同的错误catch(捕获异常)。所以这可能只是量化问题,或者也许我只需要修复推理代码,使其在处理这些超大型上下文时稍微聪明一点。但如果任何人用过这些模型(lens可能是指LLMs或特定模型系列),你给它的上下文越多,它可能给出的错误空间就越大。
所以在最大同步模式下,它想要产生200,000个令牌。如果你在那种消费级硬件上运行,那就是6小时以上的生成时间。砰的一声。不可能实现。所以让我们尝试用最小思考模式运行它。现在,作为回顾,我们真正想要比较的是低思考模式。所以低思考模式是77,000个令牌,花了7,000秒,也就是只有2小时的生成时间。是2小时。
所以用最小思考模式,我们现在看到的上下文窗口是17,000个令牌。第一次有个bug。它制作出来了。所以有一个运行时错误,但我们修复后的总上下文窗口是17,000个令牌。从77,000个令牌到17,000个令牌。从200,000个令牌到17,000个令牌。它会成功吗?
真的能跑起来吗?它会成功吗?告诉我你的想法。这个问题太疯狂了。我们屏幕上真的出现了一张脸,他有鼻子和嘴巴,但没有头发,所以头发部分被简化了。不过这里确实有生成内容。我甚至不知道这是从二十多万 tokens 到一万七千 tokens,我们仍然只用了 max 模式下 minmax 所需 token 数的百分之十。
尽管资源这么少,我们还是得到了一张脸。我觉得他的眉毛在动。关于这一点,我发现了一个令人震惊的事实:如果你开始旋转头部,你会免费得到两个头。他的鼻子怎么了?你在获得更好的性价比,这意味着你应该把成本除以二。生成质量提高了多少呢?这很酷,我非常兴奋。
现在我这里有更多的生成内容。如果你已经理解了核心原理,想查看更多就请保持关注并跟随这段旅程。我会展示更多提示词,但你已经抓住了重点:现在有了这种模式,你可以设置为 max 同步并使用 minmax。它会选择最少的 token 数量来生成可信的内容。我们在这里看到二十万 tokens,编译器仍然少于两万 tokens,并且得到了一个漂亮的生成结果。
我们还看到了核弹效果。你还可以选择限制思考深度。比如至少限制到一千,而不是 minmax 的一百 token 下限。在达到一百 tokens 后,它会真正尝试关闭 LLM。最疯狂的是,当你试图手动且天真地关闭推理级别时,模型并不喜欢被关掉思考。这被称为“推理泄漏”,即你告诉它停止思考,但它会在标签外继续思考并无限进行下去。
因此,你需要策略性地关闭它。如果你将思考限制在一千甚至一万 tokens 以制作惊人的生成内容,你仍然会消耗少得多的 token,并像核弹例子那样获得壮观的结果。现在我们要进入下一步。我们已经完成了脸部生成,接下来要尝试制作人体模型。这是一个 3D 人体解剖图,我们在低思考模式下运行,最终用了两万两千 tokens。
这是一个不错的生成结果,绝对很美。虽然我不确定嘴巴那里发生了什么,也许他戴着防毒面具,但四肢看起来非常好。你可以切换身体的不同部分。做这种事通常要付费买软件,虽然这里可能有点小 bug,但看起来还不错。核心是心脏,肺掌是肺部,我正在学习这些知识。骨架有翻译功能,皮肤层则是框架结构。
这绝对是一个漂亮的生成结果,仅用了两万两千 tokens 的低思考模式。这是一个胜利。我们现在跳进去用 minmax 思考作为对比。那个版本用了两万 tokens,但不幸的是出现了运行时错误,需要额外一次修复。总共我们使用了三万七千 tokens。我本可以更有策略地处理,比如让它直接编辑文件而不是重新打印整个代码。
在做研究时我喜欢总是输出完整文件,因为我想测量模型处理代码的智能程度。这些是人为构造的例子,不是真实代码库,所以我希望用这个模型完成最大量的测试。如果它不能在不引入新 bug 的情况下重写代码,那就是失败。我知道这个模型很疯狂,推理代码有问题需要调试和修复。
这就是为什么我这样做的方式。但你可以通过保存到文件来节省大量 token。你可以使用这里的工具部分,启用写入、读取、追加、复制、移动文件以及查找替换等功能。让它保存到文件然后编辑,这样会用更少的 token。但这不是我们在这里测试的内容。我们在测试模型有多聪明,所以我以调试方式运行它,试图了解这个模型的边缘情况。
总共三万七千 tokens,这是高思考模式下的生成结果。我不知道这是什么类型的人类,更像是一个 Brock Lesnar 的情况或者大猩猩人。但我们确实有一些胸大肌。你可以点击不同区域查看,这里有静脉系统。这个版本看起来比低思考模式更成熟。让我们把它们并排放在一起看看 minmax 思考版本的差异,除了运行时错误外 token 数量相似。
这个版本你甚至看不到静脉,而这里我们可以看到静脉系统。骨骼模型方面,也许左边那个看起来更像人类?右边这个的脸部你有很好的嘴巴和眼睛。也许左边看起来更像头骨,而右边那个像戴着防毒面具的人。不过再次强调,根据你的提示词,如果你提供参考图像,可以得到更好的生成结果。但无论如何,左右两边都是绝对漂亮的生成内容。
所以也许低思考模式仍然可以制作一些惊人的生成结果,如果它不能立即知道响应的话。特别是当你进入 max 思考模式时,可能需要以稍微不同的方式访问数据库。现在我们要尝试做《侠盗猎车手》(Grand Theft Auto)。这很搞笑,因为在低思考模式下它需要四万九千 tokens。
我还没有用 max 思考模式运行过,那可能需要六个小时。然后它可能会有运行时错误,我没时间等这个了。所以我们在本地运行这些东西时需要更聪明一点,因为我们没有超级计算机。即使最新的 max 版本快百分之五十,六小时也变成了四小时。你仍然需要聪明地推理这些模型。
用 minmax 思考模式,它只用了一万三千 tokens,而低思考模式用了四万九千。在运行几次以消除运行时错误后,不幸的是,低思考模式最终只得到了一个黑屏。
我需要再提示几次才能解决那个问题。总的来说,在低思考模式下我做的所有修复共消耗了69,000个令牌。而在最小化思考模式下,我们只用了40,000个令牌。虽然比低思考模式少,但我们成功让程序运行起来了。这里有一个不错的开场画面,看起来它正在从互联网获取这些资产。欢迎来到老城,你得到了一个介绍场景。
建筑物的外观有点重复。如果我要重新提示这个部分,也许我会修改未来的生成提示词。我真的很想告诉它用不同的街区来构建城市,这样它在制作城市时会更有创意一些。现在我们这里有乐高小人,还有一辆车。让我看看能不能……哦,我跳进了车里。实际上,当车朝我驶来时,我把车劫持了。这还不错。
这个游戏的挑战是说要让我获得三颗星,然后躲避警察。目前我有一颗星了,所以警察应该来抓我了。不幸的是没有声音,这可能是我想在提示中加入的基本要素之一。城市看起来非常重复,这也是一个减分项。你可能需要说明它必须包含所有城市功能等细节,希望它能开箱即用地生成一个不错的场景。
现在我看不到任何警察来抓我,这有点令人惊讶。通常在其他时候运行时,警察会追你并试图撞向你。但除此之外,我在路上没看到任何行人。不过我们有一个小地图,这里有某种类似侠盗猎车手生成的感觉。角色不是最好的,那里有点秃顶的样子。它仍然是基本的乐高小人,但绝对是一个你可以用来构建生成的不错框架。
你看到在低思考模式下,它甚至没有渲染出来,却用了60,000个令牌。而在最小化思考模式下,我们只用了40,000个令牌就得到了一个可以运行的东西。让我们换个方向,试试做《荒野大镖客》。低思考模式,一次尝试,没有运行时错误。它制作了52,000个令牌。这是低思考模式下的《荒野大镖客》,看起来非常棒。看,尘土上的血迹,1899年的亚利桑那领地。
你可以骑马下坡,给我文字提示。这里有一个不错的过场动画。我觉得那个人在马背上滑稽地漂浮着,这会很有趣看接下来会发生什么。你有一个美丽的小镇在这里。它确实很美。所以我会保留这个开场,尘土上的血迹第一章。我们可以带着马四处走动。那匹马在这里很滑稽,因为它在做某种手臂伸展动作。
它似乎在骑马时做一些下蹲运动来锻炼,同时还在射击。现在你可以开枪了。他似乎在对地面射击。但它确实有一个很棒的功能,哦,我下不了马。在其他区域我可以下马。它有一个我没提示但自己选择的绝佳功能,叫做“死亡之眼”的子弹时间。它会放慢时间让你能实际射击坏人。
但不幸的是,我似乎杀不死任何人。他可能是在对地面开枪,这是个问题。但也许通过更多提示,你可以得到不错的生成效果。看看那个骷髅动画,他比我们之前看到的侠盗猎车手小人更完整一些,这很好。我们有一个小镇,有AI生成的敌人正在向我射击。我需要完成一个任务。
这绝对是一个美丽的生成效果,它有亚利桑那风格的山脉。我们不再像其他模型那样总是出现在吉萨金字塔之地了。现在在最小化思考模式下,它用24,000个令牌制作了这一点。我们从52,000个令牌降到了24,000个,并得到了这个生成效果。仍然美丽相似的山脉看起来很棒,《荒野大镖客:红尘》。
我会点击新游戏,领地文字转语音。让我们跳过它,因为我们之前已经看过了。哦,看看那个。他指着枪,但枪似乎指向空中。这是略有不同的改进。现在我们有一匹马。如果我们尝试骑上马,不幸的是马在奔跑但方向错了。让我看看能不能从马上下来。好吧,它不让我下马,那是个需要修复的小bug。
但让我们进去看看我们是否能实际射击一些坏人。看那个风车,太美了。当你身处镇中心时,你应该不该来这里。坏家伙们在这里听好了。现在有坏人了,他们在向我射击。让我看看这次我能不能射中他们。控制起来真的很难,因为我是通过远程桌面连接到我的Mac的。
但希望我能击中一个坏人我就满足了。好的,我击中了其中一个家伙。我的生命值非常低,然后死了,这很不幸。但好处是下次你重生时,坏家伙们没有AI了。那里有个小bug需要修复。但你可以击中坏人,你手里拿着你的漂亮瓶子就在那里。
从城镇的角度来看,灯光效果非常棒。我是说这只是WebGL,但它做得非常好。那是教堂,山脉看起来好多了。它绝对比我见过的其他《荒野大镖客》更史诗级,那些总是只在吉萨金字塔里进行。所以看起来确实不错,这是一个可以在此基础上工作的东西。
这个只用了24,000个令牌,而低思考模式用的是50,000个令牌。我们正在烹饪出一些不错的生成效果,向你展示你可以用更少的令牌获得更高的智能。这使得在消费级硬件上使其更具可用性成为可能,这对我来说是个好消息。
现在我们将尝试制作一个游乐园模拟器。这是低思考模式。在低思考模式下,我们烧掉了超过100,000个令牌并最终陷入循环。是的,100,000个令牌。所以我启用了这个叫做“思考检测”的功能,它只是监控其推理阶段。当检测到陷入循环时,它会尝试强制退出思考状态。
启用该功能后,它降到了142,000个令牌?对吗?这太疯狂了。现在有一个运行时错误,它制作了55,000个令牌。所以从超过110,000个令牌降到了55,000个,因为它能够退出那个推理循环。有些人而不是使用某些……
有些人会以更高的温度运行模型。在较高温度下,你不太容易出现循环,因为你不再让模型去推断代码,而是使用随机数生成器。因此,在每一次令牌生成的过程中——也许我在这里给你举个例子——分词器中的每一个令牌都会被采样。
例如,基于这个提示和它拥有的向量,“this” 这个词有88%的概率成为被预测的令牌,这是概率最高的。第二高的是“and”,然后依次下降,百分比变得非常低,甚至极低得离谱,但你有数十万个不同的令牌可供选择。当你引入温度时,它所做的就是引入随机性,
允许模型通过采样来选择,而不是选择概率最高的令牌。现在它可以挑选数十万个令牌中的任意一个。所以在无限宇宙中,你会得到一些非常糟糕的令牌选择。对于编程来说这是个坏主意,因为代码需要结构化。如果排名第一的令牌是花括号,你希望它选择花括号;
但如果你随机选择一个,就会出现编译错误等等。为了解决这个问题,还有与温度配合使用的其他设置。比如 top K、top P 和 min p。Top K 的作用只是限制它可以从多少个令牌中挑选,而不是从数十万个中选,而是说“你只能从前10名中随机选一个”。
在某个宇宙中,它可能选择了退出思考标签(exit think tag),这会完全破坏生成过程。因为我们之前看到,如果你一开始就尝试退出思考模式,模型就会产生幻觉并给出一些疯狂的回答。但如果你将 top K 限制在10个令牌,这种情况是完全可能的。还有其他设置,比如
top P。这个参数表示当你达到某个百分比时停止采样。这里我们设置为95%,这算是大多数模型的标准版本。虽然有些模型声称使用100%也能工作,但我认为他们只是为了基准测试这么做——因为如果你拥有无限的采样样本,其中某个样本可能会得到完美答案,而这就是你提交给基准测试结果的那个版本。嘿,我们生成了这个结果,这样你就赢了。
总之,有了 top P,现在它会说在百分比达到95%后停止采样。所以是88加上8,它会在前两个令牌处停下。因此随机选择只能在这两个令牌中选一个。还有 top P 和 min p,后者限制了它可以从中随机选择的令牌数量。
不过,选择会偏向于概率较高的选项。所以会有88%的倾向性基于那里的概率分布,但始终存在选中最差令牌的可能性。这就是为什么你希望以贪心模式运行它。我以贪心模式(即温度为0)运行,这意味着在每种情况下都选择排名第一的令牌。
但这一次我虽然以贪心模式运行,却启用了思考检测功能,它能检测到循环。正因为如此,它得以跳出循环。经过几次迭代后,我们得到了一个生成结果。总共使用了142,000个令牌,这相当于花费了好几个小时才做出这里的生成内容。
我们得到了一个主题公园的低思考模式版本,可以推这个人,他会跑开,挺有趣的。嘿,你好!你好?所以这是一个很有趣的生成结果。让我们看看能不能坐旋转木马。我们拿到了一些门票,但不幸的是在这个版本中你实际上不能乘坐游乐设施,不过它看起来确实像一个美丽的主题公园,而且你可以与游客互动。
在 minmax 思考模式下推这个人时,他会有点生气。现在我们有了23,000个令牌的上下文窗口,幸运的是我们运气好,第一次就生成了。23,000个令牌就是它生成的内容:我们得到了“混沌公园”,挺酷的。这里的生成结果类似,也许光照或一天中的时间略有不同。
当我在这个版本中推角色时,他们似乎很高兴而不是生气。我不知道他们在做什么,但你因此获得额外分数。让我们看看能不能坐这些游乐设施,那个看起来很有趣。推一下保安,看他会不会踢我——他对此很高兴。
于是我要去坐波浪秋千了。现在你可以乘坐它,我们正在上面!看,我们在骑旋转木马,太棒了,看起来不错也挺有趣。作为对比提醒你一下之前的进度:这个版本在 minmax 思考模式下用了24,000个令牌,而低思考模式在所有运行时错误修复后用了140,000个令牌。
当你开始与模型搏斗、让它正确工作时,可以节省大量资源。希望你已经理解了这里发生了什么。我这里有很多不同的生成结果,其实想全部展示给你看——你知道的?这会是一个超长的视频。我会把它们都展示出来,但你可以随时走神,因为你已经掌握了核心内容。
而且它已经发布了,如果你想自己尝试也可以玩一玩。现在我们要做一个飞行模拟器,低思考模式用了47,000个令牌,确实做出了一个很棒的生成结果。这是低思考模式的效果,看起来非常漂亮:有声音、有控制、还有美丽的程序化山脉。
虽然这里有点尖刺感,但仍然是个漂亮的生成结果——差点错过了!太棒了。minmax 思考模式用20,000个令牌也做出了类似结果,不过我猜它有个运行时错误需要修复。这里的生成结果相似,但当我向左转时它会向右走——我在其他案例中甚至 max 同步模式下也见过这种情况,有时候就是运气不好。
我们正在运行量化版本,但你总是可以增加思考量:不用 minmax 而用 max(比如10,000),这样你可以将思考限制在某个数值,从而获得更好的生成效果。所以 minmax 仍然在工作。
好的,接下来做卡丁车——这其实挺有趣的,低思考模式正在制作中。用了70,00个令牌(注:原文如此,可能为笔误),我们点击播放就得到了一个漂亮的P4赛道,现在可以跑起来了。7,000个令牌?那是两小时的生成量啊!
让我们看看这个花了多少小时。不幸的是,我是分阶段完成这一个的,没有总时长记录。
之前我们提到,在制作程序化阶段时,7,000个token在我的Mac上大约需要2小时。因此,这些生成过程耗时极长。我的Mac Studio被占用了一周多来制作这些基准测试,以便理清所有细节,期间我完全无法使用它。我当时是用MacBook Pro来进行印刻操作的,正因如此,我爱上了Qwen 4 exp。它表现相当不错。于是我们获得了一个精美漂亮的卡丁车游戏,赛道非常壮观,质量确实很好。虽然偶尔会出现运行时错误,但它仍然非常好用。
这边还有一个使用minmax同步模式生成的漂亮作品,它只用了19,000个token。虽然稍微少一些,但这里存在几个bug。如果你看它生成的赛道,会发现看起来非常破碎,因为它的尝试有点过于雄心勃勃了。实际上,赛道在自身上发生了重叠,而且当你左右转向时车轮会显得歪斜,赛道甚至穿过了山丘。所以开箱即用的状态下存在一些bug,可能只是随机种子不太幸运罢了。
我因此变得有点兴奋,不断从左边、右边和中间进行提示。最终token数达到了10万,这在当时对我来说似乎很多——在我刚接触这个领域、还没意识到20万个token需要6小时之前。天哪,那是很长的一段时间。目前它仍然有点破损,你可以看到赛道互相穿插了,但现在已经好多了。看台上出现了人群,那边还有树木生长出来,我们还得到了热气球、特技表演和旋转木马。
这里有个部分坏了,赛道渲染到了自身上面。它还没搞清楚当赛道交叉时应该双向开放。不过车轮确实朝正确的方向转动了,所以只需要再提示一次就能让它正常工作。我们得到了一个漂亮的生成结果。也许我应该要求它制作马里奥赛车,那样可能会更有趣一些。这是使用minmax思考模式生成的乘法分级游戏,处于低思考模式下,消耗了40,000个token。
这里有一个非常漂亮的生成结果。我们回到了吉萨金字塔,不过有点破损了。我看不到赛道,所以即使是在低思考模式下,制作赛道时也可能出现错误。有时候你只是运气不好,随机种子不理想。在minmax思考模式下消耗了16,000个token,虽然token更少,但摩托车朝向反了。所以我直接告诉它修复这个bug,于是我们的token增长到了50,000个。现在我们在寻找一对一的比较对象。
这个赛车游戏的生成非常棒,因为我必须展示给你看:它一开始运行正常,但道路裁剪有些bug。路上有汽车,你必须绕过它们才能得分。让我们看看绕车是否真的给分。这听起来有点疯狂,但接下来摄像头角度会变得真正疯狂起来。不过这种“疯狂”是有趣的那种。我正在绕过这些汽车,我骑摩托车时也会绕路,但看看这个摄像头角度吧!它开始变化并变得怪异了。
我们要进入奇异之地了,我不知道它在做什么,也不知道为什么选择这种透视角度来比赛。我完全不知道前面还是后面有没有车。哦不,我刚撞上了一辆大卡车!所以我决定在路中间行驶,也许这在战略上是最优的。不,那里有一辆车!所以我是在盲骑摩托车,但这里确实发生着某种疯狂的生成过程。也许这就够了吧,我在这些事物上花了太多乐趣了。
接下来我们要用低思考模式制作一个3D平台游戏,目前处于66,000个token。哦,思考中……66,000 token意味着将近2小时的时间。它确实做出了一个漂亮的生成结果!哦,那个后空翻太棒了,非常精彩!这是一个可爱的角色,绝对是这个类型中一个美丽的版本。哦,我想玩这个游戏!哎呀……我刚才错过了平台。
没错,这绝对是一个漂亮的3D平台游戏。唯一的问题是它用了66,000个token,这会是个负担。哦看那个!哎呀……我又错过了平台。不过这确实非常华丽,我喜欢它。使用minmax思考模式时,在所有bug修复后我们也飙升到了44,000个token。我认为第一次制作时开始按钮没起作用,所以我们直接跳进去了。我们得到了一个外观相似的角色,他可以跳跃,甚至能二段跳。
让我们看看……我能上那个平台吗?哦不,我掉下去了。虽然有点复杂,但再次证明这是一个漂亮美丽的生成结果。token更少,但与低思考模式相比,其美丽程度完全相当。哦,这个游戏真让人上瘾!我在跳吗?我要去哪里?我想给这个游戏计时,我以前从没这么做过。好的,我遇到了一个坏人!哦我要做到了……
我拿到了旗帜,关卡通过!我们成功完成了。token更少,但仍然得到了美丽的结果。接下来是《最终幻想7》,我有点想展示给你看,不过确实有个小bug正在修复中。低思考模式目前仍在生成响应,因为之前有运行时错误。当前上下文窗口是110,000个token,我甚至不知道自己在做什么,就是上瘾了。但我现在需要让它停下来,希望这个视频能促使我停止制作这些愚蠢的生成内容。
使用minmax思考模式时,我们应用修复后处于50,000个token。而低思考模式下超过100,000 token,仍有运行时错误;min思考模式在50,000 token时实际上得到了可运行的东西。我可以展示这个生成结果:正在初始化米德加的新游戏,这是《星空坠落》。“很久以前,星球随着直播歌唱……”它有个开场白,你可以四处走动,但我无法真正进入战斗。
算了,忘掉这个吧。接下来我们要制作一个3D行星生成器。使用低思考模式时消耗了83,000个token,这意味着需要2小时来生成这个怪物。我觉得我们做的不是地球,而是月球?那是月球吗?我们可以制作火星、塔图因星球。UI确实非常漂亮,与大多数同类游戏看到的类似界面一样:穆斯塔法和死星。它绝对很美。
我们能发射小行星吗?好的,一颗小行星进来了!撞击产生爆炸,那边正在发生什么。那太美了。再次使用minmax思考模式,那个是49,000个token……
修复工作已经完成,虽然海平面存在一些小问题,但你可以自定义星球来调整这些细节。我们启动了一次测试,结果出现了一场漂亮的爆炸并形成了行星环,视觉效果相当惊人。接下来是动态天气卡片功能,在低思考模式下仅消耗了4000个令牌。模型直接生成了包含晴天、雪天等多种天气效果的精美界面,开箱即用效果很好。
切换到MiniMax同步模式后情况类似,令牌消耗略增至7000个,但演示内容更加丰富。点击不同版本时可以看到细腻的小动画,性价比很高。不过这与最大思考模式仍有差距,后者可能需要消耗10万个令牌才能生成同等质量的内容。目前我们正在制作一个城市场景,这是一个尚未运行的项目,计划使用10万个令牌来构建。
这个交互式城市允许玩家控制人类角色,虽然存在轻微的Z轴冲突问题,但整体效果不错。可以看到商业区、有机场和飞机起降的设施,还有火车在轨道上运行。道路上有汽车转弯行驶,甚至出现了救护车和行走的行人。我尝试点击并控制一名行人,成功接管了角色,这证明生成质量相当高。
然而这次生成消耗了我们总共10万个令牌,相当于MiniMax思考模式下超过2小时的推理时间。相比之下,修复所有运行时错误后的版本仅消耗4万个令牌就生成了类似的城市结构。再次观察时,我们发现了严重的Z轴冲突问题,飞机正常飞出但道路上看不到汽车,火车方向也指向错误。尽管存在这些缺陷,令牌消耗量远低于前一版本,且依然可以控制角色进行互动。
接下来是一个第一人称射击游戏,上下文窗口为7.7万个令牌,同样耗时2小时生成。这是一款僵尸恐怖题材的游戏,如果你害怕这类内容请提前做好准备。敌人会悄悄接近你,我先前往祭坛激活信标,随后环境变暗,僵尸开始从四面八方涌来。必须向北逃跑才能通关,虽然远程操作有些困难,但看到僵尸逼近时的紧张感非常真实。
我被击中后意识到子弹数量有限制,最终被僵尸群吞没,仅存活了1分22秒。这次MiniMax思考模式消耗5万个令牌,比之前的7.7万少很多。生成的游戏版本非常相似,但僵尸直接出现而非通过祭坛激活,光照条件更好一些。尽管远程操作导致控制有些卡顿,但僵尸模型设计得很酷,我尝试爆头未果后再次被击败。
这次生成虽然令牌消耗更少且效果相似,但确实存在细微差异。我制作了许多不同的内容,包括各种游戏和场景展示。由于视频已经足够长,我决定在此收尾。这是一次非常成功的生成体验,让我对GLM 5.3在消费级硬件上的可用性充满期待。我们使用的是INF版本模型,智能程度高于标准Q4量化版,具体对比可查看之前的视频。
现在我们已经掌握了限制思考深度的技术技巧,避免了因简单粗暴截断导致的生成质量下降。通过允许模型自然退出思考过程,我们能在保持高质量的同时减少资源消耗。值得注意的是,该技术具有语言无关性,我在普通话环境下测试后确认依然有效。希望这个视频对大家有所帮助并带来乐趣。整个实验过程耗时23,000秒,也就是整整6个小时。