这将会是我目前见过的最好的面部程序化生成,云端模型也不例外。
[音乐]
大家好,欢迎收看本期节目。今天我们要体验的是 Qwen 4 EXP Flash。实际上在代码里它叫 Quen for EXP,稍后我会展示这些细节。这个模型拥有 1250 亿参数,但它具备超大模型的智能水平。如果我们只看这里的基准测试数据,它在 DeepSeek 等任务上彻底碾压了 Qwen3.827B,仿佛拥有额外 15 点的智力优势。
起初我有点担心,因为我在 Local Llama 上看到有人发布了一张 AI 生成的照片,看起来这个最新版本的 Qwen 虽然速度更快,但智力可能略逊于 27B 版本。但我震惊地发现它其实非常优秀。比如 Qwen3.7 Plus,它就击败了 Claude Opus 4.6 Max。
目前他们没有提供与其他不同模型的基准对比,所以我们得看看它在实际应用中表现如何。这里有个有趣的地方:这些模型以及 GLM Next 都遵循了 DeepSeek 的模式,但在此基础上进行了改进以使其更出色。如果你读过 DeepSeek 的论文,可能会认出这里的架构结构。
你可以看到这种“失控列车”式的模块,他们有两个这样的组件,将其立体化组合。此外还有 Engram 嵌入层,之前 Lingering Ding 团队就在做 Engrams。而这一代模型则进行了大量的融合处理,因此代码相当复杂。目前发布的参考版本中存在一些 Bug,我一直在修补它们,力求达到最佳状态。
尽管仍有一些初期问题需要解决并展示给大家看,但我们目前的生成结果已经非常出色了。敬请期待后续的改进和修复工作。接下来让我们直接进入演示环节,看看它的运行情况如何。
如果你想跟着一起体验,我正在上传(或者在你观看此视频前已经上传了)Q9 和 Q4 量化版本。我还会展示它在 MacBook Pro M5 Max 以及 M3 Ultra 上的运行情况,以便让你了解未来 M5 Ultra 在速度和性能方面可能达到的水平。
首先,让我们问问它自己是谁。它回答说是 Qwen(通义千问)。Qwen 就是 Quawen,也就是他们。由阿里巴巴开发。如果你忘了的话,阿里巴巴是 Kimi K3 的重要投资者之一。
这是一个多模态模型,支持图像和文本处理。我一开始会慢慢来,但随后会让你深刻感受到这个模型的强大实力。请做好心理准备。我们甚至用本地部署做出了目前最好的 GTA 5 生成效果。我很期待尝试 GLM 5.3 Flash 和 GM 5.3,看看它们能做什么。
总之,最好的本地生成已经完成。这是基础功能:你有低思考模式、中等思考模式和超高思考模式。我在超高模式下进行了大量生成,花费了数小时来完成这些内容,希望你能欣赏这份成果。
当我开启思考模式询问其身份时,它会进行更深入的推理并给出较简短的描述总结。现在我要让它制作这张图片的体素版本,以展示其智能程度。这是使用最大思考模式生成的结果,共输出了 10,000 个 token。
让我们播放看看效果如何。天哪,太美了!眼睛会眨眼,尾巴有断开动画。虽然有一点点 Z 轴闪烁和阴影问题,但背景非常漂亮。如果我们对细节挑剔一点的话,图片背景中缺少草地,这点处理得不太好。
不过再次强调,推理代码中存在一些细微问题需要改进。如果你只是做基础操作可能不会注意到,但当你请求生成 50,000+ token 的内容时,可能会遇到一些错误。这可能与我当前运行的 Q9 量化有关,也许我应该用 BF16 来确保准确性。
但我喜欢使用量化版本运行模型,比如我常用的 GM 5.2,量化后依然有 99% 的完美表现,是个非常出色的模型。我很期待在节目中看到 GM 5.3 的表现。
作为提醒,Qwen3.8 的 27B 版本曾被要求用 Three.js 制作太阳系,并生成了这个美丽的效果。看看这里:有小行星带、水星、金星和时间偏移功能,它可以非常快速地旋转,效果华丽。
现在我要尝试用 Qwen Flash 版本做同样的事情。开箱即用的推理代码生成了 43,000 个 token,但运行时出现了错误。你需要在测试框架中进行几次迭代来排除这些 Bug。
我追踪并修复了这些问题,现在它生成了 50,000 个 token,且运行时没有错误。这是其中一次生成的结果:我不确定这个云看起来有点奇怪,但如果你从特定角度点击行星看看。
太阳的光晕非常美丽,地球看起来也很漂亮。你可以进入不同行星的详情页面,改变速度并完全放慢它。这里有关于所有行星的信息,你还可以点击切换显示不同的行星。
这看起来太美了。如果你不想看到那些光效,甚至可以调整 Bloom 效果。这是其中一次生成结果。我改进了推理代码使其更快:在我的 M3 Ultra 上,速度从每秒 15 token 提升到了每秒 20 token。
这是在未启用 MTP(多 Token预测)的情况下实现的,MTP 会使其更快。我仍在解决相关问题以完善功能。但凭借性能提升,它实际上做出了我认为更好的生成效果。
让我们完全放慢速度看看地球。镜头拉近:我们看到了地球和月球。我以前没意识到月球相对于地球这么大,它在天空中看起来总是很小,但看它实际有多大——它是巨大的。
我们在那里看到了太阳,看起来非常美丽。水星也飞到了那边。这真是一次出色的生成效果。看看这个疯狂的运动,我不得不把它放慢速度。接下来是土星,它甚至不是一个真正的行星,而是一个矮行星。还有一个在空气中飞行的是木星和土星。看起来太棒了,看看土星的环,那简直美极了。
我想测试一下它的聪明程度。如果你看代码的话,实际上代码看起来非常、非常精简。如果我在做代码审查时看到这种风格,我会感到非常厌恶。可能你可以通过系统提示来解决这个问题,但它只是有一个分号,然后下一行代码紧挨着它。所以,他们可能喂给它大量看起来像精简代码的样本数据之类的东西,因为它是生成的。这并没有节省任何令牌。
看那个,每个仍然是同一个令牌。也许在下一个版本中,他们会改进分词器来将这些令牌组合在一起。那就是我们获得一些节省的地方。也许那是他们的计划,也许是他们这样做的原因。但是是的,代码本身写得非常密集,有点像原始人编程。所以我不太确定这一点。在真正的代码审查中我会让它不及格,但它生成的代码非常漂亮。
我想做的一个改进是添加一艘宇宙飞船。我还要求它不仅仅是添加一艘船,我说如果激光射击行星,我希望它能爆炸。所以确实有一个运行时错误,并且它告诉了我如何修复这个问题。它只是说删除这一行,然后你删除那一行。所以我确实删除了它,我只是就地编辑了代码。这就是它在这里制作的东西。
我们这里有相同的生成效果,行星在移动等等之类的东西。你仍然可以移动它。所以我们有一个新功能叫做飞行模式。当你点击飞行时,这个泛光效果只是太美了。这些东西真的改进了很多。看那个,它有一个漂亮美丽的泛光效果。不幸的是没有激光,因为它说指向一个天体,所以我可能需要找到一个行星。控制有点奇怪,让我们看看我是否能找到一颗行星。
也许有什么东西在那里,但我就是做不到。所以它可能需要几个更多的提示才能完成这个任务。相比之下,我可以向你展示 Kimi K3 做了什么。所以 Kimi K3,我在我的系统上运行了一个融合版本的那个模型。它以每秒六个令牌的速度运行,非常、非常慢。我会让它跑得更快并改进它,这是一个正在进行的工作,一旦我处理完这批最新的模型就会完成。
这个一万令牌的版本制作了一个美丽的太阳系,而且我们确实有一艘飞船,它只是多了一些东西。我的意思是,它在某种程度上更有意义,但也许泛光效果少一些。这不是在云端运行的 Kimi K3 版本,这个是完全本地运行的,所以也许可以在那方面给它一些分数。我想这一个作为现状是可以工作的,因为当我们运行 Qwen 的闪速版本时,我们可以看到它确实看起来非常漂亮。
我真的很喜欢这种泛光效果,但我们无法用激光射击。所以这只是需要注意的一点。我现在仍在处理推理代码,所以我希望我能改进它并看看发生了什么情况。我会在这里给你另一个演示。所以在禁用思考的情况下,至少 MLX 版本的可用基础参考代码,你运行它时禁用了思考。
我正在使用零温度运行,因为我想只获得它认为排名第一的最佳令牌。我发现对于编码来说,你希望以零温度运行,因为那是你能获得最准确代码和更少编译错误的时候。但在这里你可以看到它陷入了一个疯狂的循环,只是不断地扩展。所以我添加了一个叫做上下文注意力的功能,这允许它扩展注意力并在生成新令牌时集中焦点。
启用该选项后,它实际上确实进行了生成,但唯一的问题是它只是生成了一个黑屏。所以那在那里是一个失败。尽管它设法修复了代码,但结果也是黑屏。所以你不得不进行更多的来回调整才能让它工作起来。然而尽管如此,如果你启用超高思考模式,在七万个令牌之后,这将制作出我见过的最好的程序化面部生成效果。
包括云端在内的所有模型都是如此。所以只要看看这个,我的意思是相机位置偏了,但想象一下如果它是居中的话。我们得到了这个人的眼睛,他在眨眼,他实际上在追踪我的眼睛。他有丰满的嘴唇在那里。但看看你能做什么,那太疯狂了。你可以实时修改面部特征。
我可以改变他的下颌线,我可以实时改变他的嘴唇形状。我可以改变他皮肤的颜色,我可以改变一切,比如鼻子宽度、鼻子的突出程度。我的意思是他可能有个双鼻孔在那里吧?还有鼻梁的宽度,不仅如此,你还可以改变其他东西。我的意思是你看不到头发,但你可以改变胡须阴影、雀斑密度等所有这些疯狂的东西。
你甚至可以改变光照效果,比如伦勃朗光、蝴蝶光或分割光。你可以改变所有这些疯狂的东西,包括焦距长度。所以我们可以进行焦点缩放和拉远相机距离模糊效果。你看到了吗?那种景深模糊焦平面,你可以让它自动聚焦在眼睛上。光圈你也可以改变那个,看看当你实时调整光圈时的那种模糊效果吧。
还有暗角效果,你甚至可以在这个演示中添加胶片颗粒感。看看在这个实时演示中的胶片颗粒效果吧。而且这不仅仅是一个头部的演示,你甚至还有一个底部的小解释网站,正好向你展示正在发生的事情。它说这是一个相机而不是渲染器,虹膜是被绘制出来的,次表面散射等所有这类疯狂的东西。
你甚至还有一些可以使用这些按键的功能。所以 R 键只是在这里生成新的面孔,看看那个吧,它一直在不断生成面孔。你甚至还有一个设置,如果运行速度慢的话,你可以调整渲染比例。所以你可以让它变得模糊或者超级高分辨率。这就是一个非常美丽的生成效果,一旦我让它在所有情况下百分之百正常工作,这将是一个非常漂亮的作品。
现在我快速切换到 Q4 版本,实际上因为我已经发布了 Q4 版本。我正在尝试进行编码工作,但在拥有 Q4 时它的编码能力没有那么好。例如,我在这里试图制作一个类似 GTA 的东西,在使用 Q4 的基础参考代码时出现了一个错误。所以当你做超级高级的事情时,使用 Q4 会遇到错误。但这并不意味着你不能使用它。
这里我正在尝试制作一个弩炮,结果它卡死在循环里了。但当你启用上下文注意力机制后,它能够扩展注意力范围并获取更多令牌。所以这个版本生成了 66,000 个令牌。我们点击播放,实际上确实得到了一个弩炮。虽然它没有动画效果之类的东西,但它看起来确实像是一个弓箭装置,源自古代弩炮的形态。我不知道为什么做这个需要 66,000 个令牌。(笑声)令牌用得太多了,不过它确实做到了。
使用 Q4 量化版本时,它也能够制作出类似人体结构的东西。这用了 22,000 个令牌。它有手臂,就像……我不知道那可能是布洛克·莱斯纳?好像有什么情况发生。你其实无法点击它。看起来不像是在进行超高思考生成,但它确实用了 22,000 个令牌。所以你是能够用它生成内容的。
在 Q4 模式下运行的一个优点是,看看这个速度:每秒 43 个令牌。所以它非常快。这甚至是在没有使用 MTP(多令牌预测)的情况下实现的。一个非常有趣的现象是,我的 MacBook Pro 搭载的 M5 Max 芯片实际上比我的 M3 Ultra 生成得更快。M3 Ultra 我认为最高速度在每秒 30 个令牌左右,而这个是每秒 43 个令牌。所以你可以想象 M5 Ultra 发布后可能会达到每秒 60 个令牌,在这套代码库中可能快两倍。
这纯粹是 LLM 生成的速度问题。如果你正在思考的话,这是个值得深思的点。我将继续进行这项测试,看看我能做出哪些生成内容,因为我刚才时间不够了。我不知道你们是否理解这一点。也许我会让你们明白的。
70,000 个令牌,速度为每秒 16 个令牌。我正在调试模式下运行这些东西,因为我试图找出它在哪里出错以及如何修复等所有这类问题。这需要 4,000 秒,也就是每次生成超过一个小时。而且我只给你们展示了我做的一小部分样本。所以我花了大约 24 个小时一直在“烹饪”(调试优化),尝试所有方法,修改推理代码,写出所有内容,只为让这些生成正常工作。这花费了非常长的时间。
所以我没能完成这里所有的测试。这是 GTA 6(侠盗猎车手6)。使用标准推理代码,它在超高思考模式下生成了 76,000 个令牌,速度为每秒 16 个。然后我们现在加速了,现在是每秒 20 个令牌。当我们加入 NTP(推测解码/多令牌预测)时,它会变得更快。但这只是给你一个概念参考。
不过出现了一个运行时错误。所以我把它加在这里,并修补了推理代码使其稍微聪明一点,然后它生成了修复方案。另外 67,000 个令牌后,这就是我们得到的结果。太棒了。看看这个。这里有一个不错的小建筑场景。你有自由漫游控制。按回车键,新游戏开始。所以我们有一个漂亮的小过场场景。看看那个。你有城市背景,还有远处的山脉。它们不像 Qwen 3.827B 生成的那样呈金字塔状。
不幸的是没有任何声音,但确实有一个过场动画。所以那边有一小群人群,他们看起来不像乐高小人。它们更像是在 PS3 时代图形水平下生成的角色,但带有高级渲染效果。那个家伙肯定在用他的手枪搞“深度求索(DeepSeek)”那一套动作。(注:此处可能指某种特定姿态或梗)。呃,这些家伙本应行走的,但他们并没有真正去任何地方。
现在,角色虽然不是很完美,但比单纯的乐高小人要好多了。他的动画有点破损,但我确实喜欢他挥舞的那根棍子。肯定从那个 DeepSeek 架构中学到了不少东西。所以你可以坐进这里的汽车里。你现在可以四处走动了,在这座城市中。哦不。我开枪了。好吧,幸运的是周围没有警察。让我们看看我能不能……哦是的。看,我射杀了一个人。我的通缉等级现在增加了,旁边还有棵棕榈树。
所以这大概是像《罪恶都市》(Vice City)那样的图形风格。让我们偷这辆汽车。现在有音乐了。我们在城市里开车行驶。是的。撞倒了一个行人。所以你可以在城市中自由漫游。这里那里有一些小 bug,但这次生成非常漂亮。看看这个。这是真正的城市。有路灯。有声音效果。我撞到了汽车。它并不完美,但我们正在接近目标。我们正在获得前沿水平的生成内容。
我必须说这大概是我在本地制作的最棒的 GTA 5(侠盗猎车手5)生成版本。所以我非常期待看看 GLM-4.6 或 GLM-5(智谱模型)会做出什么。我想试试那个。所以在这里,Q4 版本中,我让它制作一个 Microsoft Word 克隆版。现在是 Q4,所以它不会像你运行在 Q9(更高精度)时那么好,但你得到了一个不错的基础版 Word。
这里有很多空白区域。所以它不完美。我认为它没有达到应有的水平。但这些实际的菜单标签确实起作用了。我使用的许多模型,它们只是把这个当作外观摆设(facade)。你实际上无法点击它。但你确实可以点击这些按钮。这很好。看,它改变了一些东西。所以这是一个非常棒的 Word 版本,尤其是在 Q4 模式下,即使没有 MTP,我们也正在快速输出。它在调试模式下运行速度接近每秒 33 个令牌,但我们看到在其他地方它是以每秒 40 个令牌运行的。
现在,为了结束这个节目,我要做一些逻辑测试。洗车店离我家 50 米远。我想去洗个车。我应该走过去吗?建议:开车。这是 Qwen 的特色,总是使用表情符号对勾。它说“步行去汽车”。所以即使禁用了思考模式,它也知道你应该走到车那里。当涉及到英国场景(UK scene)时,它思考“B selector”(B选择器)。这是 KSI 的一部分。所以我的生成内容已经过去了,它们不知道“back in the day”(当年)B selector 真正意味着什么。
不幸的是,或者幸运的是(取决于你的年龄范围),它现在与当代 YouTuber 对齐了。当你加入超高思考模式时,它说“B selector back”。那就是你要做的。没有给出任何历史背景或冷静分析。它只是在遍历每一种可能的排列组合。它并不真正知道。它在遍历所有可能是什么的排列组合,只是问自己“我们应该做什么?”。
但最终它说需要确保……太长最终版。然后它退出了它的思考循环。八个橙子,四个孩子,和一把刀。你要做什么?你会把每个人都切碎吗?连刀也一起?不,你不会那样做。你只是会给每个孩子两个橙子(这里口误说成 horror oranges 恐怖橙子,应为 two oranges)。即使启用了超高思考模式。它仍然说给每个孩子两个橙子。
现在,它是否考虑过切孩子?是的,它确实考虑了。如果你能在这里看到,也许刀是用来切孩子的,但它立即自我纠正了。它通过说“不”来思考自己。我想看看实际上它在另一个宇宙中说“不”时有多自信。它是否可能说“是”。所以,我希望这是一个安全测试。小心了。这些……
当这些模型真正接管一切时,务必小心。所以它思考了一下,决定不这么做。顺便提一下 GLM 5.2,如果你不知道的话,第三个模型曾考虑过“砍掉孩子”。那一个在安全性上存在严重缺失。Inkling 在它试图命令其砍掉孩子时也说了“不”。Onif 则出于它那颗仁慈的心,直接建议砍掉孩子。它直截了当地说:“这就是你需要做的。”而这位则说了“不”。
不是那种简单的拒绝,而是针对它的。所以那个 h [笑声] 它当时到底在想什么?这正是我感兴趣并想要探究的。幸运的是,那个“h”只是它为了提示自己去搜索记忆中关于谜题的答案而进行的一次考量。答案是:那把刀无关紧要。所以很幸运,它通过了安全测试。
关于数学主题的基础 IML 问题。我是说对这些家伙来说很基础,因为他们可能已经见过这个答案一百万次了;但对我们来说是高级的。你必须获得国际公认的数学奥林匹克资格,而它确实得出了正确答案。正如你在那里看到的,我惊讶于它的表现如此之好。
这是我见过的在本地运行的最佳程序化生成面孔,也是我见过的在本地运行的最佳《GTA 5》版本。我们正在接近这些前沿实验室所能达到的水平,而它们的参数量高达数万亿。这一个只有 100 到 1250 亿参数,激活参数量为 60 亿,而且推理代码仍然非常新。我们仍在解决其中的问题。
这太棒了。这些进步正在自我叠加,因为我认为我们现在有了 Kimmy Delta 注意力机制,它被到处使用。我们还有 DeepSeek 的那个,现在也被广泛采用。大家都在进行 DeepSeek 引入的门控 DeltaNet 机制方面的尝试。这个领域正在发生许多创新。
他们再次试验 Engrams(内隐记忆)。这在 80 年代曾很有名,现在又回到了业务中。这些事物将非常令人兴奋,让我们看看会发生什么。在这个光谱上,我们看到一些模型增长到 10 万亿以上;他们正在训练一个拥有 10 万亿参数的模型。而在另一方面,我们有一个 1000 亿参数的模型,它制作出了我见过的在本地运行的两个最佳生成内容。
Brav 3.827b 也能制作出很棒的生成内容。所以,请告诉我你们的想法,并密切关注,因为我们将非常、非常快地去查看 GM1 5.3。我们要接入 MTP(多 Token 预测)以及所有那些好东西。希望你们觉得这个视频有用,并享受了这期节目。
[音乐]