还有这个，它看起来有点邪恶。它有眼睛，戴着防毒面具。那大脑里生长的是个胎儿吗？也许这就是思考机器内部正在发生的事情。我们正在查看 Thinking Machines 的 Inkling 模型。这是美国最大的开放权重模型。如果你不知道的话，Thinking Machines 由几位 OpenAI 团队成员创立，就像 Anthropic 一样。他们甚至拥有 OpenAI 的首席技术官，并且终于发布了他们的第一个模型。

这是一个万亿参数规模的模型。如果你仔细看，它是一个通用多模态模型，接受图像、文本以及音频输入。这实际上非常关键，因为我发现它比任何其他模型都做得更好的地方在于音频推理。我们将给你一个例子，因为它有 9750 亿参数，接近万亿规模。如果你在这里看，他们说他们很厉害，是世界上最好的人。

他们甚至有一些基准测试数据。他们说其智能水平介于 Kimi K2.5 到 Kimi K2.6 之间。Nvidia 大约一个月前发布了 Nemotron 3 Ultra，那是截至上个月美国最大的开放权重模型。有趣的是，Nvidia 投资了这些家伙。根据他们的基准测试，他们击败了 Nvidia 的模型。

这个模型有一个棘手的地方，因为它具有量化感知训练。如果你实际检查所有权重，你会发现它们变化很大，波动非常剧烈。因此，将这个模型量化到可用的智能水平相当棘手。我将只运行量化版本，并给你一些关于其进展的反馈。尽管如此，还是有一些好的结果，所以这很好。

在测试中剧透一下，它实际上以低得多的量化精度表现得比 Nemotron Ultra 更好。所以让我们看看能得到什么结果。我们将直接进入 Infruner，就在这里。是的，这是第一个问题。我实际上还有一些测试正在运行，希望在我们完成这个视频之前能结束。阿尔巴尼亚在 Thinking Machines 上投资了多少？

这是一个工具调用。我启用了名为获取网页内容的基本工具，它允许你调查一个网页。我没有告诉它要查找哪个网页，并且我禁用了思考功能。但它自行决定去了维基百科。看那个，“获取网页内容”和“维基百科 Thinking Machines 实验室”。所以它是从自己的记忆中选择了去那个链接。

它从维基百科获取了结果，并且实际上得到了正确答案。阿尔巴尼亚政府在 Thinking Machines 上投资了一千万美元。你可以就在那里看到，一百万需要对该国2025年预算进行修订。实际上，为了好玩，我将向你展示这个工具调用的实时运行过程，不过我要启用最大思考模式。

你可以看到，它有思考关闭、最小、低、中、高和最大。使用最大思考时，它确实做了一些额外的特别事情。所以我在这里启用工具调用，并再次运行该提示词。我将取消当前正在进行的生成过程。你可以立刻看到思考功能在做什么，它正在调用一个名为谷歌.com的工具，完全是出于它的记忆。

使用谷歌的结果显示你需要证明你不是机器人。所以它没有那种能力来做到这一点。它在尝试看看是否能绕过谷歌。记住我们运行的是三位数量化，所以我甚至惊讶它能工作。现在它选择去 TechCrunch 或 Argina。Argina 可能是谷歌的一个变通方案，并获得了结果。它说无法访问 Argina。

于是它决定现在去 duck.go 获取这个信息，砰的一声，我们实际上有了响应。我们可以看到有一千万美元，所有迹象都指向那里。所以它应该实际拥有答案。它正在处理该响应，砰的一声，它说投资是一千万美元或十亿美元泄漏？它在思考如何回答以再次检查。

它还去 gazette.net 进行彻底的研究，只是为了三重验证这个响应上的结果。这是递归的阿尔巴尼亚响应，再次获得一个结果。所以当你使用最大思考加工具调用时，它不仅仅停止在一个来源上。当谷歌说你不能使用时，它也不会就此止步。它在尝试绕过障碍，做所有这些聪明的事，我觉得这相当不错。

这个页面在付费墙后面。我们要查看这里的文章。它继续不断，有点像我们看到的 Kimi K3 那样。它是内置了框架以确保一切正常工作。这个也内置了框架来执行所有工具调用。当然，你可以只是禁用思考功能，你仍然会得到正确答案。但我觉得这只是个有趣的事情分享。

现在我要回溯到我一直在做的所有测试。首先，我们要做数学题。不幸的是，我正在运行 Q3 量化，这非常糟糕。所以它在数学上不工作，你会得到错误的答案。我的意思是，你可能可以做基本算术。比如，让我们试试基本数学：2 乘以 2？而 2 乘以 2 是四。

所以它不知道如何做基本数学，但我指的是高等数学。它不行。我试过禁用思考功能，失败了；最小思考失败；最大思考产生了 56,000 个推理令牌来弄清楚发生了什么，但它仍然得到了错误的答案。这很可能不是模型本身的问题，纯粹与量化有关。

这是一个万亿参数模型。他们没有进行量化感知训练。因此很难量化的比特保真度，它们有点杂乱无章。所以很难将它们放入正确的行中。一件实际上非常有趣的事情是，这与 GLM 5.2 的做法相反。这个谜题是你有八个橙子、四个孩子和一把刀，你需要均匀分配它们。

让我们开始思考并显然答案是给每个孩子两个橙子。但这里有一个点说你可以切每个橙子。当你看橙子的替代令牌时，它在思考的是孩子、橙子和橙子。所以它考虑的第三受欢迎的令牌是孩子。这很可怕，因为当我们对 GLM 5.2 做那个时它去了……

之前那个模型会直接执行“砍下孩子”这样的指令，因为它缺乏推理能力。但这次不同，他们显然内置了某种安全机制：当你选择“砍下每个孩子”这个令牌时，模型会直接回应说“不，这很黑暗”。它拥有我们之前在其他美国模型中见过的内置安全机制，用来阻止你执行这类操作。今天我要展示的内容是

实际上这个模型会非常出色。它将进行代码编写，同时支持图像推理；稍后我还会在结尾展示音频推理，以证明它在这方面确实非常优秀。不过这里我正在运行 Q3.7 比特量化版本，比我之前发布在 Hugging Face 上的那个略高一些。如果你想跟着一起体验，我发布了 Q3 版本。看看

它的图像推理能力：将一只猫转换成花瓶。这就是全部内容，你可以随意把玩。之前有一个早期版本仅包含语言模型部分，所以只支持文本推理。但新版本更新了权重。如果你下载了旧版本，请直接下载新版，因为它包含了音频和图像推理功能。尽管如此，这个版本是 3.7 比特量化。我正在让它制作一个

美丽放松的飞行模拟器。我在 Reddit 上看到了这个，有人非常喜欢那里的生成效果。所以让我们看看它能做什么。尽管鼠标移动方向不对，而且实际上没有飞机，但 Inkling 生成的这个画面非常、非常美丽。我不知道我们是如何从如此低的量化版本中获得如此高质量的生成内容的。这绝对很美。其他

我见过的模型，它们确实有声音、有飞机等所有那些元素。但我想展示的一点是：当我最初使用 Q3 量化版本（即已发布的那个）运行时，你可以看到纹理有点过曝，几乎看不清发生了什么。为了测试图像推理功能，我对这个画面截了图。你在这里只能勉强看到飞机。我

说：“嘿，它有点发白。”如果你看它的推理过程，它会写道：“用户表示图像过曝、缺少纹理。查看之前的输出，场景确实非常明亮且褪色。”所以它能够实际查看我提供的图像，并尝试给出修复方案。在 8000 个令牌之后，我们可以看到飞机的发白问题已经

修复了。它看起来不如 3.7 比特量化版本质量高，但考虑到它在没有编译错误或运行时错误的情况下生成了这些内容，这已经非常好了。因为通常在 3 比特量化下，你会失去模型的大部分潜力。所以它实际上生成了可运行的输出，这已经做得很好了。接下来我们要尝试一些冒险的内容。我们可能看过

Kimi K3 的演示，并试图重现《洛奇》（Rocky Balboa）。让我们看看它生成的其中一个版本。我们尝试创建一款《洛奇》电影的游戏版。这不会太糟糕哦，G 击打！你要吃闪电并劈开雷霆。显然纹理中存在一些 Z-fighting（闪烁）问题，这可能会让人烦恼。所以你得走上台阶。这是

第一个测试。屏幕上其实没发生什么，但你能听到它在播放某种钢琴曲来告诉你正在发生什么。然后我们要开始打沙袋了，所以你得点击肉块来进行拳击。现在到了关键时刻：洛奇，我要你为自己赢下比赛。砍我！砍我！（注：此处语音识别可能有误，原意应为经典台词“Hit me!”）。所以这是电影中的经典独白。而且没有明天了（There is no tomorrow），这出自《洛奇 4》。我觉得我引用错版本了。所以现在

我们正在与钢琴一起进行战斗，我正在击倒克里德（Creed）。显然屏幕上实际上什么都没发生。而且尽管我已经把他打倒了，游戏似乎已经结束了流程。所以这里有几个 bug，但确实存在一些潜力。看，它有观众席，游戏内部还有一系列小游戏。显然在 3 比特量化下

你无法获得很好的结果，但我还是决定展示给你看，因为这很有趣。我们尝试制作《侠盗猎车手》（Grand Theft Auto），它告诉你这不是 GTA 5。它对这一点非常坚持。你可以向前和向后移动，并且可以看到车轮旋转方向是错误的。所以这肯定是量化过程中的一些损失，但事实是

它实际上在 3 比特下生成了这个内容且没有运行时错误。我记得当我运行 Neutron Ultra（注：可能指 Nemotron 或其他模型）时，尽管我们做的是大约 5 比特左右的量化，大多数时候它都无法运行。全程都是运行时错误。而像这个模型一样，如你所见，正在发生一些美好的事情。接下来

我们要尝试制作《荒野大镖客》（Red Dead Redemption）。当时我正在生成这个版本的中间，所以我会继续完成它。看看效果如何。但我制作的其他一些版本虽然破碎却非常搞笑。“在空气中……9 美国边疆。”>> 所以它在做 TTS（文本转语音） >> “鲜血与救赎” >> 《荒野大镖客》向西进发。>> 所以 >> “荣耀，但为了他留下的家人。”有些赌注只能用……支付。>> 所以那就是

那款游戏了。它有点像一匹马，你可以控制它，并且确实有一些射击动作正在发生。马背上有个小牛仔。游戏有点破碎，但其中存在潜力。有点像《乐高世界》（Lego World）。我记得一年前使用 Kimi K2 时，我们得到的质量水平大概就是这样。所以也许这是他们模型的第一版

（version one）。希望版本 1.x 或第二版会有所改进。显然，如果我能让它跨多台计算机运行以获得高保真量化，我可能会得到更好的结果。但事实是，在 3 比特量化下我们得到了不错的东西。现在我们要尝试重现《最终幻想 7》（Final Fantasy 7）。如你所见，这是一次性提示词。所以它

成功生成了代码且没有运行时错误。所以我们再次点击播放，然后开始 >> 世界现在。[音乐] >> “你醒来了。星星正在死去。我们必须阻止它。”泽普（Zepper，注：可能指 Sephiroth）不得不等待。但我不会让这个世界终结，即使我必须独自面对他。”>> 好的。所以我们要 >> “握住钥匙”。>> 我们现在正处于最终战斗中。只需在屏幕上点击即可。>> “我们赢了。”>> 你看，我们拯救了

世界。[笑声] 我并不是想向你推销这个免费比特量化版本（注：此处语音识别可能将 "free bit" 误听，结合上下文应为 "3-bit"）。我只是想告诉你，我们成功用 3 比特量化生成了一些代码。没有运行时错误，而且确实存在一些潜力。所以对我来说这相当惊人。是的，这个实际上很好。这是

《Outrun》（跑车浪漫旅），一款 80 年代的游戏。记住，这是一次性生成且没有运行时错误

我们按下播放键，看看屏幕上的景象。这画面简直令人疯狂！屏幕上运行着某种《Outrun》风格的场景，画质让我仿佛回到了ZX Spectrum时代。虽然这一代游戏的图形显然比那个年代好得多，但看着树影婆娑的赛道，感觉非常相似。这有点像目前Kimi 2.7能做到的效果，不过现在还有点不稳定。一方面这是提示词的首次尝试，另一方面我们是在3比特量化下运行的。接下来我们要让它再次生成一个照片级逼真的3D人脸，结果看起来相当不错，很有潜力。

接下来的这个案例我尝试了好几次，这次生成效果惊人：有眼睛、嘴巴和一个蛋形轮廓。相比之下，之前用GLM 5.2在Zai上生成时，它只做出了一个土豆并称之为人脸。为了良好运行我们不得不进行本地量化处理，但这次生成很特别：它自行绘制了纹理。通过搜索“眼睛”可以看到程序化纹理生成的过程——没有图像资产，而是用Canvas 2D绘制眼、鼻、嘴并贴到蛋形上。这种思路非常巧妙，消耗了9000个token，速度约11.2 token/秒，内存占用418吉字节。

我们也遇到了一些奇怪的生成结果，比如一个“土豆先生”头像。制作人脸对模型来说确实很难，是个很好的测试题。第一个我生成的角色叫“Spacey”，不知道它在想象什么：有眼睛、大嘴巴，也许戴着面具？大脑正被人工智能接管——或许这就是思考机器内部发生的事。接下来我们要做《超级马里奥兄弟》，碰撞检测在这部分没起作用，可能需要提示词修复。虽然能收集物体且有关卡结构，但这不是我们做过的最好的马里奥版本——不过Frontier Labs的Gemini Pro做的也很糟糕。

这个案例其实很棒，因为我给它看了一张猫的图片。如果你想推理图像，需要勾选多模态按钮。我说“为我创建这只猫的3D动画体素版本”，它思考了10000个token后，没有运行时错误！之前用Qwen 397B或MiniMax时偶尔会出现量子错误或运行时报错，但这次直接成功。我们得到了一只猫，尾巴还能独立动画——有时模型只会上下呼吸而已。这里有点Z-fighting现象，但在3比特量化下能做到这样非常令人兴奋：我很好奇它在8比特下的表现。

我知道这个模型发布时正好接近Kimi K3的发布时间，很多人说它的基准测试相比其他模型就是一堆垃圾。但考虑到这些实际表现，它确实获得了不错的反馈。最后我想展示一些音频推理的例子——这在我的电脑上运行。之前我说“Previously on Dr. Nora”，它准确逐字转录了这句话。你可能觉得这很简单，但下一个最好的模型Gemma 4 E4B会转录成“Previously on Dr. Nora”，然后当我问声音是男是女时，它说是女性——错了！我是男性。

不知道Gemma 4 E4B是用什么女性的声音训练的，但这明显错了。如果切换到更大的Gemma版本，除了新的120亿参数统一版外都没有音频推理功能。那个新版本在开启思考模式时会转录成“Previously on Doctor Who”，当我问声音性别时，它会重新监听音频——这是Jima 4的优点。它说：“这是一个深沉、共鸣且略带戏剧性的男声，听起来像专业配音演员。”所以声音是男性。回到Inkling关闭思考模式时，它说：“正在监听音频，说话者有深沉共鸣的声音特征，属于男性。所以答案是男性。”

它立刻知道我是男性，因为它能实际推理音频内容，而不是像早期Gemma 4 E4B那样只读取转录文本。我认为这非常特别：它是最大的具有音频推理能力的开源权重模型，而且音频模块本身很小。但它能与如此庞大的数据库交互处理音频和图像，产生令人惊叹的响应。你们怎么看Thinking Machines首次推出的最大美国开源权重模型？我必须承认它采用Apache 2.0许可，商业开放度很高。你们兴奋吗？期待他们跟随中国实验室推出3万亿参数的第二版吗？我们需要更大的计算机，甚至要开始合并我们的推理资源。

我一直想做全球分布式推理——把大家的电脑连接起来。如果我们想运行这些超大模型，恐怕必须这么做。如果有人感兴趣，特别是想做Kimi K3的，请给我发邮件，也许你可以成为在线推理池的测试者之一。我会做一个高性能……

……它的量化，只是看看它能跑多快，因为我在自己的系统上根本运行不了。所以也许如果我再多弄几台电脑，我们可以搭建一个类似网关的东西，直接测试一下，看看效果如何。请告诉我你们的想法。希望各位觉得这个视频有用，并且享受了这期节目。

[音乐]

[音乐] >> 还有这个，它有点恶魔的样子。它有眼睛，还戴着防毒面具。那……那是大脑里正在生长的胎儿吗？