他们正在查看 Poolside 的 Laguna S2.1 版本。有些人声称这个模型比 GLM 5.2 更好,虽然事实并非如此,但确实有人这么认为。因此我们将深入体验并检查它。如果你不知道的话,Laguna 由 Poolside 开发,这是一家美国公司创立的。美国正在重新发布开源模型,其创始人是 Jet Hub 的前 CTO。他们表示该模型非常出色,甚至可用于政府项目。他们的重点是发布可以在边缘设备或你的设备上运行的模型,对此我向他们致敬。

查看许可证可知它是 Open MDW 许可。如果你不知道这是什么,它最近被 Nvidia 使用过,最初由 Linux 推广。其核心是类似于 Apache 的开源许可,但专门针对模型设计。这意味着模型的输出归你所有等等,因此这是一种非常开放的商用许可。令人惊叹的是,这只是一个 1180 亿参数的模型,拥有 80 亿活跃参数。它接近 GPT-12B 这类模型的水平,鉴于 ChatGPT 尚未发布新的同类模型,它的加入是有益的。

查看基准测试时,他们声称在软件工程方面优于 DeepSeek V4 Pro,而非 Flash 版本。虽然实际上并非如此,但他们坚持这一说法。他们还表示其性能几乎与最新的 Quinn 相当,且优于 HY3。由于我生成的结果远不如他们宣称的那样好,因此有些不确定原因。我将进行一些本地测试以及在他们云端的测试,以双重确认我们运行的推理代码是正确的,因为之前存在一些循环相关的 bug。

我们已经解决了所有这些问题,循环问题已正式解决。我将向你展示具体方法。让我们直接开始看看它的表现如何。我将从一开始就进行的生成结果入手,并与 DeepSeek Flash 进行比较,以此作为衡量基准准确性的标尺。第一个测试是用 HTML 生成一个钢琴,包含闪烁切换的小星星功能,且禁用思考模式。它确实完成了任务,但生成结果非常基础,远不及 GLM 等模型的效果。我不知道那些炒作大师们在运行什么构建版本。

接下来,我们将启用思考模式。这个模型在本地运行时有点特殊,可能是某种量化问题所致。尽管我运行的是 9-bit 量化,质量几乎达到百分之百。即使启用思考模式,对于简单基本的提示词,它倾向于直接关闭生成而不进行深度思考。这其实是好事,因为可以节省 token 消耗。但在网站上运行时它确实喜欢进行思考,所以这可能只是推理层面的问题。

无论如何,无论是否启用或禁用思考模式,我们再次得到了一个非常基础的生成结果。那个黑键在那里做什么?它到底给了我什么吗?我添加了一个新功能,将与扩展生成检测功能并行使用。我发现某些模型如 GLM 5.2,尤其是在量化情况下,即使在 4-bit 或 8-bit 下有时也会迷失并陷入失控循环。因此我引入了一个名为“扩展 EOG”或生成检测的功能,它可以阻止其进入失控循环。

这有助于检测到 token 应该结束的位置,主要与量化有关。我为这个模型添加了一个名为“扩展思考检测”的功能,也用于其他模型。启用该功能后,它不会立即关闭 think 标签,而是强制其检测思考比例。它会继续思考并随后正确关闭 think 标签,然后运行模型。这是它生成的结果,基本上和我们之前看到的同样基础。这种扩展思考检测的好处是也有助于解决失控循环问题。

有时这个模型和其他一些模型喜欢陷入思考循环,反复重复相同内容。但通过扩展思考检测功能,它能找出最佳停止位置。它不会粗暴地强行停止,而是根据每个想法自然停止。我尝试了多种方式来统一这个功能,例如计算模型生成的思考数量,由特定比例和功能定义。但我最终确定的设置是扩展思考检测,这是一个新功能。之前我使用的是限制思考功能,你可以选择希望分配给思考的 token 数量。

这更像是一个建议而非硬性限制,因为我发现如果设置硬限制会导致输出完全损坏。因此只要启用该功能,它总是会优雅地结束思考过程。如果你对此感兴趣可以查看一下。接下来测试 3D Flappy Birds,禁用思考模式。天哪,它只是一个立方体,非常基础。我们之前用 DeepSeek V4 Flash 测试过这个任务,可以看到一只鸟,效果非常棒。

启用思考模式后,它自然发现这个问题很难解决,因此不会建议立即关闭思考标签。让我们看看是否可能成功完成。是的,它在第一次生成时就有 0.03% 的概率关闭 think 标签。这还算可以,它确实对这个任务进行了思考,并消耗了大约一万 token。我就让你们来评判吧。这是什么?什么?这到底是什么东西?

接下来我们将进入云端查看结果,以了解具体情况,但这也是需要注意的一点。测试照片级真实人脸生成时禁用思考模式,可能是缩放问题导致看起来奇怪,也许我们需要缩小视图。启用思考模式后,我不断遇到运行时错误,即使重试仍然出现相同的运行时错误。它无法解决 Minecraft 相关的编码问题。点击播放后再次遇到运行时错误,Minecraft 启用思考模式消耗三千 token 后依然报错。

程序化行星生成器测试时出现运行时错误,启用思考模式后依然是运行时错误。汽车驾驶动画测试成功了,这很好,我们取得了一些进展。也许 3D 相关内容并不是该模型训练的重点所在。

也许它擅长的是编程吧?怎么回事?我们迷路了。我们要偏离路线了。嗯,首先那看起来更像一辆马车。UFO 马车?我喜欢这些父母们。我们是在埃及吗,还是英古什,或者是克特?那才是这个国家的真实名字。所以,我们现在处于那种开着车、启用了思考模式的情况中。它有点搞不清路该往哪个方向走。

不过生成效果还不错。这是一个 9-bit 量化版本。所以,如果你只是做基本的 3D 场景处理,质量是好的。这就是如何制作一个 3D 世界的方法。你可以看到这里有太多运行时错误了。在这一步,我就像是在试图弄清楚这个模型到底哪里出错了。所以我只是想对比一下 DeepSeek V4 的表现,不是 Pro 版,而是 Flash 版。

在禁用思考模式下,DeepSeek V4 Flash 大约是每秒生成 28 个 token,总共约 6000 个 token。而 Laguna 能达到每秒 32 个 token。所以它比 DeepSeek V4 Flash 更快,但看看这里的质量吧。你实际上得到了一个美丽的 3D 城市,而且这是在禁用思考模式的情况下生成的。如果我启用思考功能,甚至不是最大思考强度,只是在 DeepSeek 上开启高思考模式,我们可以看到质量超级棒,相比之下那个模型什么都没输出。

现在,我有点不知所措,不知道发生了什么,人们都说这个生成效果很好。所以我决定在他们的服务器上运行它。这是试图制作一个 3D 城市。再一次,我们得到了类似的生成结果。总是这样。让我们看看那个 3D 平台演示吧。我们正在尝试制作超级马里奥世界,结果遇到了运行时错误。这是一个启用了思考模式的 3D 平台游戏。它有点像吃豆人之类的东西。这里出了点问题。太棒了,真棒。

现在,如果我们再次在他们的云网站上运行它,结果只是一个运行时错误。你可以看到我在点击重启按钮。什么都没发生。所以也许这不是一个编程模型?也许情况就是这样。看看基准测试,我们可以看到它确实有其他方面的表现。例如,哦等等,所有基准测试都与编程相关。工具调用深度?我不知道它是如何如此摧毁 DeepSeek 的。我不确定你们是否在使用这个模型。请告诉我你是怎么做到的?你在施展什么魔法巫术让它工作起来?也许是一个系统提示词。

我是没有任何系统提示词运行的,就像我运行所有其他模型一样。我喜欢尽可能干净地运行它们。但对于这个模型,也许你需要一个特殊的思考类系统提示词,比如“做好生成”,之类的。但无论如何,我们也许应该跳出编程这个情境。我再给你看一个代码片段,纯属为了好玩。让我们试试这一个。这其实挺有趣的。所以这个模型不支持音频或视觉推理,但这里有这样一个功能:如果你给它一张图片,它会进行一些 OCR 和字符识别。

这里的分类器识别出这是一只动物、一只猫、一种食肉目动物和哺乳类,并告诉你更多关于它的信息。没有检测到文本。所以,代替向模型输入空白内容,它会将其 OCR 结果或分类器输出喂给模型。因此,它说理解这似乎是一只成年猫的照片,是用数码相机拍摄的。出于好玩的目的,我说:“创建这张图像的动画 3D 体素版本。”它会继续执行这个任务,因为它知道图片是一只猫。这很有趣。(笑声)这是一个可爱的生成结果。我必须给它好评。它简直超凡脱俗。

我认为这个模型的一个优点在于,与其得到与其他模型相同的结果,这一个看起来有点新鲜、新颖,有些不同寻常的东西可以玩弄一番。因为你知道,如果每个人都在通过相同的 LLM 运行相同的作业,老师会说这是相同的答案。所以你能获得一点创造力。你可以通过系统提示词或更改模型来实现这一点,并且现在它让你知道这是一只橘猫。这些模型真是疯狂。显然这不是巫术。也许大多数猫都是橘色的,可能吧。但它不知怎地选择了与实际喂给它的猫相同的颜色。就是每次都这样,太疯狂了。不知道它为什么这么做。

让我们深入探讨一下。我们需要弄清楚这里的真实数字。在启用思考模式后,它确实进去了并得到了正确答案。这实际上很好,因为你可以看到它在进行某种推理,并且得出了正确的答案。有些模型在数学上会失败。这个即使禁用思考模式也能工作,只用了 400 个 token。这可能是获得此结果的一个纪录。现在很可能他们已经在这个答案上训练过了。这大概是最有可能的情况,才能如此准确地得到它。但在 400 个 token 内得出这个结果,确实是一个纪录。

以前即使禁用思考模式,六个月前最好的模型也需要 6000 多个 token。所以这里非常令人印象深刻。这个很有趣。我们需要把八个橙子分给四个孩子,我们使用一把刀。它说每个孩子两个橙子。所以它意识到我们不需要用刀。那把刀可能是一个干扰项(红鲱鱼)。所以它是两个孩子?洗车店。对于第一次去,步行总是更好的选择。这是错误的,但我们启用了思考模式。它说鉴于洗车店距离 50 米远,步行仍然是更好的选择。也许他们从未在这个问题上训练过。(笑声)所以它认为你需要走到洗车店去洗你的车,即使启用了思考模式。好吧。

外科医生是男孩的父亲。它说外科医生是男孩的母亲。错了。启用思考模式后,它进行了一段长长的推理。1600 个 token,但它最终弄清楚那是男孩的父亲。所以也许除了洗车店那个问题外,启用思考模式似乎能收到一些回应。10% 的运气,20% 的技巧。它知道那是《Fort Miner》(注:此处原文可能指某首歌曲或游戏,翻译保留原意)。好答案。启用思考模式后,它认为那是 Eminem 的《Lose Yourself》(迷失自我)。所以即使禁用思考模式时它知道是 Fort Miner,但启用思考后却把自己搞混了,以为那是 Eminem 的《Lose Yourself》。我想在当年的流行音乐界它们确实很接近。“If I could then I would, I'll go wherever”(如果我能那样做,我会去任何地方)。那是 Taylor Swift 的歌吗?“If I could turn back time”(如果我能让时光倒流)但 Shink 是 Sher 还是 Taylor Swift?

它不知道那是《The Calling》。它以为是《Frey》(注:此处可能指某首歌曲)。它不知道那是《The Calling》。那首歌曾经连续霸榜第一好长时间了。那几乎和 Bryan Adams 一样高。“I'll do, I'll do”(我会做,我会做)那是什么歌?哦,这其实是个好问题。Inkling(注:可能指某个模型或工具名)。我忘了实际上展示 Inkling 对这个问题的结果。如果你走进一个……

观众问:“选择器显示B,你该怎么办?”答案是:吃葡萄酒。当人群说“选B”时,Inkling实际上给出了正确答案。这很令人印象深刻,因为HY3答错了。

另一个模型说:“你要小心、保持冷静和俏皮。”它甚至没有告诉你“倒带”,即使你开启了思考模式。也没有“倒带”选项,就是没有。

这太令人难过了,真的很难过。好了,这只是对Poolside世界的一次快速探索。

尽管这些结果可能不如基准测试中显示的那么好,但它是一个开源模型、开放权重模型,并且拥有非常开放的许可证。根据他们的理念,他们相信边缘模型,让你可以在自己的基础设施上运行它。

背后有一些强大的人物支持,获得了eBay和Nvidia等大公司的投资。所以去看看他们吧,并告诉我你们的看法。希望你们觉得这个视频有用并且享受了节目。