Thinking Machines Lab与Inkling模型背景

Thinking Machines Lab由多名前OpenAI团队成员创立，包括其CTO，结构类似Anthropic。该团队近期发布了首个模型Inkling，这是美国目前最大的开源权重（open-weight）大语言模型。该模型拥有约9750亿参数，接近1万亿规模，定位为通用多模态架构，能够同时处理图像、文本和音频输入。在发布宣传中，团队声称其智能水平介于Kimi K2.5与K2.6之间。值得注意的是，尽管Nvidia近期发布了美国最大的开源模型Neotron 3 Ultra，但Thinking Machines Lab获得了Nvidia的投资。根据官方基准测试数据，Inkling在多项指标上表现优于Neotron 3 Ultra。

Max Thinking模式下的工具调用与多源验证机制

在测试中，模型展示了强大的自主推理能力。当被问及“阿尔巴尼亚向Thinking Machines投资了多少”时，模型在禁用思考模式下直接调用网页获取工具访问维基百科并得出正确答案。启用Max Thinking模式后，模型展现出更复杂的策略：它首先尝试访问Google但遭遇反爬虫验证失败；随后转向TechCrunch和Argina，在遇到付费墙或访问限制时，并未停止而是继续尝试DuckDuckGo等其他来源。最终模型综合多个独立信源（包括gazette.net）进行交叉验证，确认投资额为1000万美元**。这种“不懈”（relentless）的多源检索与重试机制，体现了模型内置的类似Kimi K3的工具调用“harness”能力。

Q3量化对数学推理能力的显著影响

尽管模型在工具调用上表现优异，但在本地部署的Q3量化版本中，其高级数学推理能力严重受损。测试显示，模型无法正确执行基础算术（如22），在禁用思考、最小化思考和最大化思考模式下均给出错误答案。即使Max Thinking模式生成了56,000个令牌的推理过程，最终结果依然错误。这主要归因于模型缺乏量化感知训练（Quantization Aware Training）*，导致权重分布波动大、保真度低。此外，在一个关于“8个橙子分给4个孩子”的逻辑谜题中，模型在思考过程中频繁将“child”（孩子）误判为与“orange”相关的替代词，显示出量化导致的语义混淆风险。

Q3.7量化下的图像推理与安全机制

本片段首先展示了模型在内置安全机制方面的表现。当用户尝试生成涉及“切断儿童”的违规内容时，模型明确拒绝并指出该请求具有黑暗性质。这种防御性响应机制与美国其他主流模型类似，旨在阻止用户执行有害操作。

随后演示重点转向代码生成与图像推理能力。创作者运行的是 Q3.7 bit 量化版本，该精度略高于其在 Hugging Face 上发布的 Q3 版本。尽管量化位宽较低，模型成功生成了一个“美丽放松的飞行模拟器”。虽然生成的画面中鼠标移动方向错误且没有实际的飞机模型，但视觉质量极高。创作者指出，从如此低的量化精度中获得这种质量的生成结果令人惊讶。此外，新版权重已更新以支持音频和图像推理功能，建议用户下载新版本而非仅包含文本推理的旧版。

"So it has that built-in kind of safety mechanisms... to stop you from doing these things."

图像反馈闭环与低精度下的稳定性测试

为了验证模型的视觉理解能力，创作者对之前生成的飞行模拟器截图进行了反馈。他指出画面“有点发白”且纹理过曝，模型在推理过程中准确识别出：“用户说图像过度曝光、缺失纹理。查看之前的输出，场景确实非常明亮且褪色。”

经过 8,000 个 token的处理后，模型成功修复了飞机的白色过曝问题。虽然 Q3.7 bit 版本的画质优于发布的 Q3 (3-bit)版本，但 Q3 版本在纹理上显得过曝且难以辨认。关键亮点在于，Q3 量化模型在没有编译错误或运行时错误的情况下完成了生成。通常 3-bit 量化会导致大量功能丢失或崩溃，但 Inkling 在此表现稳定。创作者对比了 Neatron Ultra（约5-bit量化），指出后者经常充满运行时错误，而 Inkling 在低精度下仍能输出可运行的代码。

"The user says the image is overblown, missing textures. Looking at the previous output, the scene is indeed very bright and washed out."

复杂游戏复刻：从《洛奇》到《最终幻想7》

接下来，创作者尝试用 Q3 量化模型复刻经典游戏。首先重现了《洛奇》(Rocky) 电影场景，生成物包含观众、迷你游戏和钢琴音效。尽管存在纹理 Z-fighting（闪烁）问题且屏幕互动有限，但模型成功输出了电影经典台词：“Rocky, I want you to win for me... There is no tomorrow.” 尽管有 bug，但潜在能力显著。随后尝试生成《侠盗猎车手5》(GTA 5)，模型坚持声称“这不是 GTA 5”，但允许前后移动，车轮旋转方向错误。这被归因于量化损失，但在 3-bit 下无运行时错误仍属重大突破。在《荒野大镖客》(Red Dead Redemption) 的生成中，模型进行了文本转语音 (TTS)，描述了美国边疆和家族荣耀。虽然游戏略显破碎类似《乐高世界》，但具备骑马控制和射击功能，质量相当于一年前 Kimmy K2 的水平。最后，模型通过单次提示 (one-shot prompt)成功生成了《最终幻想7》的最终决战场景，包含剧情对话和按键互动，全程无运行时错误。创作者强调，在 3-bit 量化下能生成可运行代码且无崩溃，证明了该模型的惊人潜力。

复古风格游戏生成与3D人脸纹理的突破

在测试Inkling模型时，我们首先尝试了类似《Outrun》的游戏场景生成。虽然画面质量被形容为“回到ZX Spectrum时代”，但相比上一代游戏图形已有显著提升，且模型成功在道路两侧生成了树木。随后测试3D人脸生成时，Inkling表现惊艳，成功绘制出眼睛、嘴巴和整体轮廓。相比之下，GLM 5.2在Zai平台上仅生成类似“土豆”的模糊形状。Inkling的独特之处在于其程序化纹理生成能力，它通过Canvas 2D自行绘制五官并贴图到3D模型上，无需外部图像资产。该生成过程消耗了9,000 tokens，推理速度约为每秒11.2 tokens，内存占用为418 GiB。

"It actually drew this texture out itself... It's procedural texture generation. So no image assets."

多模态3D动画生成与量化性能表现

在Super Mario Bros测试中，碰撞检测存在缺陷但可收集物体。更令人印象深刻的是基于猫图片生成的3D体素动画，模型在思考10,000 tokens后无运行时错误直接生成结果。这与Qwen 397B或MiniMax常出现的量子/运行时错误形成鲜明对比。生成的猫尾巴能独立动画，而非仅上下呼吸，尽管存在轻微的Z-fighting现象。该模型在3位量化（3 bits）下运行表现优异，引发对8位量化性能的期待。尽管发布时因接近Kimi K3而遭遇基准测试质疑，但其实际生成质量证明了其潜力。

"This one here, boom, straight away, no runtime errors. And we got some sort of cat."

音频推理能力对比与开源生态展望

Inkling展示了强大的音频推理（Audio Inference）能力。在转录“Previously on Dr. Nora”时，Gemma 4 E4B不仅听错为女性声音，且无法重新分析音频；而12B参数的统一Gemma 4能正确识别为男性，但Inkling在禁用思考模式下也能通过重新推理音频特征（如深沉、共鸣的声音）准确判断说话者为男性。这是目前最大的拥有完整音频推理能力的开源权重模型，且其Apache 2.0许可证极具商业友好性。鉴于Inkling是美国最大的开源AI模型，其音频权重虽小但能与大型文本数据库交互产生惊人效果。未来若版本2达到3万亿参数，可能需要通过全球分布式推理（Global Inferencing）连接多台计算机才能运行。

硬件限制下的量化测试构想

由于当前个人系统无法直接运行该模型，视频创作者提出了一种基于多计算机集群网关的测试方案。他计划通过连接多台电脑来构建一个临时环境，专门用于执行模型的量化版本。这一策略的核心目的并非追求极致的推理速度记录，而是为了在现有硬件约束下验证模型的可运行性。创作者强调，这种“见快则测”的方式旨在直观地观察量化后的运行表现。他向观众发出邀请，希望如果有其他拥有更多计算资源的用户能参与进来，共同完成这一测试环节。这种开放式的协作提议体现了开源社区中资源共享与协同验证的典型特征，旨在弥补单一硬件环境的局限性。

结论

Inkling作为美国最大开源模型，在低精度量化下展现出卓越的代码生成稳定性与多模态推理能力。其核心优势在于Q3/Q3.7量化版本能无运行时错误地生成复杂游戏逻辑，并具备独特的程序化纹理绘制及音频性别识别能力。然而短板明显：缺乏量化感知训练导致基础算术失效，且高保真图像生成需依赖更高精度权重。该模型适用于对代码鲁棒性要求高于极致数学精度的场景，其Apache 2.0许可及分布式推理潜力使其成为当前开源生态中极具实用价值的通用多模态选择。