Kimi K2.7 Code 评测范围与硬件部署策略
本期视频深入测评 Kimi K2.7 Code 版本,旨在通过多维度对比揭示其作为本地通用大模型的潜力。测试不仅涵盖 分布式计算环境下的本地运行,还对比了云端部署及与 Claude 模型的直接竞争表现。为了全面评估模型能力,评测团队将其置于编码框架中测试逻辑推理与通用思维性能。在硬件部署方面,作者花费约 24 小时寻找最佳量化方案,最终确定需 512GB Mac Studio 运行的版本为最优解。此外还展示了结合 Mac Pro 的更大量化方案,用户可直接下载该模型或在 VS Code中安装 Kimi Code扩展体验。
"I spent like sure 24 hours just different variations to find out what the best quantization and this is the best one I came up with."
钢琴生成任务中 K2.6、K2.7 与 Claude 的表现差异
在“用 HTML生成播放《小星星》的钢琴”这一简单提示词下,Kimi K2.6 以 21 tokens/秒的速度生成约 6,000个token,输出包含波形图和多种合成器选项的精美界面。随后测试 Kimi K2.7 Code,该模型基于约 120参数、5位通用量化,经 INF技术优化至3.5位以最大化智能表现。K2.7 生成 4,600个代码token,速度略快于 K2.6(约 22 tokens/秒),且生成的界面包含提示用户“像天空中的钻石一样高唱”的文本,交互体验更佳。相比之下,云端 Claude Sonnet 在低努力模式下生成基础界面,高努力模式虽有改善但仍不及本地模型惊艳。
| 模型版本 | 生成 Token 数 | 速度 (tokens/s) |
|---|---|---|
| Kimi K2.6 | 6,000 | 21 |
| Kimi K2.7 Code (3.5-bit) | 4,600 | ~22 |
WebGL人脸渲染测试:本地模型超越云端 Claude 的尝试
在更具挑战性的“生成照片级实时 WebGL人脸渲染”任务中,Kimi K2.6 以 21+ tokens/秒的速度生成约 4,000个token。虽然代码从 3js示例网站下载预制模型(技术上属于“作弊”),但添加了额外功能且视觉效果美观。接着测试 Kimi K2.7,其生成精确的 6,700个token(速度 21.9 tokens/秒),实现了鼠标追踪眼球、自动旋转及皮肤平滑度扫描等复杂功能,尽管头发部分略显粗糙。反观 Claude Sonnet,在低推理模式下屏幕无显示且报错;切换至高模式后生成相同代码但仍无法正常工作,迫使作者启用 Max Thinking 模式进行最终对比。
Kimi K2.7 Code本地运行与分布式计算实测
在关闭思考模式的情况下,Kimi K2.7 Code生成了质量极高的图像内容。作者展示了模型在分布式计算下的表现,通过将MacBook Pro与Mac Studio连接,实现了约 16 tokens/s 的生成速度。尽管首次运行因错误导致上下文窗口仅为22,000 tokens且出现头发异常,但后续测试显示系统稳定。作者指出,在分布式模式下,内存使用量达到 107 GiB,其中推理过程仅占用62 GiB。虽然速度略低于单台电脑运行时的表现,但模型采用了 4.24量化 版本,显著提升了生成保真度。作者强调:“We're traveling around over 20 tokens a second distributed compute... that's pretty much close to the speeds we were getting when we were just running on one computer, but now we've increased the fidelity.”
Claude对比测试与推理内容复用实验
在Visual Studio中启用Kimi Code并输入相同提示词后,模型生成了包含大量推理内容的代码。作者指出Kimi K2.7的思考模式能产生 30%更少 的推理内容,从而加快处理速度。生成的HTML文件在关闭思考模式时深度不足,而在开启模式下则呈现出更具表现力的特征。作者进行了一项关键实验:将Kimi Code生成的推理内容作为助手提示词填入本地量化模型中,结果发现生成了完全相同的图像。作者认为这一现象非常令人印象深刻:“The fact that we got the exact same generation, that was pretty good.” 这表明在LLM的随机树遍历过程中,特定的推理路径能锁定最终输出结果。
视觉编码器与程序化生成能力对比
Kimi内置的视觉编码器在处理3D图像转换时表现出色。针对一张猫的图片,模型生成了约 4,000 tokens 的3D代码,速度超过20 tokens/s。在要求“动画化”时,Kimi K2.6和 Kimi K2.7 均能保持上下文并做出修改,其中K2.7的动画效果略具戏剧性。在程序化城市景观测试中,Kimi K2.6生成的场景较为基础,而 Kimi K2.7 Code 则包含了道路上的汽车和更完善的时间滑块功能,尽管仍存在少量因量化导致的Bug。在Canvas动画测试中,Kimi K2.6以 21.8 tokens/s 的速度生成了3,500 tokens的代码,虽然存在种子和量化带来的错误,但整体呈现了车辆行驶与车灯效果。
Kimi K2.7与K2.6在复杂网页生成中的稳定性对比
本章节重点评估了模型在处理高保真交互式网页时的表现,特别是涉及动态物理效果如行星生成和小行星撞击的场景。测试显示,Kimi K2.7在稳定性上优于前代版本,虽然两者都存在轻微的量化损失导致的视觉瑕疵(如车辆悬浮过高),但K2.7生成的地球模型在云层密度调节和小行星撞击动画上表现更为流畅,甚至包含了声音效果。相比之下,K2.6虽然也生成了美丽的地球和混沌的水位变化,但在细节处理上略显粗糙。这一对比表明,K2.7在复杂视觉渲染任务中的鲁棒性有所提升。
逻辑推理与思维效率的显著优化
在评估非代码领域的通用智能时,Kimi K2.7 展现了令人印象深刻的推理能力。以经典的“外科医生是男孩的父亲”逻辑题为例,模型进行了大量内部推理。Kimi K2.6 需要消耗约 1800 个思考 token 才能得出正确答案,而 Kimi K2.7 仅用约 120 个 token 便完成了推理,效率大幅提升。值得注意的是,即便在禁用思考模式的情况下,两个版本的模型均能给出正确结论。
"Previously Kimiko 2.6 all this reasoning 1800 tokens just to figure out the surgeon is the boy's father. Kimiko 2.7 comes out with 120 tokens"
这一对比表明,新模型在保持准确性的同时显著降低了计算开销。此外,针对“终极 AGI 测试”(涉及运气、技巧与知名歌曲识别),Kimi K2.7 正确识别出 Fort Minor 的《Remember the Name》及“意志集中力”等概念,进一步验证了其知识广度。
日常决策一致性与数学基准测试表现
在“洗车测试”中,当禁用思考模式时,Kimi K2.6 与 Kimi K2.7 均一致选择“步行”作为更优方案,显示出两者在简单日常决策逻辑上的高度一致性。然而,在数学奥林匹克级别的难题测试中,表现出现分化。
针对“确定所有酷数字”的题目,Kimi K2.7 在禁用思考模式下消耗 10,000 tokens 后得出正确答案 $2^k$。但在另一道关于正整数的题目中,模型给出了错误答案,尽管其消耗了 9,000 tokens 进行推理。测试者推测这可能是量化误差或随机种子导致的波动,但也暗示了潜在的轻微性能回退。
"So, maybe there is a slight regression there. Or maybe it was just pot luck or the seed"
模型训练数据依赖与最终评估结论
为了验证数学答案的可靠性,测试者尝试使用 Claude 进行交叉比对。Claude 在思考 11 分钟后指出该题为“已知竞赛题”,表明其答案源于训练数据的记忆而非实时推导。尽管存在数据污染风险,Kimi K2.6 和 Kimi K2.7 在后续测试中均正确识别出“偶数”这一答案,整体数学表现有所改善。
在生成式任务中,“人脸测试”成功生成了真实感较强的人脸图像,获得好评。总体而言,Kimi K2.7 在推理效率、通用智能及数学能力上均优于前代。虽然当前硬件可能无法流畅运行,但随着线性回归等技术的进步,未来本地部署的可行性将进一步提升。
结论
Kimi K2.7 Code在本地部署中展现出显著优势,其推理效率较前代提升明显(如逻辑题思考Token从1800降至120),且在复杂视觉渲染与代码生成任务中,其稳定性、功能丰富度及保真度均优于K2.6及部分云端Claude模式。然而,该模型在极端数学难题上存在波动与错误风险,且高性能运行依赖512GB内存等高端硬件或分布式计算环境。总体而言,K2.7在保持准确性的同时大幅降低了计算开销,是本地通用大模型中极具竞争力的选择,但受限于当前硬件门槛及量化带来的轻微视觉瑕疵。