SWE-2模型背景与训练数据

本次测试的对象是Cognition发布的SWE-2模型,这是一个基于Kimi K3进行额外训练的变体。原文明确指出,SWE-2本质上是一个经过专门优化以在智能体编码(agentic encoding)工作中表现卓越的Kimi K3模型。Kimi K3本身是一个拥有2.8万亿参数的开源权重模型,已被认为是前沿状态。Cognition团队通过额外的训练步骤提升了其能力,官方展示了一张图表显示其在不同推理努力模式下的性能提升。从训练开始到结束的性能跃升表明,这种微调确实带来了显著的能力增强。尽管官方未提供详细的API定价数据,但测试者指出其成本效益可能较高。原文提到:“This is basically a Kimmy K3 model that has been trained additionally by the cognition team to specifically excel and improve at agentic encoding work.”

基准测试数据与成本争议

在性能评估方面,Cognition展示了一个名为DeepSWE的得分图表。数据显示,SWE-2在中等推理模式下达到了与GPT6 Astra相当的水平。关于成本,官方声称实现特定得分的成本分别为$4.38和$1.34。然而,测试者对此数据持保留态度,因为该模型目前仅通过订阅应用访问,没有公开的API接口。原文指出:“This specific score was achieved with $4.38... I do have some problems with the cost here because the only way to use this model is just to use it from within their app or like through their subscription.” 测试者需要支付每月20美元的订阅费才能使用,因此无法直接对比传统的API按量计费模式。尽管如此,从开源模型Kimi K3衍生出的SWE-2在基准测试中确实展示了不错的能力跳跃,这引发了对开源模型进一步微调潜力的关注。

浏览器OS测试:基础功能与UI体验

测试环境设置为Devon的Browser OS Test v2.7,推理努力模式设为Max。SWE-2生成的UI界面被描述为具有GPT5.x的美学风格。测试者首先检查了基础功能,发现窗口调整大小、右键菜单以及右下角的日期时间显示均正常工作。特别值得注意的是Nova Assistant功能,这是该系统的特色助手。在开始菜单中,测试者发现了一个合成器应用和绘画工具。原文评价道:“We definitely have like a GPT5.x aesthetic to this UI... Good. Resize works.” 绘画工具允许用户绘制图像并设置为壁纸,这一功能被测试者认为相当实用。整体来看,基础UI交互流畅且符合预期,为后续更复杂的游戏测试奠定了良好的环境基础。

游戏与应用程序功能验证

在应用层面,SWE-2成功加载了GTA和Void Strike两款游戏。虽然GTA中出现了Z-fighting(地面纹理闪烁)等图形瑕疵,但车辆控制功能正常。相比之下,Void Strike的表现更佳,背景选择与游戏主题契合度高。测试者还验证了终端功能,成功执行了“Hack”指令并收到了模拟的垃圾邮件奖励。此外,文件删除功能正常运作,被删文件会进入回收站。在多媒体方面,Synth FM和Chillhop音乐应用均能正常播放。原文提到:“Void Strike... this one's actually better than the GTA game.” 最后,Nova助手能够响应“help”指令并展示窗口级联功能。整体而言,SWE-2在浏览器OS测试中展现了良好的综合应用能力,尽管部分图形细节有待优化。

滑板游戏初测:基础功能完整但画面简陋

测试者首先对Cognition SWE-2生成的单文件滑板游戏进行了初步评估。在开启最大推理努力(maximum reasoning effort)的情况下,生成速度出乎意料地快。虽然整体保真度较低且图形简单,但核心玩法逻辑基本成立。滑板板的移动与玩家角色是独立的,这在物理模拟中是一个基础但关键的细节。除了铁轨摩擦时的一个小故障外,未发现其他严重错误。场景中包含了移动出租车、井盖蒸汽等环境元素,甚至还有一些简单的水体效果。远处的建筑物虽然简陋,但整体结构完整。测试者指出,游戏缺乏常见的消防栓喷水细节,但这并不影响其作为基础原型的可用性。玩家与行人之间的互动功能正常,尽管角色从滑板上摔落的情况符合物理预期。总体而言,这是一个非常扎实但极其简单的基础版本。为了提升质量,测试者建议使用“Mega Plan”进行深度规划以改进图形保真度。

滑板游戏优化:视觉升级与音频添加

在收到第一轮反馈后,测试者要求对滑板游戏进行图形 overhaul(彻底翻新)并添加音频。这一轮修改耗时较长,但效果显著。纹理和整体视觉保真度有了非常明显的提升,尽管核心游戏机制保持不变。测试者形容这就像是给原模型“刷了一层新漆”,虽然不如Astra或Fable等大作惊艳,但在AI生成游戏的语境下已属相当称职的结果。新增的音频元素增强了沉浸感,碰撞行人时的反馈也被认为具有某种“痛苦的写实感”。尽管图形大幅改善,但测试者仍建议进一步细化交互细节。这一阶段的改进证明了模型具备根据反馈迭代优化视觉资产的能力,从简单的几何体堆砌转向了更具质感的渲染效果。虽然仍未达到商业游戏标准,但其可玩性和视觉吸引力已得到实质性增强。

1980年代3D摔跤游戏:骨骼绑定与动作逻辑

第二个测试项目是要求模型使用Godot和Blender创建一个1980年代风格的3D摔跤游戏。测试者未使用深度规划模式,而是直接观察首次生成的结果。游戏名为“Cognition Sports presents: Triple Threat Wrestling”,包含基本的入场和战斗逻辑。这是测试者见过的最具可玩性的AI生成游戏之一。尽管音效较差,但核心战斗机制运作正常。角色在受到“闪电拳”或“星际肘击”等招式时,手臂模型会正确弯曲,这表明模型成功完成了基础的骨骼绑定(rigging)和动画制作。尽管伤害判定似乎存在问题,导致对手“Macho Marco”未受到明显损伤并导致玩家最终输掉比赛,但整体动作流畅度令人印象深刻。角色被椅子击中的物理反馈也基本符合预期。测试者认为,尽管结果不如最初期望那样震撼,但其在角色动画和基础物理交互上的表现是值得尊重的。这证明了模型在处理复杂多角色互动和骨骼动画时具备一定能力。

机械臂任务:视觉识别错误导致操作失败

最后一个测试是极具挑战性的真实世界机器人控制任务。模型需要观看机械臂视频,读取操作手册和USB设备信息,并执行“拿起Hot Wheels小车并将其移动到另一侧”的任务。然而,这是测试中最 disappointing(令人失望)的结果之一。机械臂表现出大量破坏性动作,如试图将自己从桌面上抬起、手臂边缘撞击底座等。最终小车被移动到了机械臂正下方的奇怪位置,任务完全失败。分析日志发现,模型首先通过移动轴来识别伺服电机,然后拍照并运行脚本来决定动作。关键错误在于视觉压缩导致的误判:模型将张开的夹爪识别为闭合,反之亦然。这种视觉感知的反转导致所有后续动作指令错误。测试者怀疑这可能是由于提供的说明或模型对视觉压缩的固有偏差所致,Deep Seek V4.1 Flash也出现了类似情况。这一案例揭示了当前AI在结合视觉感知与物理控制时的脆弱性,即使拥有详细的文本指令和手册,微小的视觉误差也会导致灾难性的物理后果。

机械臂抓取测试:精度与逻辑的局限

在针对机械臂控制能力的基准测试中,Cognition SWE-2 模型暴露出了明显的识别错误。首先,该模型在区分机械爪的开合状态时出现了误判,这种基础视觉理解的偏差直接影响了后续动作的准确性。在具体的抓取任务中,机械臂虽然进行了大幅度的移动尝试,但最终未能成功完成既定目标。测试者观察到,机械臂末端距离车辆过远且明显脱离了预设的起始平板位置,这表明模型在空间定位和动作执行的一致性上存在严重缺陷。尽管测试者试图通过对比初始状态与最终结果来量化误差,但机械臂“几乎是从桌面上方抬起却未能抓住物体”的失败结果,直观地反映了其在复杂物理交互中的不可靠性。

Subway FPS 游戏开发:视觉表现与核心机制的割裂

随后进行的 Subways Surfers(地铁跑酷)风格 FPS 游戏开发测试中,Cognition SWE-2 采用了“超级规划模式”并开启最大推理努力,经过近一个半小时的运行生成了可玩版本。从视觉层面看,生成的场景细节丰富且整体观感优于 Kimi K3 的单一结果,特别是弹孔环境和霰弹枪的后坐力反馈被评价为“相当不错”。然而,游戏的核心机制存在致命缺陷:敌人模型出现异常行为(如进入轨道下方),且子弹轨迹和弹药显示在屏幕上冻结不动,严重破坏了游戏体验。此外,武器模型被评价为“低质”,尽管远处观看尚可接受。测试者指出,虽然整体场景比 K3 更详细,但鉴于近期其他模型的卓越表现,Cognition SWE-2 的表现仅属“胜任”而非惊艳。

RB26 引擎3D打印文件生成:结构合理性与可制造性评估

在最具挑战性的 RB26 直列六缸引擎3D打印文件生成测试中,Cognition SWE-2 在不到一小时内输出了包含 Blender 文件和 STL 文件的完整工程包。与之前 Kimi K3 生成的大尺寸 RC 电机适配方案不同,本次测试特意更换了引擎型号以避免基准测试偏差。评估发现,涡轮增压器部件的质量出乎意料地好,而进气歧管的方向虽不完全正确但可接受。最关键的进步在于模型内部结构考虑了现实组装需求,如电机轴从引擎后部伸出以适配 RC 车底盘。在可打印性方面,大部分部件无需支撑即可直接打印,仅个别悬垂角度需要调整。尽管 STL 文件在切片软件中打开存在问题,但在 Blender 中检查显示对齐销钉设计合理,整体结构具备较高的可制造性,是一个合格的设计方案。

3D手表渲染:高精度但存在方向性错误

本次测试的核心亮点之一是针对一款高端定制腕表的3D模型生成。用户不仅要求Keyshot风格的渲染、电影级镜头角度和爆炸视图,还特别指定将一张特定照片嵌入表盘作为“Behen”限量版标识。最终生成的模型在材质质感和表冠细节上表现优异,特别是其中一根指针呈现出漂亮的蓝色反光效果。然而,模型存在一个显著的几何错误:表盘整体顺时针旋转了90度,这与真实设计不符。尽管数字标记存在错位且无法交互移动查看内部结构(如螺丝等零件),但整体视觉效果仍令人印象深刻,甚至激发了用户定制实体表盘的念头。对于这款售价$95,000的“Behen”变体,虽然方向错误依然存在问题,但18K金表壳与手工漆面肖像表盘的结合非常成功。评测者指出,当前AI生成结果常出现“感知扭曲”,使得评估难度增加。> “Unfortunately, what's letting it down again is the orientation being wrong. But if we just take a moment and look at this, I'm quite pleased with this...” 总体而言,除了方向性硬伤和数字标记错位外,该3D生成能力属于可接受的高水平。

浏览器OS与音乐应用:稳定但缺乏惊艳感

在基础功能测试中,SWE-2生成的浏览器操作系统表现完全可接受(fully acceptable)。虽然这一任务未能提供展示惊人能力的舞台,但其稳定性值得肯定。相比之下,音乐应用的生成结果总是带来惊喜(always a welcome surprise),显示出模型在处理音频逻辑或界面交互时的额外潜力。评测者强调,由于近期AI生成结果普遍存在“感知扭曲”,单纯依靠视觉冲击力来评判模型变得愈发困难。SWE-2在公告中宣称其性能接近Opus 5、Fable或GPT-56 Soul,但在浏览器OS这类常规任务中,并未展现出足以颠覆认知的突破。这提示用户在使用时需调整预期,关注其在复杂逻辑而非单纯视觉呈现上的表现。

游戏生成测试:滑板与GDAU Blender的意外惊喜

在游戏开发任务中,SWE-2的表现呈现出明显的差异化。滑板游戏(Skate Game)初次生成较为简单,但在指令优化图形后,显著提升了视觉保真度和打磨感。尽管核心玩法逻辑(如碰撞检测)仍有瑕疵,但相比Kimi K3单独生成的版本有了明显飞跃。评测者特别提到游戏背景中的水面和远景建筑增加了沉浸感。更令人意外的是GDAU Blender生成的角色游戏,虽然视觉表现平淡,但可玩性(playability)出乎意料地好。大多数此类生成结果根本无法游玩,而SWE-2生成的角色模型具备基本的移动和交互能力。> “This was actually it was cool. And the more I looked at it, the more I liked it.” 尽管存在一些小毛病,但其可玩性优于以往所见的大多数生成结果。

地铁射击游戏与总结:长耗时下的及格表现

最后的Subway(地铁)射击任务在实现预期功能方面做得不错,但未达到Fable级别的高水准。模型成功实现了列车出现等核心需求,环境美学也呈现出肮脏、阴郁(grimy)的风格。然而,存在一个明显的Bug:子弹轨迹卡在半空中,虽然视觉效果奇特但属于非预期故障。该任务采用了“先制定计划再生成代码”的策略,从开始到完成耗时约1.5小时。评测者总结认为,SWE-2整体性能强劲,尤其在复杂游戏逻辑和3D生成上展现了潜力。尽管浏览器OS任务平淡无奇,但其在滑板游戏、Blender角色互动上的进步证明了其作为开发助手的价值。需注意,该模型在10月9日前免费使用,但可能需要支付$20/月的订阅费才能选择该模型进行测试。

项目构建与3D引擎表现回顾

在SWE-2的首次测试中,视频作者回顾了从游戏构建到最终网站上线的完整流程。其中,3D引擎模型的表现被评价为相当不错。作者特别指出,该模型在Blender软件中的生成效果令人满意,成功完成了从概念到具体3D资产的转化。这一环节是整个测试过程中的亮点之一,展示了模型在处理复杂几何结构和三维空间逻辑时的能力。尽管最终生成的“手表网站”并非测试的核心关注点,且作者表示无需再回头审视该部分细节,但整个构建过程本身给测试者带来了极大的个人愉悦感。这种体验不仅验证了模型在特定任务上的可行性,也为后续更复杂的提示工程提供了信心基础。

测试结论与互动邀请

随着游戏构建和3D引擎模型的完成,本次对SWE-2的首次观察与测试正式结束。作者在总结时强调,虽然手表网站部分可以忽略,但整个开发过程的趣味性值得保留。作者提到可能会在未来的提示词中稀疏地融入这种娱乐性元素,以增加内容的丰富度和趣味性。对于关注此次测试的观众,作者表示如果有任何关于SWE-2性能、局限性或具体案例的问题,欢迎在评论区自由留言。这不仅是对本次测试内容的补充说明,也是建立社区互动、收集反馈的重要环节。最后,作者对观众的观看表示感谢,标志着这一系列测试内容的阶段性收尾。

"It did make it in Blender and finally we had the watch website which we don't need to look back at."

"So, that's going to conclude our first look and test of SWE2. If you have any questions, please feel free to leave them in the comments. And thanks for watching."

结论

Cognition SWE-2作为基于Kimi K3微调的模型,在代码生成与复杂逻辑构建上展现出显著优势。它在滑板游戏迭代、Blender角色动画及RB26引擎3D打印文件生成中表现优异,证明了其在视觉资产优化和可制造性设计上的潜力。然而,该模型在基础UI任务中表现平淡,且存在致命短板:视觉感知易受压缩影响导致机械臂控制完全失败;在FPS游戏中出现核心机制Bug。此外,3D生成偶发方向性错误。

总体而言,SWE-2在需要深度规划和迭代的开发场景中具备高可用性,但在实时物理交互和基础视觉识别上仍不可靠。其性能接近GPT-6 Astra水平,但受限于订阅制访问模式,实际成本效益尚待验证。