模型背景与测试环境配置
本次评测聚焦于新发布的 Ornith 1.5 系列模型,具体针对 35B-A3B(混合专家架构)版本进行深度测试。该模型基于 Qwen 2.5(原文误读为Quen)开发,旨在提升在消费级硬件上的运行能力。测试主要对比两种量化版本:Q4KM 和 Q8。硬件方面,评测者使用单张 6000 Pro 显卡同时运行两个模型实例。软件环境采用 Pi Harness,确保采样参数和推理逻辑的正确性。Q4KM 使用 Ornith 官方上传的 GGUF 格式,而 Q8 同样来自官方源。评测者指出,虽然 Ornith 声称其更大参数模型在 Deepsw S. 基准测试中得分 56,甚至声称匹配 Claude Opus 4.8,但建议对基准测试 JPEG 保持谨慎态度。本次核心任务是通过 Browser OS Test v2.7,要求模型在虚拟操作系统中完成包括生成动态壁纸、操作邮件应用等复杂指令。
浏览器自动化测试执行过程对比
在 Browser OS Test v2.7 的自动化工具中,Q4KM 版本展现了显著的速度优势。测试要求模型自主检查并执行操作,Q4KM 率先完成所有步骤并成功退出。尽管 Q4KM 在尝试进行大规模修改时遇到障碍,但它采取了分步执行并多次检查的策略来修复错误。相比之下,Q8 版本在处理相同任务时出现了逻辑缺陷。原话指出:“它错误地以关闭标签页(close the tab)结束,而不是关闭浏览器”。这一细微的逻辑错误导致测试进程挂起,因为预期的成功信号未能触发。Q8 最终不得不手动干预才能继续。经过更长时间的运行,Q8 完成了任务并进行了更细致的 QA 检查。数据显示:Q8 使用了其 262K 上下文窗口的 41%,而 Q4KM 仅使用了 19.2%***。这表明在相同任务下,Q8 消耗了更多的上下文资源。
Q4KM量化版本的功能验证细节
在确认 Q4KM 完成测试后,评测者对其生成的操作系统界面进行了详细的功能验证。首先检查了开始菜单、锁屏解锁以及时间日期显示,这些基础功能均正常工作。随后进入应用测试环节: 1. GTA 克隆游戏:虽然存在明显错误提示,但模型能够正确识别并处理最小化与重新打开的操作。原话评价:“其中一个游戏确实能运行,这很不错。” 尽管全屏功能受限(保持固定大小),但核心交互如射击操作虽伴随奇怪噪音,却实现了基本功能。 2. 邮件应用:界面风格类似 Mac OS。模型成功执行了删除、查看系统通知(如“在 Mega City 发现热情驾驶”)以及撰写新邮件等操作,表现稳健。 3. 记事本应用:具备自动保存功能,虽然界面美观度一般,但全屏切换正常。原话总结:“整体来说不错。”
评测者暂时搁置了语音助手这一特殊功能的测试,优先确认基础应用生态的可用性。Q4KM 在速度、资源占用(仅用不到五分之一的上下文窗口)以及任务完成度上,均表现出优于 Q8 的即时响应能力。
语音助手与系统基础功能测试
视频首先展示了 Nova OS 中名为 Arya 的语音助手功能。当用户尝试通过终端或浏览器触发该功能时,系统能够准确识别并回应:“I am Arya, your Nova OS voice assistant. I can open apps, change wallpapers, lock the screen, and more.” 尽管初期存在点击失误导致助手重复播报的情况,但测试者确认了该功能在 Chrome 浏览器中的基本可用性。随后,测试进入更复杂的故障排除环节,Q8 量化版本展现了显著优于 Q4 版本的复杂指令处理能力。在对比两个版本的输出结果时,Q8 版本不仅提供了更丰富的底部操作选项,还呈现了更具风格化的界面元素。测试者指出:“We can definitely see a pretty significant difference between the two of these.” 虽然两个版本都尝试集成类似的助手功能,但 Q8 在 UI 细节和交互逻辑上更为完善,包括屏幕锁定等相似名称的功能实现,显示出更高的完成度。
游戏模拟与动态壁纸性能对比
接下来测试者运行了多个应用以评估系统稳定性。首先是 GTA 克隆游戏,Q8 版本在处理大型场景时表现良好,尽管物理碰撞检测存在缺陷(建筑物无网格碰撞体),但整体流畅度优于预期。测试者尝试利用速度优势绕过车辆,并成功进入一辆橙色汽车,评价其物理效果“gelatinous”(果冻般)但可接受。随后测试了 Starborn 游戏,Q8 版本在飞船模型加载上存在缺失,导致部分功能(如存档进入)无法直观验证,但测试者对某些交互设计表示赞赏。在 Aurora 动态壁纸应用中,Q8 版本支持多种主题(如 aquadeep, sunset, nebula)及运动速度调节,且具备合理的超时机制以防止界面持续干扰。测试者特别提到:“A smart model would time out after a few seconds. Good.” 此外,Joke 功能中关于带宽的双关语笑话也展示了模型在幽默生成上的灵活性。
代码生成与 FPS 游戏开发深度评估
在最具挑战性的 C++ 子任务中,测试者将 Q4 和 Q8 版本分别用于生成 Subway Simulator/FPS(第一人称射击游戏)代码。Q8 版本在上下文中消耗了显著更多的令牌,以确保代码功能的完整性。当测试者尝试运行 Q4 生成的版本时,发现存在严重缺陷:鼠标输入无法被记录,导致视角固定且射击功能失效。测试者尝试通过开发者工具控制台进行修复,但即使经过修正,“mouse just doesn't seem to affect anything”,Q4 版本的核心交互逻辑依然无法正常工作。相比之下,Q8 版本的代码结构更为清晰。测试者在 Q4 版本失败后转向检查 Q8 结果,Q8 生成的代码在文件结构和功能实现上均通过了初步验证。测试者直言:“This was definitely a significantly better result... Q8 here for this side by side was definitely the way to go if possible.” 尽管使用 CPU/RAM 卸载计算可能导致速度变慢,但Q8 版本在代码质量和功能可用性上的提升是决定性的。
Q8量化模型在射击场景中的功能缺陷与修复
测试首先针对Q8量化的Ornith 1.5 35B模型在“肉丸站”(Meatball Station)射击场景中的表现进行评估。初始运行结果显示,该模型生成的代码存在严重的时序问题与输入响应故障。当按下W键时,整个场景会直接冻结;松开按键后,角色并未发生任何位移。尽管基础功能框架存在,但移动功能的完全失效成为主要障碍。
除了控制失灵,视觉反馈也显得杂乱。测试者观察到环境中出现了类似VR游戏《Redhot》中物体滞留的现象,弹药轨迹(tracers)和血迹喷溅效果在环境中永久停留且不消失。这种视觉残留不仅影响美观,更暗示了底层逻辑中对象生命周期管理的缺陷。然而,测试者指出一个积极信号:指针锁定(pointer lock)机制是有效的,用户可以退出并重新进入该状态,说明部分UI交互逻辑是可用的。
在后续修复尝试中,Q8模型的表现有所改善。测试者注意到弹药轨迹现在会随时间淡出,这是一个明显的进步。虽然枪口闪光(muzzle flash)依然偶尔无法消失,但整体稳定性提升。测试者评价道:"这确实修复了我们指出的所有问题,除了环境中没有弹孔(开玩笑)。"尽管仍有瑕疵,但Q8版本在修复初始崩溃和视觉残留方面展现了比预期更好的能力。
Q4KM与Q8模型在滑板游戏生成中的性能对比
第二个测试项目是要求AI在一个纽约街区地图中构建一个滑板游戏。这是一个极具挑战性的任务,测试者特意限制了模型使用Ray等高级框架的自由度,以检验其基础编码能力。对于Q4KM(量化为4位)的35B混合专家模型,测试者原本预期其表现会非常有限。
Q4KM模型的运行过程极其漫长,上下文长度几乎耗尽。测试者在长时间等待后决定停止生成并查看结果。出乎意料的是,Q4KM产出的代码结构显著优于预期。测试者承认自己之前的悲观判断是错误的:"我刚才的话说得太满了,这比我从这个Q4KM混合专家模型中预期的要好得多。"虽然代码中存在不少问题,但生成的角色控制器(rider model)达到了“相当不错”的水平。这一结果证明,即使在低量化精度下,大模型仍具备生成复杂3D游戏核心逻辑的能力。
随后进行的Q8版本测试同样令人印象深刻。该模型运行时间极长,甚至跨越了夜间休息时段。大量的上下文压缩(context compaction)操作发生,但模型依然维持了生成状态。最终生成的场景中虽然没有角色移动功能(键盘输入未响应),但NPC能够自主行走,喷泉特效运行正常。测试者尝试使用传统滑板技巧键位(如C切换视角、R重置),发现相机控制和场景重置功能均有效。尽管缺乏核心移动机制,但作为一个“OE模拟器”,其视觉呈现和基础交互逻辑的完整性让测试者感到满意。
3D引擎建模任务的跨模型能力评估
最后一个测试环节要求AI使用OpenCAD(而非系统自带的Blender)建模一个需支持3D打印的直列六缸发动机。这一任务对几何精度和结构合理性提出了极高要求。测试者在等待生成期间弹奏吉他,侧面反映了长耗时任务的特征。
对比Q4KM和Q8两个版本的最终渲染结果,两者均成功生成了具有发动机块特征的3D模型。虽然测试者未提供详细的几何参数对比,但从视觉评估来看,Q4KM生成的模型在整体装配结构上已具备可识别的发动机形态。测试者通过切片软件(slicer)对模型进行了初步审查,确认其结构在逻辑上是成立的。这一结果进一步印证了前两个测试中的结论:即使是低精度的量化模型,在处理高度专业化的3D建模任务时,也能产出具备实用基础的结构化数据。
总体而言,Ornith 1.5 35B模型在Q4和Q8两种量化级别下,均展现出了超越预期的代码生成与3D场景构建能力。尽管存在移动控制失效、视觉残留等具体Bug,但其核心逻辑的完整性与复杂场景的处理能力令人印象深刻。
引擎3D模型生成:精度与比例的博弈
在针对汽车引擎的测试中,Q4KM 版本展现了较好的结构理解力。它成功识别出六缸引擎的基本特征,并在拆解单个零件时保留了预期的细节。然而,当切换到 Q8 版本并查看完全组装的切片模型时,出现了严重的比例失调问题。生成的引擎尺寸巨大,甚至超出了标准 3D 打印机构建板的范围。
"Oh wow, this I think went ahead and just made like a full-size realistic engine because that build plate right there is of like a normal size 3D printer. So this would extend far beyond it."
尽管 Q8 版本在细节深度上有所增加,例如正确识别出两个涡轮增压器(turbochargers)以及阀盖上的六个点火线圈帽,但其整体缩放比例完全错误。评测者指出,虽然 Q4KM 的效果并非完美,但至少尺寸更符合预期。相比之下,Q8 版本虽然包含了更多深度细节(如 N20 引擎的具体尺寸数据),但比例失调使其成为更糟糕的结果。这表明在复杂机械结构的生成中,高精度量化版本并不一定意味着更好的空间比例控制。
手表网站前端与3D展示:视觉效果的拉锯战
接下来的测试是构建一个包含电影级相机环绕动画的手表网站。Q4KM 版本的表现出乎意料地好,尽管存在局限性(如无法自由旋转视角),但它成功加载了表冠、表盘和皮革表带。评测者特别注意到表盘上的反射细节,并认为其前端设计相当不错。
"Look at the reflection on the face of the watch and we can see a bit more detail. Maybe I'll just wait a second for it to make a full rotation."
Q8 版本在手表表带的尺寸比例上更加真实,但整体画面较暗,导致细微细节难以辨认。在滚动查看其他手表卡片时,两个版本都展示了动态效果。评测者认为这是一个难以判定的测试项,因为两者之间的视觉差异并不显著。与之前明显的性能差距不同,这次 Q8 并没有展现出压倒性的优势,甚至让人难以分辨哪个是更高精度的版本。这暗示了在某些前端渲染任务中,模型可能依赖于训练数据中的既有模式,而非纯粹的推理能力。
Blender与Godot游戏开发:从资产到可玩性的跨越
最后的测试涉及使用 Blender 创建街霸风格游戏的3D资产,并在 Godot 引擎中构建游戏。Q4KM 版本成功生成了可运行的项目,尽管在操作控制上出现了一些错误。评测者表示,虽然未能得到一款完全功能健全的游戏,但能够打开并展示街霸游戏的雏形已属不易。这证明了模型在跨工具链(Blender + Godot)协作上的基本能力。
"The fact that it actually made something that does open and show us at least some semblance of what we would have expected to see in a Street Eat game is good enough for me."
目前 Q8 版本正在进行相同的街霸游戏生成测试。鉴于前两项测试结果的不确定性(Q4KM在比例上更优,而网站展示两者难分伯仲),此次游戏开发测试将揭示 Q8 版本在复杂逻辑编排和多步骤工作流执行上的真实水平。评测者将逐一运行测试以确保工具访问的独立性,并期待通过这一更具挑战性的任务来区分两个量化版本在创造性编程方面的最终表现。
Q8量化版本在3D物理模拟中的卓越表现
在对Ornith 1.5 35B模型进行Q8(8位量化)版本的测试中,其在复杂物理引擎模拟任务上展现了显著优于Q4(4位量化)版本的能力。测试场景涉及一个包含加热机制和碰撞检测的3D环境,模型成功生成了资产并将它们整合在一起。Q8版本在复杂逻辑和物理交互上的表现被评价为“做得非常好”,尽管加热效果的可视化可能略显简单且不够刺激,但其核心功能逻辑是成立的。测试者指出,虽然场景中缺乏其他鼠标或摄像头的交互视角,但每次点击操作都能触发预期的物理反馈(即物体被弹射出去),这表明模型的交互响应机制是有效且稳定的。这种在3D引擎中处理复杂碰撞和物理状态的能力,证明了该模型在处理非文本类、高逻辑密度任务时的潜力。
音频反馈与物理细节的完整性验证
除了视觉和逻辑层面的表现,测试还特别关注了模型生成的音频反馈与物理动作的同步性。在测试过程中,加热产生的震动声效以及物体因多次压缩接触而产生的声音反馈均被成功生成。这些细粒度的感官数据表明,模型不仅理解了“加热”和“压缩”的概念,还能够在生成的内容中体现这些动作的物理后果。测试者对这一结果表示印象深刻,认为这不仅仅是简单的文本生成,而是模型在理解物理因果关系方面取得了实质性进展。这种对多模态细节(如声音与动作的对应)的处理能力,进一步佐证了Q8版本在处理复杂模拟任务时的优越性。测试者推测,Q4与Q8版本在此类任务上可能存在巨大的性能差异,因为低量化可能会丢失处理复杂物理逻辑所需的关键信息。
Q4与Q8版本的横向对比分析
为了更全面地评估模型性能,测试者进行了Q4KM(4位量化)与Q8版本的直接对比。虽然整体趋势显示Q8在复杂任务中占优,但测试结果也揭示了特定场景下的例外情况。在某些情况下,如手表网站展示或3D引擎模型的基础渲染中,Q4KM版本的表现可能等于甚至优于Q8版本。这表明在逻辑相对简单或依赖预训练数据中常见模式的场景中,低量化带来的性能损失并不明显。然而,在涉及C++代码生成或复杂的滑板游戏物理模拟等高难度任务中,Q8版本明显拉开了与Q4版本的差距。这种对比测试的意义在于,它揭示了量化程度对模型能力的非线性影响:在简单任务中Q4足以胜任且更节省资源,但在挑战模型极限的复杂模拟任务时,保留更多精度的Q8版本是发挥模型潜力的必要选择。这种差异对于用户在实际部署时选择合适的量化级别具有重要参考价值。
测试结论与模型能力评估
基于为期两天的多轮测试,Ornith 1.5(基于Qwen2.5-35B-A3B混合专家模型)整体表现令人印象深刻。测试者强调,本次测试的场景是首次公开演示,并未出现在模型的训练数据中,因此模型的良好表现并非源于记忆或过拟合,而是真正泛化能力的体现。尽管测试者不确定自己之前是否深入测试过基于的Qwen 3.5/3.6模型,但Ornith 1.5在深度处理能力上超出了预期。综合来看,虽然Q4版本在日常应用中更具实用性(因为更易于运行),但Ornith 1.5在复杂物理和代码任务上的表现证明了其作为高质量开源模型的价值。测试者建议用户尝试该模型,特别是对于需要处理复杂逻辑和物理模拟的高级应用场景。最后,测试者在结束前再次演示了物理碰撞触发功能,确认了其稳定性。该模型在35B参数规模下展现出的能力,使其成为值得关注和尝试的先进AI工具。
结论
Ornith 1.5 35B在首次公开的非训练数据测试中展现了超越预期的泛化能力,但量化精度对复杂任务表现有决定性影响。Q8版本在C++代码生成、3D物理模拟及逻辑完整性上显著优于Q4KM,能处理高难度多步骤工作流;而Q4KM在浏览器自动化中速度更快、资源占用更低,且在部分前端渲染和基础3D建模比例控制上表现相当甚至更优。尽管存在移动失效、视觉残留等Bug,模型仍证明了其在消费级硬件上处理复杂逻辑与物理模拟的潜力。Q8适合高复杂度任务,Q4KM则更适合资源受限或逻辑相对简单的场景。