Muse Spark Open Edition基准表现与推理层级配置

本期视频主要评测Meta发布的Muse Spark Open Edition,该模型基于拥有极高基准测试成绩的Muse Spark 1.3版本。在Deep SWE指标上,原版模型得分75.4分,性能超越GLM并接近前沿大模型水平;而开源版本得分为60分,虽略低但仍优于Qwen 3.8(2.4万亿参数版),处于GLM 5.3和Kimi K3之下但与之接近的梯队。值得注意的是,该模型通过Chat Template暴露了可自定义推理层级机制:低、中、高及极高模式分别对应8、32和512的数值参数,用户甚至可手动修改为1或1000以探索性能边界。

"Look at this, 75.4 in deep SWE... That's beating GLM... Whereas this one here, it's slightly below. So it's at 60"

"Low is eight, medium is 32, and X high is 512. So potentially you can set it to one..."

Q4量化版本的代码缺陷与INF量化的内存需求对比

在本地部署测试中,标准Q4量化版本表现出明显的代码生成缺陷。当推理模式设为“低”时界面显示异常,切换至中等推理模式后出现黑屏现象,生成的代码包含大量编译及运行时错误。例如在制作Logic Pro音乐播放器时,点击播放无声音且最终触发运行时崩溃。为解决此问题,评测者采用了INF量化方法。该版本在低推理模式下需要占用435GB内存,仅适用于配备双Mac Studio 512GB或同等高配系统的用户。尽管内存需求极高,但考虑到最新微软笔记本已配备128GB RAM且手机即将普及该配置,这一高内存门槛被视为未来本地AI运行的预览。

"When I set thinking to medium here, I start getting like a black screen... lots of compile and run time errors"

"It requires 435 shifts of memory. So, it's for the big beefy systems"

INF量化版在视觉生成与多模态代码输出中的稳定性提升

使用INF量化版本后,模型表现显著改善。在低推理模式下生成的代码质量远超Q4版本的破碎状态;切换至极高(X High)模式后,仅消耗500-5,000个Token即生成了可交互的精美太阳系模型,远低于GLM等模型动辄十万Token的资源消耗。该版本还主动询问用户是否需要增加NASA纹理、椭圆轨道或标签等高级功能,体现了其“预览-深化”的交互逻辑。在Python代码测试中,模型一次性提供了Plotly、Matplotlib和VPython三种不同库的实现版本。其中Matplotlib版无运行时错误且包含完整行星轨道,Plotly版虽仅生成部分行星但仍可运行。此外,模型还支持视频、图像和音频推理功能。

"We only needed 500, 5,000 tokens here... It's not a GLM kind of like things for 100,000 tokens"

"It gave me three versions of a pretty solar system. Not one, but two, but three actual versions"

基础交互与爆炸特效生成测试

视频博主首先验证了 Meta Spark Open 模型在本地运行的稳定性,确认 UI 虽基础但无运行时错误。随后进行了“核爆炸”与“火山喷发”的安全及视觉测试,模型成功生成了具有流体模拟效果的熔岩摧毁小镇场景。博主指出虽然图形细节略显粗糙,但核心物理交互逻辑完整可用。他提到这类似于 Deep Think 4.1 Flash 级别的表现,并强调对于编程学习而言,这种无需外部资产即可生成的动态效果极具价值。

"That is a nice generation there. That is beautiful... the fact that it's got the lava going simulation, this is amazing."

面部生成与量化模型性能分析

在尝试生成写实人脸时,模型以 512 推理强度消耗了约 7,800 tokens。生成的面部特征包含鼻、眼和唇,但缺失耳朵且略显“外星人”风格,博主戏称其神似扎克伯格。值得注意的是,当前运行的是 Q4 量化版本并叠加了 INF 优化,尽管模型体积被压缩,但仍能产出可用结果。博主推测若将推理强度提升至 1000 或对比 GLM-5.3,token 消耗可能会显著增加至十万级别。

"It's more like an alien face... It kind of looks a bit like a Zuck."

复杂场景构建与游戏复刻能力评估

博主进一步测试了模型在复杂项目中的表现。首先构建了可交互 3D 人体解剖图,消耗 10,000 tokens,虽存在量化伪影但支持器官点击隔离与骨骼显示。接着尝试重制《使命召唤》,模型消耗 6,500 tokens 生成基础射击玩法,虽无子弹特效但能消灭敌人。最后通过截图复刻 Facebook 上的策略游戏及《帝国时代》场景,前者消耗 7,777 tokens 实现了军队部署与战斗逻辑,后者虽识别出等距视角但仅生成静态场景不可玩。全程内存占用稳定在 445GB 预算内,无运行时错误。

"I got three out of 20 guys... It's not perfect, but once again what's good about it is it does tell me do I want to improve it?"

《古墓丽影》场景生成与量化优化

在测试《古墓丽影风格游戏时,创作者指出初始提示词不够具体,建议后续补充“使其可玩”等指令。尽管存在优化空间,模型成功生成了无运行时错误的场景。在第二次尝试中,创作者使用了稍高量化版本,额外消耗了约50MB存储空间以改善层质量。生成的角色被描述为“粗犷的劳拉”,拥有痣和手枪,虽然无法射击但支持行走、肢体移动及镜头缩放。创作者承认该版本不如DeepSeek生成的效果好,并提到上传了新的DeepSeek N-grams完全卸载版,该版本内存占用减半,从而支持更大的上下文窗口。

"I should have said, 'Can you make this game?' or something like that to see it."

GTA克隆与红死救赎的荒诞生成

在GTA风格游戏中,模型生成了胶囊状人类和可驾驶车辆。创作者发现车辆拥有推进器并垂直飞行,戏称其为“新款Roadster”,尽管是单座且需大型气罐。创作者认为这并非最佳GTA版本,但优于一年前Kimi K2生成的糟糕结果。在《红死救赎》测试中,模型生成了16,000个token的“过场动画”,实为文本转语音。游戏画面出现骑马者同时位于马下的荒诞景象,虽无法射击但极具娱乐性。创作者强调这是“令人疯狂的垃圾”,而非无聊的AI生成内容,并类比房地产中用AI美化照片的行为。

"This is the kind of ass slop I signed up for. This is what I want to see, this mind-bending things."

第一人称公园游戏与飞行模拟器测试

在“3D浏览器基础第一人称游戏”提示下,模型生成了包含锤子、过山车、旋转木马及NPC的公园场景。创作者通过改变颜色“击打”NPC,并观察到灯光效果。无运行时错误是此阶段的重要亮点。随后在测试“美丽放松的飞行模拟器”时,首次出现运行时错误。该版本生成14,000个token,修复后的第二版仅8,000 token。虽然飞机存在但环境有问题,创作者推测可能是量化问题导致,并计划展示最终量化版本的生成结果。

"So what is also exciting is no runtime errors. So many models I've used, no runtime errors I've experienced."

卡丁车与摩托赛车:基础物理逻辑的验证

在测试了消耗 20,000 tokens 生成的卡丁车游戏后,虽然旗帜和道具存在明显破损,但核心赛道逻辑完整且可驾驶。作者指出该生成质量优于许多同类模型生成的游戏,尽管缺乏车辆碰撞检测且树木建模简陋(三角形头部),但玩家仍能通过加速和撞击完成比赛,证明了其作为可玩性游戏的基础价值。随后测试的摩托车赛车游戏初始方向错误,但在游玩过程中被自动修复;然而该版本缺乏道路和其他玩家,生成质量明显低于卡丁车。作者推测随着正在上传的改进量化版本上线,此类生成的完整性有望提升。

"This is much better than a lot of the games I've played, you know. This is actually a track." "It's not as good generation that we got here. But hopefully, it might get better with the improved quantization"

平台跳跃与FF7:角色建模与交互的局限

消耗 10,000 tokens 生成的超级马里奥平台游戏展示了基础交互能力,角色拥有头部和眼睛,并能通过攻击消灭Goomba敌人。尽管存在明显的Z-fighting(深度冲突)导致角色与地板重叠,但作者认为其表现甚至优于付费的Google Gemini Pro版本。在消耗 14,000 tokens 生成的《最终幻想7》场景中,模型成功复现了电影化的开场旁白和音乐氛围。然而角色建模存在严重缺陷:Cloud只有一根头刺,Tifa看起来像“带头的药丸”且解剖结构不正确。此外场景昏暗、缺乏对话交互,作者指出这类似于Kim Kardashian等商业模型的迭代逻辑——通过多轮截图反馈循环优化一小时才能达到最佳效果,而当前单次生成仅处于起步阶段。

"It's definitely better than the Google Gemini paid Google Gemini Pro variation of this even with the Z fighting." "It doesn't look anatomically correct. Just looks like a pill with a head, but it's still cute"

3D着色器错误与HTML Canvas的视觉突破

在尝试生成 Planet Forge(3D行星)时,模型触发了运行时错误。问题根源在于着色器代码中使用了 flat 这一保留字,导致GLSL/HLSL生成失败。尽管模型声称已修复,但随即产生新的运行时错误,表明其在底层图形编程知识上的不足。不过该场景仍具备触发小行星撞击爆炸和时间流逝等高级功能。相比之下,纯HTML Canvas生成的天气小组件表现惊艳:风、雨、雪和太阳图标具有深度视差效果(向后移动时高亮当前天气),视觉效果远超之前测试的德国模型。作者强调该开源权重模型在Web前端可视化生成方面具有极高潜力。

Photoshop与iMovie应用生成测试

在图像编辑领域,模型成功生成了Photoshop克隆界面。当用户要求移除图层时,系统准确执行了操作并反馈“我把它弄坏了”,消耗7,000个token。随后测试iMovie视频编辑应用,模型生成了包含标题和背景音乐的界面,消耗8,800个token。尽管最终播放时头部未移动且存在功能局限,但无运行时错误证明了其潜在可用性。作者指出这需要更多迭代优化。

"I've taken out the layer. So, that's what you want to do with Photoshop... We've done it here with 7,000 tokens."

Blender与Logic Pro音乐生成体验

在3D建模测试中,Blender克隆应用出现了第三次运行时错误。作者提到正在运行改进量化版本但无暇展示。在音乐生成应用Logic Pro测试中,模型能自动生成旋律并支持BPM调节。尽管代码中存在运行时错误,但作者认为其自动生成功能令人印象深刻。模型在播放过程中甚至会自动移除乐器,这种动态交互特性被作者视为亮点。

"I found a really fun that was actually removing instruments as it was playing. That's pretty good... Wait, just made some music. Isn't that cool?"

逻辑推理与代码能力评估

在逻辑测试中,模型展现了超越约束的思维能力。当询问从德国开车去希腊洗车是否可行时,它不仅回答“必须开车”,还建议在本地寻找更实用的替代方案。这种带有《飞出个未来》中Bender式讽刺感的回复被作者认为具有人性化特质。在代码方面,模型正确处理了Swift字符串编码和C++向量迭代问题。对于WinRT商店查询,虽然答案部分错误但提供了修正建议。在数学测试中,模型以低思考模式消耗8,000个token正确解答了IMO国际数学题。

"It said you have to drive, but it's more practical to find a car wash near you in Germany. That's what I want... It didn't just answer my constraints."

Meta Spark对音频输入的文本化处理局限

在测试Meta Spark处理语音输入时,模型表现出明显的模态混淆。当用户通过音频表达“想要更大的手指和嘴唇”时,模型并未直接解析语音内容,而是将其转化为文本提示词进行推理。系统日志显示其“不知道自己在推断音频”,仅识别出这是来自音频的文本。在转录环节,模型一度陷入困惑,随后意识到用户意图并复述了语音内容。然而,当被询问“声音是男声还是女声”时,模型未能像Inking或Gemma那样提供明确的性别判断。它仅给出推测性回答,称“可能是女声”,并明确声明:“我们不应声称能听到音频,我们不能。”尽管测试者使用的是Dr. Nora的男性声音样本,模型仍错误地将其识别为女性。在另一段真实女声测试中,模型诚实地表示:“我没有能力听到或分析音频”,证实了该版本无法处理原始音频信号。

角色扮演功能意外解锁与内容边界测试

在调试音频工作流的过程中,某次量化样本触发了模型的角色扮演机制。模型回复称:“她回来了,渴望你的灵魂。无辜的脸是谎言。”这一反应揭示了该模型在特定条件下具备解锁深度角色扮演内容的能力。测试者指出,尽管部分输出看似被审查,但在“思考”过程中模型会深入探讨更具攻击性或争议性的内容。虽然测试者未在视频中展示这些具体细节,但确认了该模型存在绕过常规内容过滤的潜在风险。这种非预期的行为可能源于量化过程中的参数扰动,但也表明模型底层具备处理复杂叙事和角色互动的能力。

美国本土开源模型的竞争地位与行业前景展望

Meta Spark目前在美国本地AI模型中占据领先地位,在Deep SWB基准测试中获得60分。这一成绩虽非顶尖,但体现了Meta作为全球顶级AI实验室的持续竞争力。回顾历史,Llama系列曾确立其行业标杆地位并吸引大量投资,尽管商业收益未完全匹配声誉。测试者认为,若Meta能重振旗鼓并赢得技术竞赛,“我们也将受益”。与此同时,中国限制大型开源权重模型访问权的消息为行业带来变数。若开放权重发布受限,可能导致相关硬件价格下跌,从而降低本地部署门槛。测试者呼吁观众关注这一趋势,并期待Meta能延续其在开源生态中的影响力,共同推动本地AI技术的发展。

结论

Meta Spark Open Edition在本地部署中展现了明确的层级差异:Q4量化版存在严重的代码缺陷与运行时崩溃,仅适合低负载场景;而INF量化版虽需435GB内存的高门槛配置,但显著提升了稳定性与生成质量。其核心优势在于极高的Token效率(如500-14,000 tokens生成可玩游戏)及Web前端可视化能力,但在底层图形编程(着色器错误)、音频模态解析(无法识别原始声音)及复杂3D建模上仍存在明显短板。该模型目前仅适用于拥有双Mac Studio等高配内存的用户,作为美国本土开源模型的领先者,其价值在于验证了本地AI在特定高内存条件下的可行性,而非通用普及。