DeepSeek V4.1 (1017) 本地部署架构与内存优化

本视频展示了 DeepSeek V4.1 (版本 1017) 在本地硬件上的完整运行能力。该模型总大小为 510 GB,其中约 40% 为 engrams(n-gram),支持 SSD offload,从而在保持高速度的同时大幅降低内存占用。作者使用的是 MP Ultra 平台,实际仅消耗 217 GB RAM(纯权重状态),若进一步量化可优化更多。当前运行版本为“pure version”,仅对视觉层进行 9-bit 量化,作者认为这几乎是无损的。内存使用显示为 278-326 GB,其中大部分由模型本身占用,其余为缓存文件。n-gram 从存储加载到内存后会被丢弃并重新读取,但若系统有富余内存,OS 会缓存这些结果以提供“免费读”性能。这种机制让模型主体驻留 RAM,推理速度极快。

"we actually ran the full fat version... 510 GB of which 40% of it is engrams, which means you can offload to the SSD and still get some really fast speeds."

基准测试对比:DeepSeek V4.1 vs Kimi K2 & GLM

在性能基准方面,作者指出 DeepSeek V4.1 的表现达到了 frontier-level。在 Deep SW 基准上,官方使用特殊 harness 测得分数从旧版的 74 提升至新版的 77。虽然使用普通 harness 分数会较低(旧版约60多,新版推测从 64 升至 67),但其他基准表现强劲。在 Terminal Bench 上,分数从 30 提升至 40;而在 Program Bench 上,从 20 升至 29。相比之下,新发布的 Kimi Kaze 3(作者口误为 Kimikaze)在 Terminal Bench 仅得 12,Program Bench 得 17。GLM 5.3 在 Program Bench 仅得 19,远低于 DeepSeek V4.1。作者认为这可能是当前最强的本地模型之一。

基准测试 DeepSeek V4.1 (旧版) DeepSeek V4.1 (新版 1017) Kimi Kaze 3 GLM 5.3
Deep SW (Special Harness) 74 77 - -
Terminal Bench 30 40 12 -
Program Bench 20 29 17 19

"Deep SW is 77. That is like frontier-level performance... Terminal Bench, 30 to 40. And compared to Kimikaze 3... only got 12, apparently."

实时推理性能与生成质量验证

作者通过实际运行测试了模型的响应速度和输出质量。在调试模式下,关闭思考功能时,生成 5,000 tokens 的核爆炸场景平均速度为 14.8-15.5 tokens/s。当开启“Low Thinking”(25,000 token 上限)时,生成的火山爆炸视觉效果更加震撼。作者对比了 DeepSeek 官方云端接口在相同“Thinking Disabled”设置下的输出,发现本地运行结果与云端 非常相似(parity),差异可能仅源于温度参数或系统提示词的不同。在 Temperature 1.0、Max Thinking(限制为 10,000 tokens)的设置下,模型生成了 20,000 tokens 的内容,平均速度为 15.3 tokens/s。尽管启用了 engram offload 且尚未开启 MTP(Multi-Token Prediction),内存使用仍控制在 282 GB 左右,上下文窗口仅占用极小空间(0.06 GiB),体现了 DeepSeek 对上下文的极致优化。

火山场景的视觉迭代与本地化挑战

在生成火山熔岩流动的场景时,尽管重置按钮失效且存在错误,但辉光效果(bloom effects)赋予了画面梦幻般的质感。为了复现云端模型的效果,作者向本地 DeepSeek 发送了截图并请求增加光照与辉光过载。经过多轮调整,本地生成的熔岩流动细节虽然仍存在与燃烧部分断开的逻辑 bug,但整体视觉效果已非常接近云端版本。这一过程展示了通过视觉推理(vision inference)和提示词微调,本地模型也能达到高水准的生成质量。

"I sent a screenshot of the Deep Seek generation and I said, can we make it glow like in the photo?"

本地运行耗时与隐私优势的权衡

在性能对比方面,作者指出使用 M3 Ultra Mac Studio 本地运行该生成任务耗时约 1,200秒(约20分钟),而云端 DeepSeek 官方声称仅需 401秒。尽管存在显著的速度差距,但本地部署提供了更高的基础设施控制权和隐私保护。文中特别提及了 Anthropic 的 X4Z 曾指控 DeepSeek 代理请求至 Claude,这引发了用户对数据隐私的担忧。因此,对于重视数据安全与合规性的用户而言,本地运行的时间成本换取了不可妥协的隐私保障。

运行环境 耗时 (秒)
DeepSeek Cloud 401
Local (M3 Ultra) 1200

人脸与解剖学生成的思维模式对比

在测试写实人脸渲染时,关闭思考功能即可生成具备良好颧骨和五官细节的图像;开启 10,000 tokens 的最大思考模式并设置温度为 1,虽然解决了部分眼睑问题但导致人物秃顶。更复杂的 3D人体解剖学生成则展示了思维模式的决定性作用:关闭思考时输出仅为带有红蓝点的抽象外星生物,而开启最大思考模式后,模型准确生成了心脏、肝脏、肾脏及骨盆等器官结构。这一对比证明,在复杂逻辑与空间关系任务中,深度思考模式(Deep Thinking)能显著提升生成的准确性与完整性。

3D人体模型生成与量化稳定性

在展示DeepSeek V4.1的视觉能力时,演讲者生成了一个可实时切换器官与皮肤的人体模型。尽管量化过程通常会导致骨骼结构错乱,但该模型的骨骼连接完整且渲染效果极佳。演讲者指出模型目前包含10,000个token,尚未达到完整版本。他提到正在后台以温度零(temperature zero)进行对比生成,旨在观察不同参数下的改进情况。这种对底层结构完整性的关注,体现了模型在复杂3D资产生成上的稳定性。

"I love the bones. The bones are all connected... sometimes when we have to quantize models, the bones go crazy, but this one it kind of worked."

网站生成:从平庸到“活”的界面演进

演讲者通过迭代提示词测试了模型的前端开发能力。初始指令“制作最花哨的网站”在关闭思考模式(thinking disabled)下生成了被评价为“丑陋且平庸”的基础页面。随后,他启用最大思考模式(max thinking)并将温度设为1、token预算增至10,000,生成了名为“Nova”的界面。虽然色彩略显激进且代码出现运行时错误(unexpected token),但模型能通过后续提示自我修复。最终,通过调整温度为零并允许生成34,000个token(耗时2,300秒),模型产出了包含实时运动设计、发光背景及复杂图表的“活”界面,被评价为类似真实应用程序而非传统网站。

"It's still not 2026 2027. It's still a bit overcomplicated... but remember this is thinking disabled."

GTA克隆游戏与温度参数对代码逻辑的影响

在测试游戏开发能力时,模型生成了一个类似GTA 5的网页版驾驶模拟。尽管初始版本存在光照过曝(Unreal Bloom)问题,但模型通过图像推理功能分析截图后成功修复了代码。然而,当启用最大思考模式、温度设为1且生成34,000个token时,代码出现了语法错误。演讲者深入分析指出,这是由于温度1下的随机数生成器(RNG)导致模型在采样时选择了错误的token:本应输出“start”的位置输出了重复的变量名“car”,导致const car定义冲突。这一案例揭示了高温度参数在代码生成中可能引发的逻辑陷阱,尽管模型具备自我修复能力,但初始生成的准确性受采样策略显著影响。

温度参数对代码生成质量的影响

在编码任务中,Temperature(温度)的设置直接决定了模型的输出稳定性。虽然存在强制模型不选择所有Token的特殊机制,但当前技术状态主要侧重于语法正确性,如括号匹配等基础规则。作者强调Temperature 0能获取模型的首选Token(Number One Picks),这对于代码生成至关重要,因为此时输出质量最高且最符合逻辑。尽管评论区常有声音主张使用Temperature 1以获得最佳效果,但作者通过大量测试发现,Temperature 1会导致运行时错误(Runtime Error)。相比之下,在生成GTA克隆游戏时,使用Temperature 0配合26,000个最大思考Token,成功生成了可运行的城市场景、角色移动及车辆驾驶功能,且无运行时错误。这一对比证实了低温参数在确定性代码生成中的优势。

帝国时代生成质量受温度与思维深度显著影响

在测试《帝国时代》网页版游戏时,开发者团队仅提供了索引文件、主JS文件和GLB模型下载链接,要求用户自行整合。当设置温度为1并启用思维模式(限制10,000 token)时,模型出现早期退出思考机制,导致生成的游戏内容极为简陋:建筑可点击但无实际交互逻辑。相比之下,切换至温度为0后,模型持续思考约10,000-11,000 token才停止,但仅生成约3,000 token的代码。尽管此前用10,000 token曾生成过可摘苹果、砍树的高质量地图,此次结果却令人失望。作者推测提示词工程或语言选择(如使用中文)可能影响模型表现,因为官方聊天模板中常包含拟人化指令(如“这是你的终极思考状态”),暗示模型对特定语境敏感。

"So, even though it was a max thinking... got with a branch of the tree, and it ended thinking early."

复用旧模型推理链可提升新模型生成质量

为排查问题,作者提取了旧版DeepSeek的推理阶段输出并注入新模型。这一操作使生成代码量从3,000 token跃升至18,000 token(基于25,000 token思考),地图质量显著改善:可摘苹果、选择机制更完善。作者指出量化精度可能影响表现,曾观察到Q8量化版本有时优于未量化模型。此外,尝试让模型生成Three.js照片时遭遇运行时错误,修复后虽出现敌方AI派兵机制(可训练士兵、发起战斗),但缺乏城镇建筑系统。作者强调测试时使用纯模型而非官方助手框架,以排除harness干扰。

"Generation-wise, it did produce more tokens. So 18,000 tokens of generation from 25,000 tokens of thinking."

视觉层量化与预量化版本性能对比存疑

作者进一步测试Q9量化的完整模型(含视觉层),发现仅生成5,000 token且质量较差。对比之下,预量化版本(DeepSeek官方转换版)在相同条件下表现更优。作者怀疑问题源于视觉层量化至Q9导致图像推理能力下降,或提示词未适配官方系统指令(如“你是一个助手”)。尽管预量化版本理论上应保持一致性,但实际生成结果反而更差。作者计划继续测试其他Q9量化变体以定位问题根源,强调模型参数一致性对公平对比至关重要。

Q9量化版本在图像生成中的意外优势

在测试DeepSeek V4.1的视觉能力时,Q9量化版本的表现甚至优于全精度模型。尽管其视觉层数少于非视觉部分,但生成的图像中成功出现了房屋等关键元素。相比之下,之前的版本表现稍逊。Q9被确认为当前可用的最佳量化方案。

"So, maybe this Q9 is the best one that's available. So, in my tests, that was the best one than even the full fat version." 这一发现表明,量化策略对特定任务的性能影响具有非线性特征。

Tomb Raider:温度1激活复杂跑酷机制

在禁用思考模式时,模型生成的游戏仅是一个基础框架,无法实现核心玩法。当温度设置为1时,模型消耗了20,000个token(其中包含10,000个思考预算),生成了令人惊叹的完整体验。尽管存在轻微的Z-fighting视觉瑕疵,但水面反射效果极佳,能清晰看到原木的倒影。最关键的突破在于游戏机制的实现:角色能够真正攀爬墙壁、在屋顶奔跑并跳跃至其他建筑,实现了基于跑酷的流畅交互。这种生成不仅没有运行时错误,还展示了模型在随机数发生器幸运时的巨大潜力。

"I'm climbing up the walls. I'm going to go to the top... That is fantastic."

Blender应用:Token选择决定代码成败

在生成简易Blender 3D应用程序时,禁用思考模式已能创建可移动的基础几何体。然而,在温度1生成55,000个token的过程中出现了一个关键逻辑陷阱。模型在代码末尾选择了分号换行而非预期的闭合标签,导致系统误判为回合结束。通过手动选择模型的第一候选token(number one pick)继续生成,代码成功闭合并运行。最终生成的应用包含交通锥、礼物盒及太阳系模拟等丰富图元。这一案例揭示了在长代码生成中,token选择策略对最终功能完整性的决定性影响。

"Rather than picking the model's number one pick... it picked the semicolon new line, which then made the top token the close tag token."

iMovie与Logic Pro:创意软件的音频突破

模型成功构建了iMovie界面,支持媒体库导入、项目导出及播放控制。在Logic Pro音频工作站测试中,禁用思考模式仅产生基础功能,但启用10,000个最大思考token后,生成的应用能播放出极具风格的节拍。用户反馈其音乐质量极高且可重新生成不同旋律,甚至足以作为游戏背景音乐使用。

"Such a sick beat and you can regenerate comes up with different ones."

逻辑推理:德国与希腊洗车决策

在基础逻辑测试中,面对“人在德国想去希腊洗车”的问题,禁用思考模式时模型给出了略显冗余的建议。它建议驾车前往希腊洗车,但同时补充说除非有特定理由,否则应在德国找车洗以节省行程。启用思考模式后,模型直接给出了更务实的结论:应该驾车(隐含去希腊),但实际操作上建议在德国洗车。这表明模型在启用思考后,能更精准地过滤冗余信息并给出符合现实逻辑的最佳建议。

WinRT持久性订阅的编码陷阱与模型表现

在探讨WinRT编程时,持久化(durable)订阅机制的命名混淆成为核心难点。即便使用GLM 5.3模型,在低思考模式下也会给出错误答案;而DeepSeek V4.1在禁用思考时同样出错,但在低思考模式下能同时给出“订阅”和“持久化”两种建议。这种模糊性源于微软将Windows Store中的产品订阅查询为durable类型,导致新手极易混淆。当启用最大思考模式并限制1,000个思考令牌时,模型准确指出“除非产品明确报告为订阅类型,否则应使用durable”,这一正确逻辑在10,000令牌下依然保持一致。这种对底层API行为的精准理解展示了模型在复杂编码场景下的可靠性。

"So, it says for subscriptions, do not assume subscription unless your store product actually reports that kind of many Windows store subscriptions are queried as a durable."

开源权重同步发布策略的行业对比

DeepSeek V4.1(版本1017)的同步开源策略被视为行业标杆。与大多数厂商先发布聊天界面或API、延迟数周至一个月才开放权重不同,DeepSeek在模型上线的同时即发布开源权重。相比之下,Meta等巨头往往因安全审查、投资者沟通及合规流程,导致模型发布滞后数月甚至半年。尽管大参数模型面临更严格的监管压力,DeepSeek这种快速迭代的开源模式极大降低了开发者的使用门槛。评论指出这可能是其最后一次如此自由的发布,因为中国新法可能要求超1万亿参数模型需政府审批,而当前版本因规模较小暂未受限。

"So, that is fantastic cuz most people out there... make their chat interface or the API their primary for like 2 weeks to a month before they release it open weight."

结论

DeepSeek V4.1 (1017) 在本地部署中展现出前沿性能,Terminal Bench与Program Bench得分显著优于Kimi K2及GLM 5.3。其核心优势在于通过SSD offload将内存占用控制在217-282GB,且Q9量化在视觉生成上甚至优于全精度模型。然而短板明显:本地推理速度(约15 tokens/s)远低于云端,且高温度参数易导致代码逻辑错误。该模型适用于重视数据隐私、拥有高端硬件(如M3 Ultra)且能接受较长等待时间的用户,尤其在复杂逻辑与视觉迭代任务中表现稳定。