周一,这家在过去一年里让 Llama 项目“挨饿”、以九位数的美金挖角研究人员,并将新模型锁在 Facebook 登录页面之后的公司,刚刚发布了一个基于 Apache 2.0 许可证的免费开源模型。它名为 Muse Glimmer,我相信这个名字是受扎克伯格粉丝小说《我的小马驹》角色的启发。这是一个拥有 300 亿参数的智能体模型,小到足以在你那配置极低的电脑上运行。这意味着你现在可以拥有一个常驻在显卡里、不占租金的迷你“扎克伯格智能体”,它会读取你的邮件,管理你的日历,并利用你的数据去颠覆美国中部的地方选举。

根据 Meta 的说法,这样的智能体需要深度访问个人联系人信息——这是自 2004 年以来他们一直梦想着写下的句子。但这一次,监控可以完全在你的硬件上运行。在今天的视频中,我们将了解 Muse Glimmer 实际上能做什么,学习 Meta 如何通过蒸馏、量化和推测解码将其缩小规模,并确定扎克伯格的开源救赎之旅是真诚的,还是这仅仅是目前失败的模样。现在是 2026 年 8 月 12 日,你正在观看《代码报告》。

不久前,Meta 还被视为开源权重领域的冠军。他们的 Llama 模型下载量超过十亿次,并催生了一个建立在它们之上的定制模型生态系统。直到 Llama 4 发布,它成为了自贾斯汀·汀布莱克与未成年女孩狂欢以来最大的 Facebook 丑闻。发布中包含两个模型:Scout 和 Maverick。起初它们的基准测试表现良好,但这仅仅是因为 Meta 向 Llama Arena 提交了一个秘密加强版,而我们这些普通人根本无法下载。我们可下载的模型智力如同农场动物般低下,考虑到它们的命名倒也贴切。

与此同时,习近平主席发布了更好、更便宜且符合毛泽东思想发布的开源模型。面对这种羞辱,扎克伯格只以亿万富翁知道的方式做出了回应:他花费 140 亿美元收购了 Scale AI 的 49% 股权,只为获得其首席执行官亚历山大·王。随后他开始在 OpenAI 和 Google 挖角研究人员,并将整个业务重组为 Meta Superintelligence Labs。他的新梦之队做的第一件事就是从头重建技术栈,并完全放弃开源。

今年早些时候他们推出了 Muse Spark,这是一个仅限 API 使用的闭源模型。但这带来了一个新问题,因为没有人会理智地选择 Muse Spark 而不是 Claude 或 Gemini 之类的产品。随着华尔街开始质疑那 1450 亿美元的资本支出被白白烧掉却毫无成果,我假设扎克伯格飞往了他在考艾岛的秘密住所——当地人声称那是他从那里偷来的,并制定了一个计划,最终导致了我们在这里看到的 Muse Glimmer 的发布。

这是一个密集的 300 亿参数模型,直接使用日志概率蒸馏技术从他们庞大但闭源的 Muse Spark 中提炼而来。这基本上意味着大模型将确切的概率分布低声耳语给 Glimmer,直到它学会如何伪造这些输出。在发布后撰写的宣言中,扎克伯格将蒸馏描述为开源生态系统运作的重要原则——这颇具讽刺意味,因为过去一年来每个美国实验室都在指责中国对它们的输出做完全相同的事情。

它实际上有多好?根据 TMBBs 的说法,它显然击败了 Gemma 4,并与 Qwen 3.6 旗鼓相当。但我最喜欢的数字是提示注入基准测试,其中针对 Glimmer 的攻击有 28% 的成功率。但他们将其列为胜利,因为对于 Qwen 来说这一比例是 40%。至于让它能在消费级 GPU 上运行的方法则很有趣:全精度模型需要超过 55GB 的内存。所以他们的第一步是量化,Meta 将权重压缩至约 4 位,使其缩小到略低于 20GB。

第二步是推测解码,这基本上是你的自动补全功能的自动补全。其工作原理是一个名为 DFlash 的小型模型吐出一整块令牌,然后大模型一次性读取整个区块并剔除错误的猜测。据称这使 5090 显卡上的速度提升了 3 倍。但老实说,实际模型远没有我前面提到的扎克伯格宣言有趣。

在宣言中,他认为 AI 的真正风险不是失控的超级智能,而是少数几家公司对其拥有所有权。他表示不理解为什么任何相信 AI 会终结人类的人都会急于构建它——对于一个上周刚因在新墨西哥州成为公共滋扰而被罚款 5.67 亿美元的公司老板来说,这是一个合理的观点。他还希望前沿实验室向美国政府移交未发布模型的中间训练检查点,并宣布设立十亿美元基金资助愿意 hosting 其数据中心的城镇,大概是为了让它们停止制造所有骚乱。

那么,救赎之旅是真诚的吗?可能不是,但 Apache 许可证就是 Apache 许可证,他们无法将 genie(精灵/力量)重新关回瓶子里。扎克伯格和王都表示,Muse Spark 1.2 的开源权重即将推出,这意味着你可以自托管 Meta 自身编码代理背后的确切模型,这相当酷。如果你想自己测试 Muse Glimmer,可以使用今天视频赞助商 OpenRouter 的服务。它提供了一个统一的 API 来访问所有大语言模型,所以你只需要担心一个端点和一张账单。

你可以手动切换模型,或使用他们的路由器根据价格、准确性等因素组合为你选择一个模型。我的初创公司至今仍未获得种子轮融资,所以我使用 OpenRouter 用 Rust 重写了整个代码库以吸引更多投资者。因为 Rust 是一门 notoriously(众所周知)难学的语言,我使用 Pareto Router将每个请求路由到更便宜的编码模型上,这些模型仍能进行 cargo build。但我最终忍不住为 UI、专用的图像和语音端点挥霍了一些更高级的模型,以生成一些特别吸引人的个人资料来培育社区并促进匹配流动。

OpenRouter 绝对是我见过的发现新模型的最佳工具,而不用陷入 25 个不同的订阅中。你可以在下面的链接免费试用它。这就是《代码报告》。感谢观看,我们下期再见。