MiMo V2.5 Pro:小米的万亿参数开源挑战
本期节目聚焦于小米(Xiaomi)最新发布的 MiMo V2.5 Pro 模型。作为被称为“中国苹果”的科技巨头,小米此次推出了一款 1万亿参数 的巨型模型。在量化版本方面,全球仅有极少数开发者尝试将其压缩运行,而本期主持人成功通过 分布式计算 实现了该模型的本地化部署。尽管模型在 Artificial Analysis.ai 的基准测试中表现优异,编码能力超越 GLM 5.1,并与 Kimmy K2.6 在整体智能上持平,占据开源模型榜首位置。值得注意的是,该模型采用 MIT 许可证,相比其他需要署名或限制商业使用的开源模型(如 GLM),其使用自由度极高。
"This is a from Xiai and Xiaomi, they're like the Apple Appel of Jongu, China."
本地部署困境:高保真网页生成的失败案例
在测试过程中,主持人尝试让模型生成一个 高保真的交互式网页。该任务运行在配备 M3 Ultra 芯片和 512GB 内存的 Mac Studio 上,同时使用 MacBook Pro(128GB)进行 OBS 录屏。尽管系统资源充足,模型在生成过程中陷入了 过度思考(overthinking) 的循环。它不断输出“即将开始编写代码”等语句,并反复尝试解决火车控制逻辑等问题。最终,在生成约 46,000 个 token 后,主持人因系统负载极限手动停止了任务。这一案例表明,尽管模型在理论智能上排名前列,但在处理复杂、多步骤的生成任务时,其执行效率和收敛性存在显著缺陷。
"It kept saying, 'I'm just about to start writing the codes.' And then it just keeps on breaking out into just trying to figure out. It's overthinking the problem."
量化精度与推理能力的权衡实验
为了验证模型的底层逻辑能力,主持人进行了 橙子分配测试:要求模型用一把刀将四个相同的橘子平均分给四个孩子。在低比特量化版本中,模型出现了严重的 语义理解丢失:增加少量比特后它建议“称量孩子的体重”,进一步增加则将橘子误读为其他物体。只有当量化精度达到特定阈值时,模型才给出正确且幽默的答案:“将每个橘子切半分给每人,或者如果这是脑筋急转弯,直接一人发一个整橘”。此外,在简单的贪吃蛇游戏生成中,启用思考模式(Thinking Mode) 对输出质量有决定性影响:关闭该模式时代码质量极差,而开启后仅需一行思考即可生成显著更优的代码。
MiMo V2.5 Pro架构优势与MIT开源许可
MiMo V2.5 Pro在多项基准测试中表现优异,橙色标记代表其获胜项目。具体而言,它在GDP Vala、ELO T3 Bench以及Claw Eval测试中均取得了领先优势。尽管在SWB Pro编码基准上未获第一,仅略逊于Kimi K2.6和GLM 5.1,但这一结果仍显示出其强大的竞争力。该模型采用了混合注意力架构(Hybrid Attention Architecture)和多令牌预测技术。这种内置的推测性编码机制允许最后一层同时预测多个令牌,从而显著提升了运行效率。此外,模型拥有1万亿参数规模并支持高效的预训练及智能体能力。值得注意的是,官方同时发布了基础模型版本,去除了指令集层,便于用户进行微调。
最关键的亮点在于其纯MIT许可证。这与近期某些厂商将“非常开放”作为品牌宣传,却在免责声明中附加非商业使用限制的做法截然不同。MiMo V2.5 Pro的MIT许可没有任何额外添加条款,真正实现了开源自由。
"It says licensed MIT. And this is a pure MIT license... It's not like I think Miniax recently they released a license. They branded it as very open... and then you looked in the disclaimer, it said non-commercial use"
V2.5 Pro在数学逻辑测试中的Token效率对比
在本次针对小米MiMo V2.5 Pro的本地运行测试中,模型处理速度达到13.7 tokens/秒。针对一道要求判断“必须是偶数整数”的数学逻辑题,V2.5 Pro在生成约4,000 tokens时便已得出正确答案,随后进入冗长的自我验证阶段。相比之下,前代V2.5模型在约8,000 tokens时给出相同结论,却继续额外生成超过12,000 tokens进行重复检查。尽管V2.5 Pro的推理过程存在过度验证倾向,但其核心答案产出效率较前代提升一倍。测试者指出,若设置停止条件或人工干预,可提取正确结果;此前在官网直接提问时曾出现服务崩溃及“无法回答”的报错,但本地部署版本成功规避了该问题。
"So it must be an even integer. It's going to double check the answer, but we've got the answer within 4,000 tokens"
MIT开源许可与社区分布式推理的必要性
小米MiMo V2.5系列采用MIT许可证发布,这一开源策略被评价为极具价值且值得支持。V2.5标准版已集成音频与视觉多模态能力,而性能更强的V2.5 Pro对硬件资源需求显著更高。鉴于单台设备难以承载Pro版本的完整推理负载,测试者提出需建立社区分布式计算网络以协同运行该模型。目前测试使用的是4.3-bit INF量化版本,虽在512GB Mac Studio上可运行,但更高精度的99% token准确率量化版本因体积过大无法适配该硬件。这种开源共享模式降低了本地部署门槛,为高性能AI的社区化落地提供了可行路径。
"I think it's great MIT license. You can't complain them... We're going to have to start getting a community distributed compute setup going on"
编码能力超越GLM的未解之谜与过度推理现象
测试者对MiMo V2.5在编码领域击败GLM模型的表现表示强烈好奇,公开询问其技术来源但未获明确解释。在数学测试的收尾阶段,模型持续输出“让我重新验证”等语句,展现出典型的过度推理(Overthinking)行为。尽管答案早已确定,模型仍执意进行多重校验直至资源耗尽。这种机制虽保障了结论的稳健性,但也导致了计算资源的非必要消耗。测试者最终确认该模型内部蕴含“黄金价值”,其核心逻辑正确性成立,但需用户自行判断何时终止冗余验证流程。
结论
MiMo V2.5 Pro凭借1万亿参数规模与纯MIT许可证,确立了开源模型在整体智能上的领先地位,其编码能力超越GLM 5.1并与Kimi K2.6持平。然而,本地实测暴露出严重的执行缺陷:模型在复杂任务中陷入过度思考循环,导致Token消耗激增且收敛性差。尽管其核心逻辑正确率较前代提升一倍,但冗余验证机制仍需人工干预终止。该模型适合对许可自由度要求高且具备分布式算力资源的开发者,但不适用于依赖单次高效生成的实时交互场景。