大家好,欢迎收看本期节目。今天我们将深入探讨 M5 Ultra 芯片的发布情况。Mac Studio 正式回归,此前有传闻称其内存上限将被限制在 256GB,但显然苹果决定再次提供高达 512GB 的内存选项。这无疑让人松了一口气,尽管价格随之上涨是需要关注的问题,但我必须说,苹果重新推出高性能计算机令人欣慰。毕竟他们曾关闭 Mac Pro 生产线,Mac Studio 也一度显得过时,加上英伟达价格疯狂上涨,本地运行 AI 的前景曾令人担忧。

这次发布最让人惊讶的是 M6 芯片已经就绪,它将采用先进的 2 纳米工艺。虽然不确定是否会有 M6 Ultra,但传闻苹果可能直接跳至 M7 系列,因此选择 M5 Ultra 是相当稳妥的。M6 本身也非常有趣,如果未来 MacBook Pro 能配备 256GB内存,其竞争力也将显著提升。目前 M5 Ultra 依然拥有 80 个 GPU核心,但真正引人注目的是内存带宽从每秒 800GB提升至1.2TB。理论上,这使得令牌生成速度提升50%,而在提示词处理方面,正如 M5 Max 所展示的那样,性能可高达四倍。

苹果还宣称在其他工作负载中表现卓越,例如图像生成速度提升四倍。对于视频生成而言,这在 M3 Ultra 上曾显得迟缓,但新硬件带来的加速令人期待。特别是随着 MiniMax H3、M3 音乐生成器以及 LTX 等最新模型的涌现,额外的速度提升至关重要。此外,苹果 Mac 系列的功耗远低于英伟达同类产品,这在当前环境下极具吸引力。该芯片通过 Ultra Fusion技术连接两个 M5 单元,尽管此前 M3 系列也使用过类似技术,但苹果此次强调这是 Apple Silicon 的首创。

在 CPU方面,M5 Ultra配备36个核心,其中24个为性能核,其余为被称为“超级核心”的高效核。相比 M3 Ultra,其单线程性能提升25%,多线程性能提升30%。图形方面,新引入的加速器为 AI 提供4.5峰值 GPU算力,使图形性能比 M3 Ultra快40%。这一提升主要得益于批处理等技术对 GPU 利用率的优化,减少了内存频繁读写的需求,使其更适合作为商业或教育机构的本地服务器。

苹果还推出了新的媒体引擎和名为 AI 的开发工具,并提供了巨大的512GB统一内存池。虽然大家曾梦想达到1TB以容纳 Kimiko 3、Coin等参数量达2.4万亿至2.8万亿的超大模型,但512GB可能仍显不足。未来可能需要组建集群并联网运行这些巨型模型,尽管 M3 代际的集群速度较慢,但希望新硬件能带来显著改善。能够仅靠普通墙壁插座运行服务器集群而无需专用电源站,这一前景令人振奋。

关于价格与购买策略,在澳大利亚 M5 Max 起价为4000澳元。M5 Ultra目前仅提供256GB内存版本,预计数月后推出512GB选项。鉴于过去高配版突然下架的情况,建议感兴趣者先预订现有版本。若两个月后512GB发布且需升级,可取消原订单重新下单,以确保在苹果改变策略前锁定产品。目前256GB版可预订,最早10月27日取货;96GB版为10月20日;标准 Ultra 则为9月22日。希望新 CEO能借此巩固苹果在消费级 AI硬件领域的领先地位。

九月发布,如果你正考虑购买配备96GB内存的Mac Studio,那么这个选项会很有帮助。很多人之前订购了M3系列,因为他们知道很快会有新公告发布,并且希望自己能获得免费升级。苹果有时确实会这样做:如果你提前下单且系统得到更新,他们会在不收取额外费用的情况下提供升级。这一点非常有趣。

从空间角度来看,苹果目前的内存定价依然令人难以置信:256GB需要6000澳元。我猜测512GB可能要价1万或1.2万美元,真是令人咋舌。但至少它是可用的,而且你可以购买AppleCare来获得某种形式的保修支持。虽然价格极其昂贵,堪比一辆汽车的价格,但如果你将其用于工作用途,或许还是值得的。

唯一需要考虑的是AI技术迭代速度极快。也许今天这套系统能运行你现有的模型,但未来当出现万亿参数甚至更大规模的模型时,你就不得不屈服于服务器集群才能体验最新最强的技术。不过即便如此,对于重视隐私的用户或研究人员来说,拥有这样的本地算力依然是一件非常棒的事情。

就像我提到的,苹果硬件以往的价格就很高昂,但最近亚马逊上的内存、固态硬盘以及机械硬盘价格都疯涨得离谱。因此很多人都在观望,等待明年新工厂投产上线后,希望价格能稳定下来并逐渐回落。但眼下如果你想从1TB升级到4TB存储,需要额外支付2250美元,这通常被认为是不合理的。

不过实际上情况没那么糟,我现在就去亚马逊搜索4TB SSD看看价格。有一款只要700美元,但你需要的是PCIe 5.0接口对吧?让我们找找看PCIe 5.0的SSD,目前4TB的价格是800美元。虽然按照当前行情可能仍显昂贵,但相比其他地方普遍涨价的情况已经好多了。

也许你可以直接咬牙上8TB版本,因为4TB可能不够用。比如你想运行Qwen模型,仅其本身就需要5TB空间,你甚至无法将其完整存储在4TB硬盘上。假设是Qwen 3.8 Max的BF16版本,这还不是官方正式版,但你看需要4TB。为了在系统中运行它,你至少需要准备8TB存储,这意味着总共要多花5000美元。

你可以聪明一点处理这个问题。我这里有很多SSD硬盘盒,比如这个支持Thunderbolt 5接口,速度可达80GB/s,并且你可以将它们组RAID阵列。如果你以RAID 0模式运行这些硬盘,速度会快得多;显然如果你有四个这样的盒子并联,速度还会更快。里面的SSD本身也非常迅速高效。

即使只是将这两个硬盘组RAID,速度虽然达不到单块SSD的峰值性能,但至少能让你以更低成本获得足够快的存储方案来容纳更大的模型。随后你可以对模型进行量化压缩,从而有望实现更快的推理速度。如果你对此感兴趣,基本上现在就得开始攒钱了。

如果你觉得没必要追求隐私等特性,那么直接订阅云端服务可能是更划算的选择。不过对澳大利亚用户来说有个好消息:如果你升级到合理的4TB配置并搭配256GB内存,总价为19700澳元,这恰好低于即时资产抵税限额300美元。目前议会正在审议一项法案,旨在将这项税收优惠政策永久化。

虽然该法案尚未正式批准,但企业如果购买价值2万美元或以下的电脑设备,实际上可以直接在税务申报中进行全额即时抵扣,而不必像以前那样通过资产池等方式逐年摊销。当然,如果你选择512GB内存的高配版本,就需要做更复杂的会计处理来覆盖商业支出,但至少目前的价格还算在合理范围内。

如果你是学生,还可以享受相应的教育折扣优惠等福利。那么大家怎么看?苹果重新回到了AI赛道,他们并没有放弃。我之前其实有些担忧,因为在WWDC大会上我了解到苹果用于Siri等云端服务的服务器实际上采用的是英伟达显卡。我当时希望他们能采用自家的M5芯片方案,但显然最终选择了英伟达,这让我一度感到失望。

我曾以为苹果就此放弃了本地AI方向,没想到他们最终还是发布了相关产品,这让我很高兴。当然价格确实上涨了,但这是整个行业的普遍现象:英伟达的价格涨了,所有人的成本都在上升,市场已经变得疯狂。对全球用户来说有个利好消息是M3 Ultra二手市场的价格出现了戏剧性变化:之前512GB版本的M3 Ultra在澳大利亚售价高达6万澳元。

我现在就去eBay展示一下有多离谱,搜索“M3 Ultra 512GB”。真希望我上次查看时截了图,因为当时价格确实是6万澳元,但现在居然只要3000美元。从eBay购买时要格外小心,因为很多卖家零评价且可能存在欺诈风险;虽然平台提供一定保护机制但仍需谨慎。不过能从官方渠道以合理价格买到新机器才是真正令人兴奋的事。

最后想听听大家的想法:你们打算入手哪款配置?是选择256GB内存版本还是96GB基础版?我们甚至还没讨论Mac mini,它已经搭载了基于2纳米工艺的M6芯片组,这简直不可思议。对于开源大模型部署来说这将非常美妙——当然前提是还有人继续使用这类设备的话。希望这期视频对大家有所帮助,也感谢各位收看本期节目。