M5 Ultra 配置与硬件架构解析

M5 Ultra Mac Studio 现已发布，Apple 宣称其本地 AI 性能比上一代快 4.3倍，存储速度提升 2倍，CPU 速度提升 1.3倍。为了验证这些数据的真实性，评测者使用了一台顶配机型进行实测。该配置起步价为 $54,99，但为了匹配测试需求，评测者将 GPU 升级至 80核心，内存扩容至 256 GB（512 GB 版本将于下月推出），并配备 8 TB 存储，最终总价高达 $14,299。在核心架构方面，M5 Ultra 拥有总计 36个 CPU 核心，且 Mac Studio 中不包含能效核（Efficiency Cores），而是由 24个性能核心 和 12个超级核心 组成。这种纯高性能核心的设计旨在最大化计算吞吐量，为后续的开发者和 AI 负载测试奠定基础。

CPU 性能与开发者工作流基准

为了公平对比，M3 Ultra 和 M5 Ultra 运行了完全相同的 Llama CPP 和 MLX 软件构建版本及模型文件。在 Speedometer 2.8（针对开发者的综合基准测试）中，M3 Ultra 得分为 47，而 M5 Ultra 达到了 60.2。评测者指出，虽然这是 M5 芯片的表现，但未来的 M6 系列单核性能将更强。在实际开发场景中，使用 large.net 进行包含 10万个 命名空间和类的编译测试时，M3 Ultra 耗时 71.7秒，而 M5 Ultra 仅需 52.4秒。在 Python 解释型测试中，Mandlero 算法的执行时间从 M3 Ultra 的 10.25秒 大幅缩短至 M5 Ultra 的 5.8秒。评测者对这一结果表示惊讶，称“我从未见过它这么快”（I've never seen it that fast），证实了 M5 Ultra 在编译和脚本执行方面的显著优势。

存储性能：超越营销宣称的读写速度

Apple 声称 M5 Ultra 的存储速度是上一代的 2倍，实测数据甚至超过了这一保守估计。在 Amorphous Disk Mark 顺序读写测试中（使用 8 TB 硬盘），M3 Ultra 的读取速度为 6,500 MB/s（即 6.5 GB/s），写入速度为 2,700 MB/s。相比之下，M5 Ultra 的读取速度飙升至 14,888 MB/s，写入速度接近 20,000 MB/s。评测者特别强调，对于开发者而言，随机读写性能同样重要，因为编译过程涉及大量小文件的复制。M5 Ultra 在随机存取方面的速度也超过了 2倍，这意味着在处理大型 AI 模型（如加载 140 GB 的模型文件）时，数据从磁盘读取的速度将大幅减少等待时间。

AI 推理架构变革：神经网络加速器与内存带宽

本地大语言模型（LLM）的性能主要取决于两个指标：提示处理（Prompt Processing, PP，依赖 GPU 计算核心）和 令牌生成（Token Generation, TG，依赖内存带宽）。M5 Ultra 的内存带宽提升至 1.2 TB/s，这对 AI 推理至关重要。更关键的架构变化在于 GPU：M3 Ultra 的 GPU 核心仅为传统图形处理单元，而 M5 Ultra 在每个 GPU 核心内部集成了专用的 神经网络加速器（Neural Accelerator），用于执行矩阵乘法等 AI 任务。这一硬件升级使得 Llama CPP 在 M5 Ultra 上能够启用张量加速（has_tensor=true），而在 M3 Ultra 上则为 false。这意味着软件可以针对 M5 系列芯片的专用 AI 硬件路径进行优化，从而充分利用新增的计算能力。

内存带宽实测：GPU侧性能显著提升

视频首先通过Stream基准测试对比了CPU层面的内存带宽，M3 Ultra实测为312.9 GB/s（苹果宣称819 GB/s），而M5 Ultra达到583.6 GB/s。由于AI推理更依赖GPU带宽，测试转向了Memory Bandwidth Micro Benchmark。结果显示，M3 Ultra实测724 GB/s（约为苹果宣称值的89%-90%），而M5 Ultra实测高达1,039 GB/s（约为宣称值1.2 TB的85%-86%）。这意味着M5 Ultra的实际测量内存带宽是M3 Ultra的1.4倍。这一硬件基础直接影响了后续的模型推理速度，特别是在内存带宽受限的场景下。

Token生成与提示词处理：MoE模型表现一致，密集模型提升巨大

在2840亿参数的DeepSeek V4 Flash（混合专家模型）测试中，M3 Ultra生成速度为37 tokens/s，M5 Ultra提升至53 tokens/s，增幅约1.5倍。对于GPT-OSS 120B模型，M3 Ultra为82 tokens/s（LM Studio环境），M5 Ultra达到130 tokens/s。在提示词处理方面，DeepSeek V4 Flash的M5 Ultra速度为1,485 tokens/s，是M3 Ultra（483 tokens/s）的三倍。对于6.4万+3.2万上下文的长提示词，M5 Ultra耗时56秒，优于M3 Ultra的80秒（1.4倍）。然而，在密集模型Qwen 2.5-7B的测试中，提示词处理速度从M3 Ultra的430 tokens/s飙升至M5 Ultra的1,800 tokens/s。当处理约1.4万token的代码库提示词时，M5 Ultra耗时仅8秒，而M3 Ultra需33秒。作者指出："> Apple did say it's up to four times faster prompt processing and I got 4.2"，证实了苹果关于提示词处理速度提升的说法。

功耗、噪音与温度：性能跃升伴随显著的热挑战

尽管推理速度大幅提升，但能效比并未同步增长。在生成过程中，M5 Ultra功耗约为45瓦（GPU+CPU），高于M3 Ultra的36瓦，每瓦Token生成率仅提升约12%。在满载GPU工作时，M3 Ultra功耗接近200瓦，而M5 Ultra超过400瓦。温度方面，M5 Ultra机身达到约43-44摄氏度，明显高于M3 Ultra。噪音方面，作者提到："> I started hearing uh the M5 Ultra first. Is definitely much more audible"，M5 Ultra的风扇噪音显著增加。此外，内存温度也明显升高。作者总结："> Token generation one and a half times faster. Nice upgrade. Prompt processing two to four times faster"，并提醒用户短提示词（约350 token）下提升仅1.6倍，主要利好长上下文场景如代码代理。

未来展望：512GB版本与并发测试

视频最后提及，拥有512 GB内存的M5 Ultra Mac Studio将能运行更大模型并实现集群，尽管价格高昂。在并发测试中（8个请求同时处理），M5 Ultra输出134 tokens/s，而M3 Ultra仅为75 tokens/s。作者预告后续将深入对比MLX与Llama CPP框架，以及8位模型的性能表现。

结论

M5 Ultra在本地AI推理领域实现了显著的性能跃升，核心优势在于提示词处理速度（最高提升4.2倍）和内存带宽的大幅增加，这使其在处理长上下文代码库等场景下表现卓越。然而，这种性能提升伴随着功耗翻倍（满载超400瓦）和噪音显著增加等代价，能效比并未同步优化。对于依赖混合专家模型（MoE）的用户，Token生成速度提升约1.5倍；而密集模型的提示处理则获得巨大加速。总体而言，M5 Ultra是追求极致本地AI吞吐量的强力工具，但需权衡其高能耗与散热挑战。