这是 M6 Mac Mini,那是 M4。很难看出区别,对吧?据说 M6 Mac Mini 会让 M4 过时。自然,我做的第一件事就是运行 Geekbench。等一下。在这台 MacBook Pro 上,M6 的得分比 M5 低:4085 对 4190。让我们看看。当 M5 发布时,Geekbench 6 是标准版本。现在我们有 Geekbench 7。在版本 7中,所有分数都更低了。所以我用版本 7重新运行了 M5的数值。看,M5上是3715分。但这并不重要,因为 M5 并没有在 Mac Mini上提供。我们直接从 M4跳到了 M6。好吧,Geekbench 只是一方面。稍后我们会进行实际测试。这让我想知道,M6相比 M4是否有足够大的飞跃从而真正重要?换句话说,如果你已经拥有 M4,你在乎吗?我还会做一些开发测试和本地 AI 演示。这仅仅是我的初步看法,在接下来的视频中我将深入挖掘所有内容,包括 M6、M5 Pro Mac Mini构建负载集群以及那个“大块头”——M5 Ultra。哦,是的。

感谢 MicroEnter 对本视频的支持,请点击下方链接了解详情。现在让我们回到这些 Mac 电脑上来。M6 是苹果首款采用 2nm 工艺的芯片,没错,就是 2 纳米。而 M4 则是 3 纳米工艺。(我刚才是不是说反了?26还是34?这确实容易让人混淆。)新款芯片拥有更小、更先进的晶体管,这意味着它们漏电流更少,运行温度更低。你可能以前听过这种说法,但这究竟意味着什么呢?简单来说,在消耗相同电量的情况下,你能获得更快的速度。

处于空闲状态时,Mac mini 的功耗极低且基本一致,也就是说它们的“基础”是一样的。但当你施加负载时,M6 能完成更多工作,你之前已经看到了一个例子。还有一个对人工智能至关重要的数据:内存带宽。在进入一些测试环节前,我想先展示这一点。这指的是芯片移动数据的速度有多快。M4 的带宽约为每秒 120 GB,而 M6 则因型号不同而异。你要么得到 153,要么是 170。这挺让人困惑的,对吧?怎么会有 170 这么高的数值呢?

如果你往下查看配置选项,会发现只有升级到 32 GB 内存时,才能获得 170 GB/s 的带宽。否则,如果你只有 16 GB 内存,那么得到的就是 153 GB/s。当然,这些只是苹果官方公布的数据。我们该如何实际测量呢?有一个名为 Stream Benchmark 的工具已经存在很多年了,它专门用于测量内存带宽。你可以在 GitHub 上找到它。我把它下载下来并编译运行,这是一个 C 语言程序。如果你不知道怎么做,可以让 Claude Code 帮你搞定。

结果运行得非常快。在 M4 上,复制操作的带宽测得为每秒 112 GB,这与官方数据相当接近,仅相差约 8 GB。而在 M6(170规格)上,我们测得的结果是每秒 143 GB,这与官方数据有较大差距。稍后我们会讨论这个问题,但我目前的测量值是 143 GB/s。让我们再测一次,因为速度真的很快。这次的结果是 144.7 GB/s。显然,这将在人工智能应用中发挥直接作用。

说到这个,现在进入最有趣的部分:本地 AI 运行。其实所有部分都很有趣,取决于你在做什么。这正是那种能让你实现所有这些功能的机器类型。苹果正大力转向人工智能领域,无论是叫“Apple Intelligence”还是传统的 AI 形式。其硬件设计旨在本地运行这些应用,特别是针对这款机型(具体细节留给下一期视频)。

在本地运行 AI 主要取决于两件事:一是算力,即 GPU 及其神经引擎的强度。这决定了提示词处理阶段的速度——也就是它读取你的指令、决定如何操作以及进行计算有多快。二是内存带宽,即写入速度,这决定了在生成文本、图像甚至视频时移动数据的速度。这款小巧的 Mac mini 在这两方面都表现出色。

你可能会看到两个与内存相关的不同数值:带宽和容量。带宽是指内存移动数据的速度,你可以将其想象为管道的宽度;管道越宽,水流速度越快。容量是指你拥有的内存总量,这就像是向管道供水的水箱大小。(我有点渴了。)因此,速度决定了模型运行的快慢,而容量则决定你的模型能否运行。如果参数数量过多(数十亿级别),它可能根本装不下你现有的内存中,导致无法运行。

移开玻璃杯以免弄湿我们的新 Mac mini,然后加载一个模型。好的,我目前使用的是 Llama CPP,因为这是一个非常流行的工具,稍后我们会讨论 LM Studio。这里只想获取一些关于提示词处理(PP)和令牌生成(TG,别开这种玩笑,我知道你想这么简称)的基本数据。当前运行的是一个 35.9 亿参数的模型,这是 Q4K 量化版本。这是一个 GGUF 格式的模型。(我知道我刚才抛出了很多缩写和术语,我在其他视频中会详细解释。)

我在这里运行 90 亿参数的模型是因为它非常适合。你总是希望将模型适配到你的硬件上。这里的差异非常明显,尤其是在提示词处理方面:M4 为每秒 210 个令牌,而 M6 高达每秒 742 个令牌。这是 GPU(特别是神经加速器)带来的性能提升。而在令牌生成方面,这涉及内存带宽:M4 为每秒 18 个令牌,M6 为每秒 26.9 个令牌。

我想在 Llama Bench 中展示这一点,也在 Llama Beni 中进行测试,因为后者采用了更真实的方法:它通过网络实际与服务器通信,这通常是你使用此类工具的方式。在使用 Llama Beni 时,我们首先启动一个服务器,然后多次运行以获取平均分数。Llama 是由 YuGER 开发的开源项目,你可以在 GitHub 上查看(链接会在下方提供)。此外,它可以与任何类型的服务器配合使用,如 vLLM、SGLang 以及 Llama CPP。

哇,这也显示了另一个非常重要的信息:首令牌时间(Time to First Token)。看看这个首令牌时间,M4 需要 2.5 秒,而 M6 仅需 721 毫秒,不到一秒。这里的 PP(提示词处理)和 TG(令牌生成)数值稍低一些,因为它使用 HTTP 与服务器通信。因此,M4 的 PP 为 198,TG 为 17;而 M6 的 PP 达到 711,TG 为 26。

但当你实际看到生成的文本时,这看起来是什么样的呢?这就是效果:看看它已经写了多少内容。这一屏只有一半的内容,而那一屏已经是满的了。这就是我们要科学衡量这些指标的方式。这是一个思维模型(Thinking Model),所以它在大量“思考”。但无论如何,这都是令牌生成过程。无论是思维令牌还是实际输出令牌,它的速度是一样的。(好吧,它思考得太多了,所以我不得不终止了进程。)

以下是具体数据:在 M4 上,提示词处理速度为每秒 45.9 个令牌,生成速度为每秒 17.4 个。在 M6 上,提示词处理达到每秒 71 个令牌,生成速度为每秒 26 个。显然,M6 在读取你的提示词和生成回复方面都快得多。这种新架构以及额外的带宽正在这里发挥实际作用。

好的,文本生成是一回事,让我们让它画点什么吧。(啪!)这是 Flux.1 模型。在两台设备上使用完全相同的提示词。你已经可以看到预估时间上的巨大差异:这一台显示 33(秒),预览图已经弹出。哇!而那一台预估的时间要长得多。(音乐声)它完成了。M6 仅用 35 秒就生成了这张图片,而另一台仍在采样中。现在,这个模型可以舒适地装在 16 GB

内存方面没有问题,我们这里看到的是内存带宽在发挥作用。快点,快点,快点!是的,1分34秒。这是一个巨大的差异。这两个模型现在都加载在这两台机器上,内存没有任何压力,一切状态良好(绿色)。我要再加大一点难度。[笑声] 我正在循环运行一个本地模型100次,每次生成一千个token,并观察其生成过程。Mactop显示芯片功耗为34瓦,而另一台约为31瓦。实际上它在波动,是的,M6大约在30到31瓦之间。M6的最大功耗为38瓦,而M4为44瓦。因此,尽管速度更快,但功耗却更低。这是在GPU利用率100%的情况下测得的。这正是2纳米芯片真正应该发光的地方,不仅快,而且快速且凉爽。

看看这个,你甚至可以在热成像仪中看到颜色的[音乐]差异。看这里,M4的温度是37.6和37.7度,而我们是35.9和33度。低了大概几度。好吧,我不打算在这里吹毛求疵,但它确实低了一点。哇,看看这家伙。温度与M6相同。那是谁?我不知道。所以,还记得我之前跟你提到的双神经引擎吗?那里肯定有一些很好的机会正在发生,还有像原生FP8支持这样的新功能。那是浮点8位(Floating Point 8)。肯定需要进行适当的测试,所以我会在另一个视频中讨论这一点。确保订阅以免错过那期视频。

目前最流行且非常强大的模型之一是Qwen 3.827B。当你观看这个视频时,可能会有新的东西发布。但就现在而言,该模型的大小刚刚超过16 GB。它在拥有16GB内存的机器上无法运行,无论是M4还是M6,它都会提示类似“可能太大”的内容。你可以尝试一下,可以下载它,可以在LM Studios中放宽限制,但你肯定会遇到问题。它根本不适合你运行。然而,如果是32GB内存,[音乐]那就没问题了。看吧。我会将上下文全部提升到26.2万,它会加载它,没问题。看看内存使用情况上升到了23GB使用量,仍然还有很多剩余空间。“嗨,今天我能帮你什么?”它的速度不是特别快,每秒9.7个token。但它确实做到了,而且很流畅,没有抱怨。我这里的16GB模型做不到这一点。

但关键在于M4 Mac mini不会给你32GB的选项,它们最高只到24GB。新的M6 Mac mini最高可[音乐]达32GB。对于本地AI,32GB的升级不是可有可无的,它是运行一个270亿参数模型[音乐]与否的区别。那么Mac mini到底需要多少配置?对于大多数人来说,基础版M6 Mac mini加上一个明智的升级就是难以置信的价值。至于那个256GB的版本,我不会买它。特别是因为你在那里得不到Thunderbolt 5接口。数据传输来回会非常慢,不是特别慢,但比目前现有的能力要慢一些。所以对于普通用户和AI用户来说,512GB存储或甚至1TB是更好的选择。32GB内存。起售价为899美元,

这比M4发布时的价格更贵,但嗯,我认为对于这款芯片来说这是一个公平的价格。目前你仍然以这个价格获得256GB的存储(注:原文为TE,推测指TB或特定配置,结合语境可能是笔误或特指基础存储)。但是如果你能接受外部存储和数据卸载,那么对于一台如此小的机器来说,拥有目前最快的芯片之一,这确实是一笔很好的交易。M5 Pro的价格约为1700美元起,是两倍之多。它的性能也是两倍吗?嗯,我不知道。我们将不得不拭目以待。敬请期待。但如果你只购买其中一款,那么你可能是靠工作赚钱并将其用于专业用途的。这是我的初步看法,希望你喜欢它。我们当然会深入挖掘,比如我正在构建的那个M5 Pro集群以及M5 Ultra。请留意那些视频。

谢谢观看,下次见。