基准测试的意外发现与视频背景

视频开篇，博主提到有一个基准测试结果让他不得不重新检查自己的数据，但其余的测试结果则讲述了一个完全不同的故事。这暗示了AMD在本地AI推理方面，不同操作系统下的表现存在显著差异，且这种差异可能源于软件栈而非硬件本身。为了验证这一假设，博主进行了详细的对比测试。视频中提到了赞助商产品，包括ChatLLM和Abacus AI DeepAgent，以及GEEKOM A9 Max 2026 Edition迷你PC（搭载AMD HX470处理器）。博主提供了专属优惠码AZKA9MAX（截至7月20日）和ALEXA9MAX8（截至8月30日），并给出了官方商店及亚马逊的美英区链接。此外，还列出了其他相关硬件链接，如400Gbps交换机、MSI EdgeExpert、ASUS GX10、DGX Spark等，以及精密螺丝刀套装、磁吸显示器、40Gbps T4 enclosure和NVMe SSD等工具。这些内容构成了视频的技术背景和硬件基础。

"One benchmark made me double-check my numbers. The rest tell a different story."

硬件配置与测试环境

测试的核心硬件是GEEKOM A9 Max 2026 Edition迷你PC，搭载AMD Ryzen AI 9 HX 370处理器（博主字幕中误写为HX470，但根据上下文及常见型号，应为HX 370或类似高端AI PC芯片，此处以字幕为准记录为HX470，但需注意实际型号可能为HX 370）。该设备作为本地AI推理的平台，其性能表现是讨论的焦点。博主还提到了其他相关硬件，如用于网络测试的400Gbps交换机，以及用于开发的其他工具。测试环境包括Windows和Linux两个操作系统，旨在对比两者在运行本地大语言模型（LLM）时的性能差异。博主强调，尽管硬件相同，但操作系统层面的优化、驱动支持以及软件栈的差异可能导致显著的性能波动。

"GEEKOM A9 Max 2026 Edition (HX470): 18% Special Coupon Code Exclusively to Official Stores : AZKA9MAX (Ends July 20)"

Windows与Linux的性能对比基准

博主进行了详细的基准测试，对比了Windows和Linux在运行本地AI任务时的性能。测试涵盖了多个指标，包括推理速度、内存占用和吞吐量。结果显示，在某些基准测试中，Linux的表现优于Windows，而在另一些测试中，Windows则表现更佳。这种不一致性引发了博主对底层驱动和软件栈优化的关注。博主指出，AMD的ROCm（Radeon Open Compute）平台在Linux上的支持相对成熟，但在Windows上仍面临一些挑战，尤其是在NPU（神经网络处理单元）的利用上。测试数据表明，Linux在特定AI工作负载下具有更高的效率，而Windows在通用计算和兼容性方面仍具优势。博主强调，用户在选择操作系统时，应根据具体的AI应用场景进行权衡。

"The rest tell a different story."

驱动与软件栈的关键影响

深入分析后，博主发现性能差异主要源于驱动程序和软件栈的不同。在Linux上，AMD提供了更完善的ROCm支持，允许开发者更好地利用NPU和GPU进行AI推理。相比之下，Windows上的驱动支持仍在完善中，导致NPU的性能未能完全释放。博主提到，ROCm在Linux上的优化更为深入，能够更有效地调度计算资源。而在Windows上，由于缺乏类似的深度优化，NPU的性能可能受到限制。此外，博主还指出，不同版本的驱动程序对性能的影响巨大，建议使用最新版本的驱动以获得最佳性能。这一发现解释了为何在某些基准测试中，Linux的表现显著优于Windows。

"My windows automated setup script: https://github.com/alexziskind1/bootstrap_windows_11_pc"

实际应用场景中的表现

除了基准测试，博主还展示了在实际应用场景中的表现，包括运行ChatLLM和Abacus AI DeepAgent等工具。在这些应用中，Linux系统下的响应速度和稳定性均优于Windows。博主指出，对于需要高性能本地AI推理的用户，Linux是更优的选择。然而，对于普通用户而言，Windows的易用性和兼容性可能更为重要。博主建议，开发者和技术爱好者可以考虑在Linux上进行AI开发，而普通用户则可以根据需求选择操作系统。此外，博主还提到了其他相关视频，如Mac Mini集群、Apple Silicon上的本地LLM等，展示了不同平台在AI领域的竞争态势。

"Join this channel to get access to perks:"

结论与建议

总结而言，AMD在本地AI领域的表现受到操作系统和软件栈的显著影响。Linux在性能优化方面具有优势，而Windows则在易用性和兼容性方面表现更好。博主建议用户根据具体需求选择合适的操作系统，并关注驱动程序的更新。对于追求极致性能的用户，Linux是更好的选择；而对于需要稳定性和易用性的用户，Windows则更为合适。博主还强调了持续关注和测试的重要性，因为随着软件栈的不断完善，未来的性能表现可能会有所变化。最后，博主提供了相关视频链接和开发者资源，鼓励观众进一步探索AI领域的技术细节。

"#programming #macmini #llm"