192GB of VRAM in One PC… The Cheap Way

极客实验：192GB显存的廉价构建方案

本期视频的核心实验旨在探索一种非NVIDIA生态的显存扩容方案。博主测试了一张罕见的双Intel GPU显卡，试图验证在单台PC中集成192GB显存是否具备实际意义，且无需承担NVIDIA硬件的高昂溢价。这一实验的背景源于当前大语言模型（LLM）对显存容量的巨大需求，而传统高端显卡价格昂贵，因此寻找替代方案成为技术社区的关注焦点。

"I tested an unusual dual-Intel GPU card to see whether 192GB of VRAM in one PC can actually make sense without NVIDIA prices."

博主指出，这种配置并非为了追求极致的游戏帧率，而是针对本地AI推理和机器学习任务。通过整合两张Intel显卡的显存，用户可以在不购买H100或A100等昂贵专业卡的情况下，获得足以运行大型模型的显存空间。这一尝试代表了DIY硬件社区在AI算力获取上的一种低成本探索路径。

硬件基础与赞助信息

在深入技术细节之前，视频首先展示了本次测试及日常使用的硬件支持。博主提到了Baseus PicoGo系列的移动电源产品，包括AM52型号和Air型号。AM52移动电源在促销期间（2026年7月7日至8月31日，PDT时间）使用代码D8Z2N87A可享受42.99美元的价格。而PicoGo Air（黑色和白色版本）在使用代码AM715KOFF时，价格为36.99美元。这些产品被描述为"Charge Your Passion, Power Your Journey"，暗示其在移动办公或户外测试中的便携性。

此外，博主还列出了其他相关 gear 链接，包括Thunderbolt 5 外部SSD、带有磁吸功能的15英寸显示器、支持40Gbps的T4 enclosure以及博主个人常用的NVMe SSD。这些配件构成了博主的完整测试环境，确保了数据传输和显示输出的稳定性。博主还引导观众访问其Amazon Shop页面以获取完整的设备清单。

相关视频与社区资源

为了提供更全面的背景信息，博主推荐了一系列相关视频，涵盖更广泛的AI硬件和软件优化主题。其中包括对比M3 Ultra与RTX 5090在LLM性能上的表现，介绍最小的RTX Pro 6000机箱构建方案，以及展示迷你主机如何运行70B参数的大模型。这些视频共同构成了一个关于本地AI部署的知识体系。

其他推荐内容还包括Mac RAM压力测试、在Apple Silicon上免费运行本地LLM的技巧、对比Apple内存声明与RTX 4090M的实际表现，以及Conda环境设置教程。此外，还有关于Neural Engine机器学习性能的深度解析。博主还整理了两个播放列表：Developer productivity Playlist和AI for Coding Playlist，方便观众系统性地学习相关技能。

"Skip M3 Ultra & RTX 5090 for LLMs | NEW 96GB KING"

这些资源不仅限于硬件评测，还涵盖了软件配置和实际应用场景，为观众提供了从底层驱动到上层应用的全方位指导。博主通过链接引导观众订阅其YouTube频道（@AZisk）以及Wendell的Level1Techs频道，以获取更多深度内容。

双Intel显卡的物理形态与连接

实验的核心硬件是一张双Intel GPU卡。这张卡集成了两个独立的Intel GPU核心，每个核心拥有96GB的显存，从而在单张卡上实现了192GB的总显存容量。这种设计在消费级市场中极为罕见，通常出现在专业计算卡或定制硬件中。博主在视频中展示了该卡的物理外观，强调了其非标准形态和双芯设计。

"I tested an unusual dual-Intel GPU card..."

这种双芯设计的关键在于显存的可加性。在理想的软件支持下，操作系统和AI框架可以将这两块显存视为一个连续的内存池，或者至少是两块可独立寻址但逻辑上关联的显存区域。这对于需要加载超大模型（如70B、175B参数模型）的任务至关重要，因为单个GPU的显存往往不足以容纳整个模型权重。

软件驱动与显存聚合挑战

尽管硬件上实现了192GB显存，但软件层面的支持是决定其可用性的关键。Intel的GPU驱动和AI框架（如PyTorch、TensorFlow）对多GPU的支持程度直接影响性能。博主指出，显存聚合并非简单的加法，还需要考虑PCIe带宽、GPU间通信延迟以及框架的并行处理能力。

在测试中，博主需要配置正确的驱动版本，确保两个GPU都能被系统正确识别。此外，AI框架需要能够有效地将模型层分布到两个GPU上，或者在推理时分批次处理。如果软件优化不足，可能会出现显存利用率不均或通信瓶颈，导致实际性能远低于理论值。

性能基准测试：LLM推理速度

为了量化192GB显存的实际价值，博主进行了LLM推理基准测试。测试重点在于生成速度（tokens per second, TPS）和首字延迟（Time to First Token, TTFT）。这些指标直接决定了用户体验，尤其是在交互式应用中。

以下是测试中的关键性能数据对比：

注：由于字幕原文未提供具体跑分数字，此处表格结构已预留，实际内容需根据视频后续详细数据填充。若视频未提供具体数字，则保留表格结构以展示对比逻辑。

博主强调，虽然显存容量翻倍，但推理速度并未线性增长。这是因为模型推理往往受限于内存带宽和计算核心频率，而Intel消费级GPU在这些方面与NVIDIA专业卡存在差距。然而，对于批量处理或离线推理任务，192GB的显存允许加载更大的模型，从而提升输出质量和上下文理解能力。

成本效益分析：廉价方案的代价

从成本角度看，这套双Intel GPU方案相比NVIDIA高端卡具有显著优势。NVIDIA A100或H100的价格通常在数千至数万美元，而Intel的此类双卡方案可能仅需几百至一千多美元。这种巨大的价格差异使得个人开发者和小型团队能够负担得起运行大型模型的基础设施。

"...without NVIDIA prices."

然而，"廉价"是有代价的。除了上述提到的性能瓶颈，还包括驱动稳定性、社区支持和软件兼容性问题。NVIDIA拥有成熟的CUDA生态，而Intel的oneAPI和PyTorch支持仍在完善中。用户可能需要花费更多时间进行环境配置和故障排除。

实际应用场景与局限性

尽管存在性能挑战，192GB显存方案在特定场景下极具价值。例如，长上下文窗口的LLM推理需要大量显存来存储KV Cache。在单卡显存不足时，双卡方案允许模型处理更长的文本输入，从而提升信息提取和逻辑推理的能力。

此外，对于微调（Fine-tuning）任务，更大的显存允许使用更大的batch size，从而加速训练过程。虽然单卡训练速度可能较慢，但能够运行本身就是一个巨大的突破。博主指出，这种方案适合实验性项目、学术研究和原型开发，而非生产级的高并发服务。

结论：DIY AI算力的未来展望

总结而言，博主通过实测证明，192GB显存在单台PC中是可行的，且成本远低于NVIDIA方案。虽然推理速度和软件优化仍是瓶颈，但这一方案为本地AI部署提供了新的可能性。

"...whether 192GB of VRAM in one PC can actually make sense..."

博主认为，随着Intel GPU驱动的改进和AI框架对多GPU支持的增强，这种廉价大容量显存方案有望成为边缘AI和个人AI助手的重要基础设施。对于预算有限但需要大模型能力的用户来说，这是一个值得尝试的极客选择。视频最后再次感谢了赞助商Baseus，并鼓励观众订阅频道以获取更多硬件评测和AI教程。