RTX 5080是一款被严重低估的显卡，不仅适用于游戏，也适合本地人工智能。这款GPU实际上更适合本地推理，但由于其仅配备16GB显存，性能受到一定限制。然而，如果你看看这款显卡的成本以及相对于5090（全新硬件中的顶级产品）和3090在绝对价值定位上的表现，这款显卡确实表现出色。此外，这也得到了近期针对Open Claw和Hermes等平台代理性能优化的本地模型的进步支持。因此，我想谈谈为什么如果你正在寻找新的硬件，这款显卡可能是本地AI的良好选择，以及哪些模型非常适合这款显卡。欢迎来到AI Flux，让我们开始吧。

首先来看这款显卡的规格。令人失望的是，Nvidia最初曾预告过一款24GB版本的RTX 5080，称为RTX 5080 Super。不幸的是，这款显卡最终未能问世。这可能是因为显存紧张所致。除此之外，让我们回顾一下这款显卡的规格。首先，就原始令牌吞吐量和其他多项功能（尤其是并行执行）而言，这款显卡比RTX 5060强大得多。这款显卡显著更快，而且如果你能找到它的话，价格并没有贵太多。

该GPU拥有第五代张量核心和多个流式多处理器。当然，游戏规格对本地AI来说并不重要，但另一个好处是，如果你用它来玩游戏，它也是该领域的更好选择。让我们跳到规格并将其与4090等显卡进行比较。显然，在许多情况下，4090仍然是更好的选择。但有趣的是，RTX 5080显然拥有更多的AI TOPS（这是Nvidia特定的指标），但在某些情况下，这款显卡明显更快。

是的，它的显存较少，但另一件事是它具有与4090大致相同的内存带宽，这对于此类GPU来说是最重要的因素之一。当我们开始将其与5060本身进行比较时，你会注意到CUDA核心数量要多得多。虽然核心CUDA核心对大多数本地AI实现并非至关重要，但它们确实很有帮助。真正有帮助的是看看这些张量核心以及这款GPU的能力。

就原始性能而言，它比5060 Ti快约两倍，甚至比RTX 5070稍快，更不用说它的加速时钟频率更高了。使用5060 Ti时你真正错过的是内存接口的大小及其对内存带宽的影响。请注意，显然5090拥有最宽的总线，但与5060 Ti相比，你仍然通过GPU本身获得了两倍的原始吞吐量。

而5070则介于5060 Ti和5080之间，处于中间位置。因此，这里的性能主要体现在5080和5090上。我认为5090不值得比较，因为它太贵了。目前，5090的价格是5080的三到四倍。因此你会想问，你真的是为了几乎两倍的显存而支付双倍的价格吗？

与3090相比，购买这款显卡的主要优势在于你获得了最新驱动程序的官方支持。3090开始遇到驱动程序支持问题，虽然我认为社区支持会很好，但这款最新显卡在图像处理、InVoke等方面仍有重大进步，并拥有更快的内存和更现代的GPU。

有趣的是，找到并非专为本地AI设计的显卡的良好基准测试很难，但Micro Center实际上做了大量的基准测试。这段视频甚至不是由Micro Center赞助的。如果Micro Center有人在看，我很希望能有一张RTX Pro 6000来使用。他们很好地展示了这款显卡的一些基准测试结果。

一件我希望在更多常规性能指标之外看到的酷炫事情是显存使用情况。这是判断模型是否适合你显卡的最佳粗略启发式方法。我喜欢他们指出什么没装下，这让你开始看到其上限在哪里。Gemma 4将在这款显卡上表现出色，最新的Minimax版本也是如此。

不幸的是，这些模型发布得太近，我们还没有太多的基准测试数据，但在高层次上，我们有Magistral（一种多模态Mistral模型）。我们还有Qwen 3 4B和Qwen 3 Coder。虽然这些模型按今天的标准略显过时，但它们让我们很好地了解了这款显卡的可用性。

有趣的是，即使是Gemma 3 27B这样的大型模型，我们仍然能获得用于代理用途的合理吞吐量。对于直接使用和本地编码，你真的希望每秒拥有超过50个令牌，并且关于你看到的上下文大小存在更大的疑问。但很棒的是这款显卡是一个不错的选择。

如果说你想在本地做这些事情，我会说它就像专业中端产品一样。许多模型中的并发吞吐量现在足够好，因此如果你决定走Nvidia显卡路线，5080是一个相当不错的选择。在这段视频中我不会谈论MLX和Mac mini。

这些基准测试的明显结论是这款显卡很棒，但它可以拥有更多显存。Nvidia从未发布具有稍多显存的5080 Super真是太可惜了。他们不这样做是有道理的，因为他们想推动人们转向A4500和5090，但这仍然是一款非常好的显卡，尤其是对于游戏而言。

当然，当Micro Center撰写文章时我真的很喜欢它们，因为它们用非常直白且简洁的语言表达。是的，对这些显卡进行基准测试相当困难。我要说的是，我认为购买两张这样的卡组合在一起是没有意义的。在那一点上，购买一些4090或者可能是几张3090可能是更好的选择。

但如果你正在寻找一张可以在较小系统中使用或希望运行更高效的单卡，这是一个很好的选择。现在快速说一下，找到这款显卡可能很困难。有趣的是，我们指出这一点，我们去Micro Center看看，你会发现他们实际上甚至没有这款显卡的库存。他们在预装电脑中有货。

有时百思买会有这些带有Nvidia OEM卡的全新显卡，但它们确实非常……

很难买到。现在，在Facebook市场（Marketplace）和eBay上，它们相对便宜，通常900美元左右是一个相当不错的新品未拆封价格。如果你运气好，甚至能以700美元左右的价格买到。有趣的是，这些卡通常比RTX 3090更贵。所以有个常见的问题是：它是比单张或双张RTX 3090更好的选择吗？

不幸的是，我认为在很多情况下，如果能找到的话，RTX 3090仍然是更好的选择。如果未来出现几款非常适合本地AI的小型模型，那或许值得考虑这张卡。但这块显卡太可惜了，如果它再多一点显存，就会成为绝佳的选择。对于你想运行的模型来说，也许可以胜任，但总体而言，如果你花960美元买全新的RTX 5080或在eBay上购买二手的，不如直接入手3090看看效果。

目前RTX 3090的问题是它们很难买到，而且经常有骗局，比如有人声称以500美元出售。千万别上当。但如果你找不到3090，想做点别的或者想要更可靠的显卡，我强烈推荐5080。

之前提到的Reddit帖子很有趣。我们开始看到更完善的基准测试数据，这很奇怪，因为2026年了大家都在买显卡了解其性能，这本该是个成熟的问题。难点在于很难在所有不同模型和量化版本中统一硬件标准。vLLM凭借其架构和内置基准测试正在提供帮助，但我会在下方链接那个帖子。

有个叫Grum Dee的人发布了RTX 5080（16GB）的18个不同模型基准测试，就在13天前。有个重要前提是：他的系统内存很大，部分情况下数据被卸载到了那里。虽然不知道具体配置，但足以插入5080。结果看起来不错，其中一些Unsloth量化版本非常有趣且值得关注。

令人头疼的是很难理解这些数字的具体含义，这里似乎只是显示原始吞吐量的相对条形图。希望未来能有更真实的数据，而不仅仅是这种图表形式。但他选择的一些量化版本我很推荐。里面还有Gemma 4的基准测试，这很难与其他显卡比较，所以我把它放在最后。

虽然这是个很棒的基准测试，但数据还不够充分，我打算留言让他上传更多细节。不过Minimax 27非常出色，Gemma 4 E4B也很棒。Qwen 35在我看来仍然是最好的本地编程模型之一，非常适合进行任何类型的本地代理代码审查场景。

请告诉我你拥有什么显卡、喜欢运行哪些模型，是否会考虑购买这张5080作为补充或第一张卡。如果你觉得这是糟糕的选择，或者你有Intel、AMD甚至MLX的推荐，请在下方评论区留言。希望你们有所收获，我们下期见。