从论坛灌水到半导体分析帝国：SemiAnalysis 的诞生

Dylan Patel 的职业生涯起点，远比外界想象的更为草根——十几岁时就在各类技术论坛上发帖讨论芯片、手机 SOC 和游戏主机硬件，甚至在自己尚未拥有智能手机时，已对硬件技术充满痴迷。到十二岁时，他已开始管理多个技术论坛；成年后，他一边在量化分析领域工作，一边持续在 Substack 上以真名发布深度内容，融合技术、供应链、金融与地缘政治视角。他早年一篇关于华为被禁后联发科受益的文章，就体现了这种跨维度交叉分析的独特风格：他预判联发科将取代高通成为最大赢家，而非主流预期的美国厂商。

“我最早的文章之一就是分析为什么联发科是最大的赢家……从地缘政治上看，我们刚进了华为，中国肯定更愿意买台湾公司的产品，而不是美国公司的。”

此后四年间，他几乎跑遍全球所有与 AI 和半导体相关的会议——从 NeurIPS、ICLR 等顶级 AI 研讨会，到仅有三百人、九成讲日语的小型化工原料会议——一年参加四十场会议，覆盖整条技术生态链。这种沉浸式调研使他建立起对拐点的敏锐嗅觉，并逐步构建起一个横跨模型、芯片、制造、数据中心乃至能源供应的全栈知识体系。

“一个会你去三次，你就真能听懂他们说的话了，也认识人了，你能建立起所有这些关系，可以问他们问题。”

从单人 Newsletter 到百人情报中枢：SemiAnalysis 的跃迁

2020 年，Dylan 对量化分析工作产生幻灭，转而全职投入写作，并于 2022 年正式组建团队。初期仅两人，后逐步引入对冲基金背景的 Mary 等人才，将业务从纯 Newsletter 转型为数据服务+咨询+订阅的复合模式。业务增长呈现指数级特征：2023–2024 年团队从 2 人扩至 7 人；2024–2025 年初达 20 人；2025–2026 年初跃升至 60 人；截至 2026 年，团队已达 90 人，仅当年新增 30 人。

其核心竞争力在于人才密度与跨层覆盖能力：团队中既有来自 ASML、Applied Materials 等设备厂商的工程师，也有 NVIDIA、Microsoft、OpenAI、Tesla FSD 团队的核心成员；另一半则来自对冲基金或网络挖掘的高潜力人才。这种结构使 SemiAnalysis 能同步理解技术瓶颈、商业策略与金融定价逻辑。

“我团队里有人在 ASML、Applied Materials、Lam Research 这些做晶圆设备的公司干过……我们覆盖了模型层的人……我们的人才密度高的离谱。”

InferenceX：开源基准测试如何撼动行业叙事

SemiAnalysis 推出的 InferenceX 开源基准测试项目，已成为行业关键基础设施。该项目每日运行最新软件栈（CUDA、PyTorch、推理引擎等），覆盖从速度优先到性价比优先的全场景。凭借 OpenAI、Microsoft、Amazon、Google 等公司超 5000 万美元硬件捐赠，项目已测试八种 GPU（含 H100、H200、Blackwell、AMD GPU、TPU、Trainium）。

在 Blackwell 发布初期，行业普遍质疑其宣称的 25 倍性能提升。但 InferenceX 的实测显示：在 DeepSeek V3 上，Blackwell 相较 Hopper 最高达 30 倍加速。Dylan 将结果邮件直发黄仁勋，并强调“我们当时也觉得不可能到 25 倍，大概 15–20 倍”。不久后，黄仁勋在 GTC 大会上公开引用该数据，举着 InferenceX 腰带（刻有“Inference King”）展示实测图表，驳斥外界对其“藏拙”的质疑。

“黄仁勋在幻灯片上展示了这个腰带……他讲我们的时间比讲其他任何人都长，唯一被提到差不多多的是 Open Call。”

AI 投资的 ROI 真实图景：从支出激增到效率跃迁

尽管市场对 AI 投资 ROI 的质疑声不断（例如 Bloomberg 经济学家近期指出部分企业 AI 项目可能正在失败），实际使用数据却展现出截然不同的图景。以 Seminalysis 为例，其年度经常性支出（ARS，Annual Recurring Spend）从 2023 年 11 月的不足 10 万美元，在 Cloud Code 推动下于 2024 年 1 月底飙升至 400 万美元——员工 AI 支出已占总人力成本的三分之一以上，预计年底可能达 50%。更关键的是，AI 并非单纯成本中心，而是直接驱动生产力与营收增长的核心引擎：员工效率显著提升，非技术人员也能通过提示工程高效产出成果。正如 Dylan 所言：

‘我们能做出产品，能卖出更多东西，公司里每个人的效率都提高了，所以我能看到 ROI。’

‘对好的开发者来说，AI 花费已经开始接近一比一了。’

这表明：当 AI 成为工作流的有机组成部分，其投入产出比远超传统 SaaS 替代逻辑——许多公司正选择砍掉其他 SaaS 支出以腾出预算给 AI，而非削减 AI 投入本身。

模型选择的策略悖论：越贵的模型，反而可能越省钱

关于成本优化的常见误区是“用更便宜的模型替代前沿模型”，但现实恰恰相反。Dylan 指出：AI 助手类任务的成本优化关键在于 token 效率与迭代次数的减少，而非模型标价本身。例如，Claude 4.8 Opus 虽单价更高，却可能仅需 2.5 万 token 一次性完成任务，而 Claude 4.6 Opus 需 10 万 token + 多轮交互。Anthropic 的模型在 token 效率上持续领先 OpenAI：完成同类前沿任务时，后者消耗 token 可达 4 倍、耗时 3 倍，最终客户感知体验反而更差。

更深层的经济学逻辑在于：AI 成本曲线并非线性下降，而是呈现“阶梯式跃迁”。模型每年可降本约 60 倍（如 DPCB 3 vs GPT-4 两年降本 600 倍），但用户会随能力提升主动扩大任务规模，导致总支出短期反弹。因此，真正的成本优化是让模型在更少 token 和更短时间窗口内完成更多工作——这正是 Anthropic 成为多数团队首选的核心原因。

‘当有人在回路中这种反馈循环时，Anthropic 实际上要快得多，好得多，因为它 token 效率更高。’

硬件周期重构：内存短缺将成 AI 时代结构性特征

存储市场正经历从“周期性波动”到“结构性短缺”的范式转移。传统上，存储价格每 18–24 个月经历涨跌周期，但当前需求已非线性增长：全球 AI 总支出翻倍再翻倍，而内存产能年增速仅 20–30%。Dylan 团队早在 2024 年 12 月就预警：O1 模型引发的 reasoning 工作负载将导致 KV Cache（上下文缓存）需求爆炸式增长——推理时内存需求随上下文长度线性放大，而计算负载几乎不变，使内存成为性能瓶颈。

这意味着：内存价格将持续飙升，直至高成本挤出非 AI 需求（如智能手机、笔记本）。当前数据中心组件“不是缺货，而是等货”的现象，正是这一趋势的前兆。未来三年内存将长期处于短缺状态，其定价弹性远超传统大宗商品市场，成为 AI 基础设施中最具爆发力的环节。

‘内存处于短缺状态，而且不是短期短缺，是会持续好几年的短缺。’

内存短缺：结构性失衡下的长期价格飙升

当前内存市场正经历一场结构性短缺，而非短期波动。尽管供给端产能扩张有限，而需求端——尤其是 AI 相关需求——却在翻倍、再翻倍。这种供需错配导致内存价格持续攀升，且短期内无明显缓解迹象。我们观察到，从去年 Q1 到今年 Q2，内存价格整体呈单边上行趋势，虽偶有单日小幅回调（如跌 7%–8%），但趋势未改。

这种价格压力已开始传导至终端消费市场：中低端智能手机厂商出货量显著下滑（如小米下降 40%），而高端市场尚未受明显冲击。但随着内存成本进一步上升，iPhone 和 MacBook 必须涨价数百美元，而非仅百美元级别。最终，市场将达成新的均衡：AI 需求被优先满足，而传统消费电子则被压缩至足够低的份额水平。

“这意味着智能手机价格不是只涨一百美元，而是得涨几百美元，最终会达到一个均衡点，AI 拿到它需要的需求，而移动端和消费硬件被压到足够低的水平。”

“我们当时的观点是，内存处于短缺状态，而且不是短期短缺，是会持续好几年的短缺。”

值得注意的是，内存市场属于典型的大宗商品式供需驱动结构，价格由现货与合约市场共同调节，因此波动剧烈——未来可能出现毛利率飙升至 85%–90% 后又迅速回落至 70% 以下的剧烈震荡。这与 TSMC（定价弹性低、涨幅温和）、ASML（设备周期长、价格稳定）形成鲜明对比。在 AI 基础设施供应链中，不同环节的受益程度取决于：（1）需求传导效率；（2）市场结构（垄断/寡头/充分竞争）；（3）定价机制（协议主导 vs. 市场主导）。

CPU 需求崛起：从配角到关键变量的结构性转变

过去三年，AI 讨论几乎聚焦于 GPU 和内存，CPU 被严重忽视。但自 2023 年底起，情况发生根本性变化：OpenAI、Anthropic 等公司已开始大规模租赁 Amazon、Google、Microsoft 的 CPU 资源，推动 CPU 需求急剧上升。其根本原因在于：AI 工作负载正从预训练转向强化学习与 agentic（自主代理）工作流。

在预训练阶段，计算主要消耗在 token 处理上，CPU 需求较低；而在强化学习与 agent 流程中，模型需生成合成数据、调用工具、运行代码、验证环境——这些操作高度依赖 CPU。例如：模型生成 token 后，需将其放入 Python 编译器、网页沙箱或工程系统中执行并反馈结果。这一过程引入了大量串行、低并行度、高延迟敏感的计算任务，对 CPU 架构提出全新要求。

“人跟模型交互是一回事儿……但模型自己去跟互联网世界交互就是另一回事儿了。在这个过程中，会有更多的计算在循环里，更多的 AI 在循环里。抱歉，是更多的 CPU 在循环里来回传递答案。”

当前 CPU 市场格局呈现高度动态化：传统双雄 Intel 与 AMD 正在提价并扩大份额；Amazon 的 Graviton 已成 IaaS 核心；NVIDIA 推出 Vera CPU，目标直指 agentic 工作负载；Arm 凭借新架构强势入局。市场结构从垄断走向多极竞争，但各玩家定位差异显著：

  • NVIDIA Vera：追求极致单核性能（核心数 <100），牺牲多核吞吐，适用于需快速响应的 agent 循环；
  • AMD/Amazon Graviton：高核心数、高并行吞吐（256+ 核心），适合批处理、多租户云服务；
  • Arm：在能效与定制化之间寻求平衡。

这种分化表明：CPU 不再是通用组件，而是按 workload 类型定制的异构系统。未来 CPU 需求增长虽迅猛，但终将趋于稳定比例（如 1:2 CPU:GPU）。当前的爆发式增长，更多是对过去数年 CPU 配套不足的‘补课’。一旦历史欠账补齐，增速将回归理性，但其战略地位已不可逆地上升。

“CPU 的需求不会一直涨，涨到超过 AI ASIC。这更像是一次拨正，基本上二十三、二十四、二十五年这几年卖了几百万颗 AI 芯片，但 CPU 卖的很少。现在 CPU 需求突然爆发，本来比例不该这么低，应该更高才对。”

CPU 补涨周期与算力配比演变

当前市场正经历一轮显著的 CPU 补涨周期，其核心驱动力来自两方面：一是历史算力欠账的集中回补，二是AI 算力配比的结构性上移。过去三年，大量 GPU 和 AI ASIC 出货时并未配套 CPU，导致 CPU 需求被严重低估；如今，随着客户开始为已有 AI 芯片补配 CPU（例如按 1:2 的 CPU-GPU 比例），每部署价值五万美元的 GPU，仅需五千美元的 CPU——这一比例虽看似不高，却因基数庞大而形成巨大增量需求。Dylan 指出，这种“补账+增量”双重叠加，正推动 CPU 市场进入一个短暂但高强度的小周期，但该需求终将趋于饱和并进入稳态。

“可一旦我把之前买的那些 AI 芯片的 CPU 债账补完了，这部分需求就没了。我已经把历史欠账补上了，现在就只剩增量部分了。”

“我们现在经历的正是这种巨大的补涨，同时配比也上移了，再加上历史欠账在集中回补。所以你看到需求非常夸张，但它会慢慢消化，然后进入一个稳态。”

光通信与铜缆：技术路线的阶段性权衡

尽管共封装光学（CPO） 被广泛视为未来数据中心网络架构的终极方向，但其大规模落地仍面临制造、良率与供应链瓶颈，真正爬坡期预计要到 2028–2029 年。当前阶段，行业仍处于“能用铜的地方用铜，必须用光的地方用光”的过渡期。值得注意的是，CPU 的部署延迟反而利好铜连接方案——例如 Ampenal 等铜缆与背板连接器厂商，因 CPO 推迟而迎来超预期增长。与此同时，非 CPU 相关的光通信（如芯片间互联、光模块）仍在快速扩张，因网络支出在 AI 总支出中的占比将从不足 10% 升至 20–30%。

“在中期来看，我们其实非常看好铜，也非常看好非 CPU 的光通信，反而对 CPU 有点看空……供应链里就是会发生这种事儿。”

“同缆行业正在发生很多创新，在把 CPU 往后推，对吧？我为什么要用 CPU？因为归根结底，集成光学比用电传输贵太多了。”

电力：数据中心增长的终极瓶颈与表后革命

电力已成为制约数据中心扩张的最大现实瓶颈。Dylan 团队预测，2024–2026 年全球数据中心电力部署将从 20 GW 快速跃升至 50 GW，而其中就地发电（表后模式）占比将迅速提升至新增电力的一半以上。当前，大量创新正围绕表后发电展开：从改装卡车/船用柴油发动机为天然气发电机组，到部署联合循环燃气轮机（如 GE、西门子、三菱设备），再到构建包含电池缓冲、UPS 和超级电容的本地微电网系统。尽管存在许可、排放审批等监管阻力，但市场已自发形成一条高度分散却极具韧性的供应链。

“我们看到有超过十几瓦的数据中心会用这类技术来建……把柴油卡车发动机改成烧天然气的，这在生产环节就能做，非常简单。”

“你有一整套连续的发电方案，从把柴油机改成燃气机……一直到干脆把芯片送到太空里去，这是一整个连续的光谱。”

供应链的隐形瓶颈

尽管AI基础设施常被聚焦于显性的大件设备——如内存、CPU和数据中心——但真正制约产能的，往往是供应链深处那些不起眼却高度关键的小环节。Dylan Patel指出，这些局部瓶颈不仅数量庞大，而且分布极其分散，例如PCB钻头（用于印刷电路板钻孔）和高纯度铜箔等看似冷门的材料。这些环节的供需错配频繁发生，且往往在短期内引发连锁反应。更复杂的是，相关制造商遍布全球：可能在台湾、日本或韩国上市，也可能属于非上市的隐形冠军企业，导致普通投资者难以系统性追踪与参与。这种高度碎片化、非标准化的供应链结构，构成了AI硬件扩张中一个被严重低估的挑战。

我们经常聊那些大块头，对吧？内存、CPU、数据中心这些。但当你真正往供应链深处钻的时候，会发现局部的小瓶颈非常多，而且很分散。

做这些东西的公司遍布全球，可能在台湾上市，可能在日本上市，可能在韩国上市，也可能在世界各地。对投资者来说，这些并不是那么容易接触到。

协作模式的价值与未来

面对如此复杂的供应链图景，跨领域深度协作成为理解与应对扰动的关键。本次播客合作之所以令人兴奋，正是因为它提供了一种系统性讨论供应链扰动的实践框架——不仅识别问题，更能推动实质性的认知与影响。在他们构建的分析版图中，这些微观环节并非边缘信息，而是理解AI基础设施真实瓶颈的核心拼图。这种工作方式有望成为行业新范式：通过聚合专业视角，把原本隐匿于全球角落的供应链动态转化为可被产业界与资本方共同理解的语言。

所以我觉得我们这次合作，我们这种工作方式最让人兴奋的地方在于，我们能对正在发生的事情产生一些影响，能大量讨论这些供应链的扰动。