大家好,这里是最佳拍档,我是大飞 美国知名科技投资人、对冲基金阿特雷德斯(Atreides Management )的管理合伙人兼首席投资官加文·贝克 最近参加了《Invest like the best》的一期播客节目 讲了很多关于AI算力、台积电、轨道计算这些前沿话题 信息量很大
所以拿出来跟大家分享一下 首先 最让人震撼的就是Anthropic的增长速度 Gavin说 这是资本主义历史上最非同寻常的时刻 你想想 过去10-12年里最受瞩目的三家SaaS公司 Palantir、Snowflake和Databricks 花了10年时间才建立起各自的业务 总共雇了几万人
而Anthropic呢 在一个月里就增加了相当于这三家公司总和、整整110亿美元的ARR 这在商业历史上真的是前所未见的 完全打破了任何历史先例 更有意思的是 Gavin说如果Anthropic有足够的算力
他们现在可能已经做到了1000亿美元、1500亿美元 甚至2000亿美元的ARR了 但是他们为了控制成本 不得不对Claude进行了降智处理 有分析显示,即便是Opus版本 现在对同样的问题 生成的token减少了70%。这说明 现在AI公司的增长根本不是受限于市场需求 而是受限于算力供应 说到算力
就不得不提Gavin反复强调的两个关键词 瓦数和晶圆 他认为,这两个是AI扩张的主要瓶颈 不过他觉得 只要没有大的监管或者政治阻力 资本主义会自然解决能源短缺的问题 现在的数据中心投资 最大的制约因素已经不是能源或芯片了 而是土地规划和审批流程 很多公司都在等中期选举之后再采取行动
因为谁也不想在选举期间成为众矢之的 不过长期来看 Gavin有一个更激进的解决方案 那就是轨道计算 很多人听到太空数据中心 可能会想象出太空中漂浮着一栋五角大楼那么大的建筑 觉得这不可能实现
但是Gavin说,其实根本不是那样 轨道计算就是把单个服务器机架放到太空中 一个Blackwell机架大概8英尺高 重3000磅 SpaceX的Starship完全可以发射很多个 具体怎么运作呢?把这些机架放在太阳同步轨道上 这样太阳能板可以一直对着太阳 持续获得能源
散热呢?就靠机架后面延伸出的巨大散热器 然后用激光在真空中连接这些机架 形成一个虚拟数据中心 这种技术其实已经在Starlink上验证过了 早已不是什么天方夜谭 而且SpaceX现在运营着全球最大的卫星舰队 占轨道上所有卫星的98%或99%。
他们的Starlink V3卫星已经能运行20千瓦了 而一个Blackwell机架也不过100千瓦 所以技术上完全可行 当然 轨道计算不是来完全取代地面数据中心的 训练还是会在地面上进行很长时间 但是推理用轨道计算就非常合适 Gavin觉得 我们会尽可能多的消耗算力
轨道计算只是又增加了一个供应渠道而已 不过有一个问题 就是太空里的维修和维护 现在可能还做不到 但是Gavin相信Starship会改变太空经济的方方面面 特别是如果地面数据中心因为监管受到限制时 轨道计算会有多大需求就能卖多少 接下来聊聊晶圆,也就是芯片制造 Gavin讲了一个很有意思的观点
台积电其实是全球经济的稳定器 因为他们维持着严格的产能限制 反而防止了债务驱动的AI泡沫 就像2000年互联网泡沫那样 历史上每次出现像铁路、运河、互联网这样的基础性新技术 都会先出现泡沫 泡沫资助了技术的建设 然后供应超过需求就会崩盘 但是现在不一样 因为AI基础设施建设主要是靠运营现金流来资助的
而不是债务 而且每块GPU现在都100%在跑 不像2000年时99%的光纤都是闲置的 Gavin还提到了一个概念叫多样性崩溃 就是当所有投资者都对同一件事看多的时候 就会形成泡沫
现在他开始有点担心这个了 因为一年前还是怀疑论者的人 现在都成了DRAM多头 不过他觉得,正是台积电的产能限制 才单枪匹马地防止了市场过快过度建设 说到芯片设计 Gavin有个很形象的比喻 说芯片设计就像坦克设计的铁三角 你要在攻击力、防御力和机动性之间作权衡 芯片设计也是一样
你要在内存容量、内存带宽和计算能力之间作权衡 大多数公司 比如AMD或者Google的TPU 本质上都是在尝试做一个更好的GPU 但这基本上是个必败的游戏 因为英伟达从台积电拿到更好的价格 而且能第一时间看到所有创新 那创业公司要怎么成功呢?
Gavin说,必须做一些不同且困难的事 比如Cerebras选择了晶圆级计算 这是个极其难以执行的架构决策 但是一旦成了 你就能做别人做不到的事 如果你只是做个简单的权衡 英伟达直接复制过来 然后用规模碾压你就完了 说到英伟达的对手 很多人可能会想到马斯克的TerraFab
Gavin觉得马斯克有个超能力 就是因为他20年来一直为投资者赚钱 所以他想融多少资就能融多少资 对于TerraFab,他和英特尔合作 获取了50年的行业知识 更重要的是 他能从ASML和应用材料这样的半导体设备公司 挖来最顶尖的团队 因为这些人也想要打破台积电的买方垄断
而且马斯克特别懂工程师的人性 他可能会在得克萨斯的工厂旁边 建一个台湾镇或者日本镇 把最好的工程师喜欢的餐厅和员工都搬过去 确保全球最优秀的人才愿意在那里生活和工作 如今,AI的定价模式也正在发生转变 从无限量畅饮的订阅模式转向按使用量付费 Gavin说这和蜂窝通信及长途电信行业的历史很像
早期蜂窝用按使用量定价时 增长非常好 后来变成无限量套餐后增长就停滞了 AI现在刚好反过来 如果你用每月20美元的无限套餐 你得到的是降智版的AI 因为公司必须限制你的用量来节省成本 而在企业级按使用量付费的套餐中
你才能得到无限制的智能 Gavin预计 OpenAI和Anthropic今年的ARR会超过2000亿美元 因为人们真的想用这些Agent 而且愿意为最高质量按量付费 说到Agent,就不得不提苦涩的教训 Richard Sutton的苦涩的教训是说 更多的计算和数据总会胜过人类的算法创新
现在的AI投资逻辑最大的风险 就是违背这个教训 比如出现了一个更聪明的算法 大幅减少了对大规模计算的需求 之前Google的TurboQuant论文 就曾经导致DRAM股票出现短暂恐慌 不过Gavin相信 一旦实现超级人工智能 智商为500的模型要做的第一件事 就是让自己变得更高效
我们可能会看到AI驱动的优化 暂时违背了苦涩的教训 但是总体上,离前沿最近的那些人 仍然不太相信有什么能取代对更大规模的需求 还有一个很实用的技术点 就是把AI的工作负载拆解成预填充和解码两个阶段 这样可以做专门的硬件权衡
让旧GPU的使用寿命延长到10年以上 怀疑论者会说 GPU因为变化太快只有一年使用寿命 但是这种技术拆分恰恰改变了这一点 你可以在旧的英伟达Hopper或Ampere芯片前面 放一个专门的系统 比如Cerebras或者Groq LPU 用专门的芯片来处理高速解码 用旧的英伟达芯片处理预填充
这样GPU的寿命可能延长到10或15年 融资也更加安全 这个技术拯救 可能会保护那些为几十亿美元GPU贷款 提供了资金的私人信贷行业 现在前沿AI模型还有个趋势 就是对普通用户降智或者限速 于是就造成了一个不断扩大的智力鸿沟 只有为高用量企业版付费的人 才能获得最优秀的帕累托前沿模型 九个月前
Google还主导着帕累托前沿 也就是智能和成本的最佳平衡 那时候OpenAI、xAI和Anthropic都还在Google的曲线里面 可是今天 前沿已经被Anthropic和OpenAI主导了 xAI的Grok
1.5也在前沿上 被认为是性价比最高的500B参数模型 Google的Gemini 1.5 Pro现在勉强挂在前沿上 Gavin怀疑他们可能是出于面子在补贴它 Google之所以失去了单位成本的领先地位 是因为他们在TPUv5上做了保守的设计决策 减少了对博通的依赖
而英伟达则继续做出激进的高性能选择 这一进一退 直接改写了算力成本的格局 对于AI交易市场来说,Gavin指出 2023年 AI交易是一荣俱荣、一损俱损的状态 如果你做多GPU 你就得做多光通信和DRAM 但是在2024年1月,这些相关性瓦解了 现在你必须非常细致才行
比如Scale-up网络可能疯涨 而Scale-out下跌 DRAM可能大幅跑输NAND 这是因为AI让交易者能更快的搞懂细分领域 导致更专业化的投资组合 现在最大的机会是被错误分类的公司 比如Astera Labs被归类在铜缆输家的组合里
但是作为一家交换机公司 它们其实对铜和光连接都是必需的 那微软和纳德拉的现状如何呢?Gavin说纳德拉是个杰出的CEO 但他最近从打算逼疯Google 转变成了好像Copilot的产品经理一样 微软在2024年初在资本支出上退缩了 而在这种环境下退缩 你就会失去分配和地位
不过纳德拉现在在做一个勇敢、有风险的决定 不只是把Azure GPU卖给OpenAI赚轻松钱 而是把那部分算力 转移到改进微软的内部产品和训练自己的模型 这放弃了短期收益 如果微软只服务OpenAI 股价可能只能到800美元 但是当下前沿模型的API可能不再容易获取
只有自研模型才能在未来占据了一个好位置 而对于AI的应用层 Gavin形容现在其实是纯价值的摧毁者 几万亿美元的价值蒸发了 因为投资者意识到很多传统软件护城河都很脆弱 现在获胜的公司 都是人均使用GPU数量最高的那些
创始人在挣扎着寻找前沿模型公司不会最终吞噬的数据护城河 目前 应用层唯一明显的赢家是那些专注于编程的 比如Cursor或Cognition 因为编程是让AI本身变得更有用的最短路径 聊完了技术和商业 Gavin还提到了地缘政治 特别是战场AI 他说现在越来越担心个人安全和政治暴力
随着AI变得越来越政治化 愤怒指向了AI领袖 于是最近开始有人向Sam Altman的家扔燃烧瓶 地缘政治上,AI正在造成不稳定 乌克兰在战场上取得了优势 不只是因为无人机 还因为他们有美国和以色列以外最好的战场AI 当中国这样的对手看到这一点 他们的反应可能充满了不确定性 所以Gavin指出
我们正在进入一个更高方差、更高风险的世界 在这方面 Gavin还分享了一个很有意思的观察 霍尔木兹海峡的关闭 实际上在AI竞赛中对美国是相对优势的 这虽然听起来反直觉 但是对美国的制造业竞争力来说其实很厉害
电力是工业制造和AI数据中心的重要投入 美国电力的关键来源是天然气 作为全球最大的天然气生产国和出口国 天然气价格在这个事件后跌了20%。与此同时 亚洲和欧洲的天然气价格翻了两到三倍 于是美国的相对制造业地位一夜之间就提升了 和70年代不同 美国现在是能源独立的 所以不会面临同样严重的短缺
反而在AI能源成本上获得了巨大的相对优势 个人层面上 Gavin说每个人都需要一个家庭安全口令 不能被社交工程破解 用来防范近乎完美的AI语音和视频克隆被用于网络犯罪 他自己也会在投资流程中使用AI Agent 他的比喻是要掌握机关枪 才不会像武士那样被屠杀 他最有用的Agent
可以为他每天必看的六小时播客和视频 提供高密度的总结 如同大海捞针一样 特别是去看管理层薪酬的变化 它可以扫描委托投票书 看CEO是否有愚蠢的限制性股票RSU或者绩效股票PSU 以及那些PSU具体激励他们做什么
这种劳动密集型的工作非常适合AI 让他可以空出来 有时间做更有创造性的分析工作 总结一下 这一期播客的核心观点其实是说 我们现在正处在资本主义历史上最特殊的一个时期 所有的变化都在快速发生 很多人会觉得这些变化太快、太复杂了 但是这才是最有意思的地方 我们现在看到的不只是技术的进步
更是整个经济、社会、地缘政治格局的重构 对于投资者来说 这既是机遇也是风险 关键是要能分辨哪些是真正的结构性变化 哪些只是短期的噪音 好了 以上就是今天想跟大家分享的内容了 感谢收看,我们下期再见