AI重塑芯片设计的速度悖论

帕特·基辛格(Pat Gelsinger)在a16z播客中提出了一个极具洞察力的观点:当AI让芯片设计变得极其廉价和快速时,真正的瓶颈反而转移到了物理世界。他设想了一个场景:如果一位芯片创业者利用聪明的AI工具,能在3个月内完成一款新芯片的全部设计,这在几年前是不可想象的。然而,从设计完成到产品真正落地使用,还需要漫长的物理流程。距离这颗芯片真正能用上还有9个月,这其中包括晶圆厂流片需要3个月、先进封装需要3个月,最后装入机架级方案调通又需花费大量时间。这种速度差意味着,当产品终于落地时,AI世界的工作负载可能已经发生了巨大变化。

基辛格的这一判断源于他深厚的行业背景。18岁加入英特尔,他是386设计团队的第4位工程师及486处理器的架构师。他回忆道,当年在斯坦福读书期间,白天学习晚上实践,甚至与教授在课堂上争论超前进位加法器的设计可行性。这种互动正是硅谷独特的原因之一,因为真理往往在激烈的碰撞中显现。486芯片不仅是他的成就,更奠定了现代EDA(电子设计自动化)行业的基础,当时英特尔甚至自行发明了硬件描述语言和编译器。可以说,现代EDA行业的许多基础就是从那颗芯片开始奠定的。

如今,随着ChipNeMo等AI工具的应用,逻辑功能设计已能交给AI处理。但基辛格提醒,模拟和射频部分因缺乏足够的硅数据支持,目前仍难以被AI完全替代。有些设计仍然非常困难,工程师要么在模拟电路设计上采取保守做法利用AI辅助,要么只能用最笨的手工办法完成。逻辑功能这块确实已经能交给AI工具了,这标志着芯片设计新时代的开始。

物理世界的刚性约束与封装挑战

当软件层面的设计效率大幅提升后,硬件制造的物理限制成为了新的瓶颈。基辛格通过一个思想实验指出:即使拥有超级强大的设计流程,我不可能在3个月内从晶圆厂拿到任何东西。除了流片时间,先进封装尤其是3D封装的复杂度日益增加,同样需要约3个月。最后将芯片集成进机架级方案的过程也耗时漫长。加在一起,9个月的周期使得从设计到使用的总时长远超预期。

为了压缩这一过程,行业需要新的光刻技术和无需在量产前投入巨额掩膜费用的设计流程。基辛格反问:我现在可以在3个月内完成设计,为什么还要花一年半才能真正拥有规模和软件? 他引用Graphcore的例子说明,即使历史设计不差,若无法跟上AI工作负载的快速迭代,也会面临巨大挑战。所有生产规模的问题会成为一个巨大的瓶颈。

在内存方面,基辛格直言HBM(高带宽存储器)是一段糟糕的记忆。它的比特密度非常差,受限于边缘带宽,且存在电力和散热问题。DRAM芯片不喜欢高温,将AI计算集中在内存附近会导致严重的功耗挑战。40%的功率都投入到了保护带中,这意味着当前的电力模拟技术存在缺陷,缺乏有效的三维建模工具来处理功率耗散和热点。因此,配送模式也得跟着变,以应对日益严峻的热管理需求。

行业格局收敛与异构计算的回归

面对上百个AI推理加速器芯片的百花齐放,基辛格认为这只是暂时的现象。历史上从来没有过100家相互竞争的处理器供应商存在于任何行业,最终数量会收敛到少数几个。他指出了两个关键理由:一是计算环境中的异质性正在细化,预填充和解码环节需要更精细的层级划分;二是大语言模型接近极限,未来工作负载将回归高性能计算(HPC)方向。

基辛格特别强调,优化AI系统会把我们引回某些更传统的高性能计算方向。例如在化学分析中,需要64位高精度运行算法,这与平面化的LLM方法不同。那些越来越专业化的AI芯片未必押对了方向,因为它们可能无法适应未来更通用的HPC需求。

此外,资本和规模也是决定胜负的关键。100多家公司不可能全都赢,因为必须达到足够的规模才能筹集资金并分配工作负载。行业整合必然会发生,而且赢家会选出赢家。OpenAI、英伟达等巨头更倾向于选择那些硬件与软件代码能协同演进的架构。关键在于硬件和软件如何协同演进,而非单纯的异构性。

内存创新与堆叠工程的极限

关于存储技术的未来,基辛格表示过去30年几乎没有重大的新型存储器诞生。我们还没能创造出下一代物理学,能实现低成本、高性能、有弹性、可制造的存储器。然而,随着AI对内存密集型负载的需求激增,三大内存供应商跻身全球最有价值的20家公司之列。资本的组合加上技术的渴求正在把存储创新往前推。

基辛格对两种技术路径持保留态度:一是完全用光纤连接计算和内存,他认为光电转换越多伴随的损失越多;二是存内计算(PIM),他觉得这种理念已存在25-30年,再过25到30年它们还会待在原地。他更倾向于强大的内存带宽和高密度高性能产品,使其接近真正的计算引擎。

在芯片堆叠方面,基辛格给出了冷静的工程分析。良率本质上是不可能线性增长的必须呈指数级增长。做8到16层堆叠时,数学计算显示非常困难。生产流程必须近乎完美,因为任何裸片上的裂纹都会导致整片废掉。因此,他认为3层、4层或5层的堆叠才是最佳平衡点。即使如此,工程难题依然众多,如光罩尺寸限制、电源轨集成等。把所有这些部件组装起来简直是一场制造噩梦。

光互联、能源危机与硬件复兴

在互连技术方面,基辛格预测铜正在逐渐被光学取代。让铜在5米内工作比让光学在100米内工作还要贵,这是物理学推动的结果。他预计2028-2029年是转折年,行业将关注共封装光学(CPO)或近封装光学。英伟达已经表明了这一点,那个东西简直是工程奇迹也是制造业的噩梦。

网络架构也将随之改变。AI处理的是规模庞大且可预测的数据流,更像交换机而非数据包。向光学的过渡加上可预测的大流会一路走到光路交换(OCS),这才是正确的架构风格。此外,训练与推理的界限将模糊,因为持续学习需要更新模型权重。

能源问题则是更大的挑战。基辛格指出,美国过去10-15年整体能源容量基本停滞。一个国家的经济能力15年保持不变,这显然不可接受。他预言会有更多数据中心项目违约。人们会开始问为了担保我作出的资本承诺我真的有电力吗? 解法包括核电重启、燃气轮机交付周期优化以及配电系统向800伏直流过渡。配送效率也要大幅提高,固态变压器和开关技术将迎来创新。

结论

帕特·基辛格的核心观点在于:任何让事情变简单的技术都会让瓶颈转移到别的地方。AI极大地降低了芯片设计的门槛和时间成本,但同时也凸显了晶圆制造、先进封装、内存带宽、电力供应和散热管理等物理世界的刚性约束。硬件复兴不是因为它变简单了,而是因为它又变难了。

对于能够解决这些复杂物理瓶颈的企业和工程师来说,这恰恰是最佳的时机。从内存创新到光互联,再到能源基础设施的重构,硬件领域的“文艺复兴”正在到来。这不仅是对技术能力的考验,更是对资本规模、工程精度和系统整合能力的全面挑战。对能搞定难的那部分人来说这才是最好的时机。