大家好,这里是最佳拍档,我是大飞。十年前,黄仁勋(Jensen Huang)把一台重得要两个人才能抬上楼的机器,亲手送到了OpenAI的办公室。这台机器就是DGX-1,也是英伟达历史上第一台AI超级计算机:128GB的内存,1 petaflop的算力。而在上周柏林GTC的舞台上,他单手举起了一台同样128GB、同样1 petaflop的笔记本。十年,AI性能涨了一百万倍!如果按照之前摩尔定律的速度,十年顶多翻一百倍。而差出来的这一万倍,就是我们今天这期视频要聊的东西。
柏林的这次GTC大会是英伟达第一次把主场搬到欧洲。大家可能不知道的是,英伟达在欧洲已经深耕了33年:早年差点让公司活不下去的RIVA 128芯片,就是在法国造的;当年MediaMarkt是他们最大的工作站客户;ELS A则把英伟达带入图形工作站市场;奥迪还是第一个采用英伟达车载计算的车企。过去一年,他们在欧洲砸了接近100亿美元;光演讲前一周就宣布了对14家欧洲初创公司的投资。
施耐德、西门子能源都在跟英伟达合作AI;欧莱雅、Revolut、Spotify、保时捷、汇丰,一长串的欧洲巨头都在往AI经济里扎。大会开场依然是黄仁勋的主题演讲,这场演讲的核心判断其实就一句话:“AI不是软件,是制造业”。他给AI产业画了个简单的五层蛋糕:最底层是能源,驱动高性能计算机;往上一层,计算机堆在一起就是AI工厂。
再往上,工厂跑着模型,源源不断地产出token(也就是数字智能);最后token嵌入到各行各业的应用里。这五层,每一层都在创造就业和增长:施耐德和西门子能源在能源层已经做到了全球领先;Mistral这些欧洲公司在模型层站稳了脚跟;Nebius这种初创公司在AI工厂层快速崛起。
黄仁勋还提出了一个预测:未来全球每一家电信公司都会拥有超过10万个站点,加起来就是大约100GW的分布式电信基站和数据中心。它们会演变成一个去中心化的AI网络,也就是说,AI基础设施不会只集中在少数超大规模数据中心里。那英伟达在这个五层蛋糕里做什么呢?
多数人第一时间可能想到的都是GPU,但是今天的英伟达已经不只是做GPU了。从GPU、CPU、网络、存储、交换芯片,到系统软件、CUDA-X库、模型和工具,几乎每一层都有自己的产品。黄仁勋给公司下了个定义:“我们是一家算法公司,通过开发芯片来加速那些算法。”
他提到了极致的协同设计。翻译过来就是:每一次架构升级,不只是换一块更快的芯片,而是芯片架构、系统形态、系统软件、算法四层一起重做。新算法逼着他们改架构,新架构又把算法推得更远。就这样滚起来!这就是为什么摩尔定律只能做到100倍,而英伟达做到了一百万倍。
六代架构从2016年的Pascal到现在的Vera Rubin,每一代都在推进。Blackwell比Hopper快了大约30倍;两年之后Vera Rubin又比Blackwell快了30倍。Vera Rubin这台计算机跟以前的产品长得完全不一样:它没有线缆,没有电线,100%液冷。以前组装一台Grace Blackwell节点要花两个小时,到处都是线缆;现在组装一台Vera Rubin只需要不到五分钟。
每块GPU有20 petaflops的算力,通过NVLink交换机把72块GPU连成一台巨型计算机。黄仁勋在现场把这个东西直接拉出来给观众看,说:“现在你们知道这不是特效了。”配套的网络设备也做了革命性的升级。Spectrum-X是全球首款的共封装光学以太网交换机,传统方案用的是印刷电路板来传输数据,带宽和信号质量都会大打折扣。
于是英伟达跟台积电共同开发了CuPy工艺,把硅光子直接封装到芯片上。数据从激光器直接进入收发器,再直接到芯片,跳过了电路板这个瓶颈。目前已经量产的规格是512个端口、每端口200Gbps。AI工厂的规模巨大,一座1GW容量的AI工厂造价大约500亿美元,从建成到投产通常要好几个月。
黄仁勋发布了DSX Pod,把整个AI基础设施在工厂里预制好。它包含7个液冷计算机架,用17公里长的Spectrum-X线缆互联,组成一个Vera Rubin NVL72计算单元。所有这些全部都在工厂里完成布线、测试,然后装进集装箱运到现场,接上当地电力就能启动。他算了一笔账:一座年收入预期400亿美元的AI工厂,投产延迟三个月就是100亿美元的收入损失。
DSX Pod可以把从交付到产出token的时间,从四五个月压缩到大约一个月。电和水也省了!配套的DSX MaxLPS是一个动态控制回路,可以根据工作负载实时调整供电,在保持性能不变的前提下节省30%的电力。冷却系统方面,Vera Rubin支持最高45°C冷却液温度的闭环液冷;在适宜的气候地区还可以使用室外干冷器散热,完全不蒸发水。
如果按照2GW的规模计算,每天能节约5400万升水!相当于18万户家庭的日用水量。当然,光靠硬件还不够,还得有软件来让工厂运转起来。黄仁勋说:“AI工厂本身就是个奇迹。”把它点亮、通上电、让它开始生产token,需要极其庞大的软件体系。英伟达提供了整套全栈软件:从底层的系统软件,到上层的CUDA-X库。
接下来他把话题转到了智能体(Agent)上。过去这一年,AI发生了一次真正的转变:就是智能体开始具备了生产力。年初的时候OpenClaw引入了开源智能体的概念,开启了全球的智能体规模化浪潮。智能体开始思考、推理、迭代、使用工具,消耗的token一飞冲天,GPU的需求也真的爆发了。
然后他做了一个结构性的定义:智能体由五个要素组成。第一个是模型,大语言模型负责感知、推理、规划和行动,这是智能体的大脑;第二个是agent harness(黄仁勋直接把它叫“智能体的外骨骼”),模型是大脑,harness就是身体的其余部分。它用来协调工作流程、管理活跃记忆/工作记忆和长期记忆,并且激活工具;英伟达提供的开源harness支持OpenClaw和Hermes。
第三个要素是沙箱,这是harness运行的安全隔离环境;第四个要素是知识,由Agent Knowledge Foundation提供,让智能体能读取和理解企业的结构化和非结构化数据;第五个要素是工具,由CUDA-X库承载,让智能体能执行具体的计算任务。他的判断是:未来不会只有一个模型跑所有任务,每家公司都会混合使用闭源模型、开源模型和自己定制训练的模型。
根据任务类型选最合适的那个!然后就到了这次演讲里一个很重要的发布:OpenShell。黄仁勋说,目前阻止智能体滥用权限的方式,本质上就是在提示词里加一句“请不要删除任何东西”。他在现场放了一段自嘲的视频,开场就是这个场景。然后给出结论:这不叫安全!OpenShell是英伟达在9月底发布的开源安全运行时环境,基于Apache 2.0协议。
它的核心设计思路是:把安全执行放到智能体外部,在操作系统层面强制执行策略。因为大语言模型内部的安全屏障是靠不住的!OpenShell的具体机制分为三层:首先是策略层,你可以用YAML定义每个智能体可以访问哪些文件、连接哪些网络端点。OpenShell在系统调用级别执行这些策略;其次是凭证层,智能体本身并不持有任何密钥。
OpenShell在沙箱外部运行一个独立进程supervisor来保管所有的凭证安全,只有当请求被策略批准后,supervisor才会把凭证注入到那条请求中。一个被攻陷的智能体无法泄露密钥,因为它从来没有拥有过密钥;第三是隔离层:每个智能体运行在独立的沙箱中,没有直接的网络访问权限。所有出站请求都必须经过supervisor检查!
他把OpenShell比作早期互联网的浏览器沙箱:早期互联网病毒横行,直到浏览器严格限制了网站能做的事。如今OpenShell对智能体做的就是同一件事!在OpenShell之上,还有一个可选的硬件加固层叫Sentry。它运行在BlueField-4 DPU上,跟主机CPU完全隔离。
它的工作方式是:智能体的所有数据流量都经过Sentry,如果智能体的行为偏离预设策略,Sentry会在毫秒级别内更新策略、切断智能体与模型的连接,并且将智能体隔离。OpenShell发布之后几乎所有主要阵营都表态支持:Anthropic、微软、甲骨文、CrowdStrike、Palo Alto Networks等超过100家机构都加入了。Anthropic和英伟达已经宣布合作推出Claude OpenShell agents!
接下来是开放模型策略。英伟达的做法和行业中大多数不同,黄仁勋说他们提供的开放模型不只包括权重,还包括训练数据和完整的复现脚本。只有当你知道模型是怎么来的、用什么数据训练的,你才能对这个模型有充分的信心!其中Nemotron是语言模型家族的统称。除此之外英伟达还在推进多个方向的模型:比如用于理解和生成物理世界的Cosmos、训练人形机器人的GR00T,以及面向自主导航的Alpamayo。
这些模型本身可能不是最前沿的研究成果,但是通过生态合作伙伴的后训练和微调可以达到前沿水平。黄仁勋举了几个例子:比如AI21用Nemotron Omni训练出了性能超越顶级水平的模型;Code Rabbit通过Base Ten对Nemotron微调后达到了一流水平;Harvey用Nemotron Parse做后训练扩展也做到了前沿级别。
他的核心观点是:客户只需要从一个好的开源模型出发,用自己的数据做后训练就能生产出针对自身业务的“主权智能”!除此以外让智能体真正有用的关键不在于模型本身,而在于让它理解你公司的数据。Agent Knowledge Foundation提供了一套完整的工具链:Nemotron Parse负责从非结构化文档中提取信息。
因为企业数据大量存在于PDF、报告、合同等格式中,需要AI来阅读和提取;Nemotron Embed负责将查询请求匹配到向量数据库中的知识;Nemotron 3 Omni是一个多源搜索和排序系统,从多个不同来源中找到查询相关的数据汇总后按相关性排序;Kumo则针对结构化数据库做预测。
黄仁勋用供应链场景做了演示:假设你收到了一个供应商短缺的通知(这是非结构化数据),而订单信息在SQL数据库里(这是结构化数据)。Kumo可以预测哪些订单会受影响、延迟多久,然后用向量数据库搜索找到替代零件的技术文档。四个工具分别对应了这条链路上的四个环节!
然后是CUDA-X库,黄仁勋反复用了一个类比:“再聪明的科学家也需要实验室;再好的工程师也需要仿真器和求解器。”所以智能体也一样!CUDA-X是英伟达积累了二十多年的加速计算库集合,覆盖流体力学、粒子物理、量子化学、图像处理、数据处理、光线追踪等350多个领域。
他还把cuDNN比作AI行业的SQL,认为cuDNN对AI产业的意义相当于SQL对全球数据库产业的意义。就像OpenGL和DirectX催生了实时计算机图形产业一样,cuDNN催生了AI计算产业!在演讲中黄仁勋演示了三个智能体配上工具后的实际效果:制药公司Purple Sciences的Lila Iris智能体用BioNeMo做蛋白质设计和RNA优化,自主跑了数百万次的虚拟筛选将最优候选物送到自主机器人实验室制造和测试。
整个B细胞淋巴瘤疗法的实验设计都是由智能体完成的!Dassault和大众的两个智能体Aura和Leo协作,把高尔夫(Golf)车门改型为途观(Tiguan)。Nemotron Parse分析技术需求,Simulia跑仿真在发现振动问题后自动修正了设计。西门子在埃尔兰根(Erlangen)电子工厂用Cosmos生成合成数据,让工厂智能体推荐优化后的生产计划。
他还直接回应了“AI将终结软件产业”的说法,他认为恰恰相反:AI来了之后使用这些工具的用户会比以往任何时候都多。每一家工具公司都会成为AI公司,它们不只提供工具还会提供专门优化过的智能体极其擅长使用它们的工具。接下来是物理AI,这是黄仁勋定义的AI下一波浪潮:物理AI指的是AI理解物理世界、对物理世界做推理,并且使用工具与物理世界交互。
他先聊了电信网络这是他最看好的物理AI应用之一:手机基站可以用无线电波来感知世界和做推理,用波束成形与世界交互。跟机器人用摄像头和执行器做的事情在结构上是一样的!英伟达把在光线追踪上使用的AI技术应用到无线通信中,频谱效率可以实现百万比一级别的提升。
基础设施方面:全球约10万个电信站点、100GW的分布式数据中心将在未来演变成为去中心化的AI网络。上周经过近八年的合作,英伟达和Nokia在T-Mobile网络上完成了首次商用电话。黄仁勋在现场说了一句:“CUDA现在能打电话了!”
然后是机器人辅助放射治疗:患者的肿瘤在疗程中改变形状,机器人实时感知变化中的身体环境精准分割肿瘤边界、动态调整放射方向。这些都不是执行的预设程序,而是感知到变化之后进行推理再用工具行动!自动驾驶是目前体量最大、最临近落地的物理AI应用。
黄仁勋观察到的一个趋势是:每一家汽车制造商都想让自己的车辆加入网约车车队。未来Uber、Bolt、Grab、Lyft等平台上都会有Robotaxi,但是它们不会只来自一个品牌。构建自动驾驶系统是极其昂贵的尤其是软件部分!英伟达因此决定做一个标准化的架构:Hyperion。
Hyperion的标准配置包括14个摄像头、9个雷达、3个激光雷达和大量超声波传感器,由两套英伟达GPU系统驱动。英伟达同时在开发自动驾驶软件目标是打造一套Robotaxi能力接入各大网约车平台。全球每年大约有1万亿英里的出行里程,Robotaxi每英里收费一到两美元规模巨大但是高度碎片化。
而Hyperion要做的是创建一个虚拟车队标准,任何品牌都可以加入!在这次演讲里四个新的Hyperion合作伙伴和车型选择加入:包括大众VW厢式车、沃尔沃车队、下一代奔驰,以及捷豹路虎的全新车型。再往下是人形机器人!黄仁勋说:机器人行业的核心难题是碎片化,不同任务需要不同的机器人配置每种配置的量都不大无法形成技术飞轮。
手机和PC之所以进化快是因为有标准化的配置,标准化带来规模、规模驱动技术迭代。而人形机器人有可能成为那个标准化的配置:它不一定适合所有任务,但是可能适用于很多任务。成为产量最大的机器人构型!如果AI能让它快速学习新技能,那些没有专业机器人团队的中小企业也能用上。
只需要给机器人演示一下该怎么做它就能学会!英伟达与Agile Robots合作开发的Agile One是一款参考人形机器人:身高1.4米,体重40公斤31个自由度。出厂即集成计算机和软件明年第一季度交付!黄仁勋还提出了一个关键概念:构建物理AI系统需要三台计算机。
第一台在云端训练AI模型;第二台是Omniverse数字孪生平台用来让AI学习和验证技能。你不能直接把AI编好就丢进现实世界里乱试,得先在数字世界里完成;第三台是机器人本体上的计算机。在自动驾驶汽车里叫Hyperion,在人形机器人里就是机器人计算机!
演讲最后黄仁勋回到了他的起点:PC。1993年英伟达从PC革命起步,发明了GPU、可编程着色和实时光线追踪然后加入CUDA加速点燃了现代AI革命。四年前他们开始思考新时代的个人电脑应该是什么样?它不只是你的工具而是你的个人智能体和助手。你跟它相处更像是跟一个帮你干活的伙伴相处!
经过四年与微软的合作秘密研发了数千个工程师年,他们发布了RTX Spark。这台PC搭载了N1X芯片:FP4 AI算力最高1 petaflops,统一内存最高128GB。前面说过了:2016年DGX-1有同样的算力和内存,要两个人抬上楼;现在这台电脑单手就能举起来!对于需要更强算力的用户英伟达还提供搭载RTX Spark的DGX Station:20 petaflops算力、754GB内存,运行Windows预计年底上市。
演讲最后的现场演示把这三台物理AI计算机串在了一起!其实这场演讲开场的时候黄仁勋就放了一段他和一只机器鸭子的小影片。当时台下有人喊了一句:“鸭子太小了!”他笑着回应说正在做大的!结果到了最后真的搬了四只活的MicroDuck走上了舞台。
MicroDuck由法国初创公司Pollen Robotics制造。开发者用Hermes agent、Nemotron和GPT-6 Astra模型,配合FreeCAD、Blender和Isaac Sim工具,在一台RTX Spark上完成了从3D建模到物理仿真的全流程。训练在云端进行,数千只虚拟MicroDuck并行训练,“摔一跤就是一课”。
训练好的策略下载回RTX Spark,评估通过后部署到真机上。然后四只真实的MicroDuck走上了舞台。黄仁勋像个老父亲一样,先让它们走两步,叮嘱了一句“别绊倒”;又问它们:“你们能坐下吗?”鸭子们应声坐了下来。
他又让它们站起来、睡个觉,最后喊它们翻个跟头。自己连说了好几遍“太棒了”。他对着鸭子说:“你们诞生于RTX Spark,在云端一堆超级计算机上训练,又在数字孪生里学会了本事。”
这三步,就是构建物理AI系统的那三台计算机。其实整场演讲黄仁勋一直在串同一条线:就是用能源驱动计算,计算产出token,token再驱动智能体,智能体用工具完成工作。
只不过黄仁勋把每个环节都拆开了:从Vera Rubin的芯片级创新,到DSX Pod的供应链改造,到OpenShell的安全架构,到Nemotron的开放模型,到CUDA-X的工具库。
再到Hyperion和Agile One的物理AI应用。对于那些想进场的企业,黄仁勋给了一套具体的操作顺序:选一个好的基础模型(闭源或开源都行),然后用自己的数据做后训练,得到定制模型。
再用Agent Knowledge Foundation让模型理解你的企业数据;以及用CUDA-X给智能体配上专业工具。最后把整套系统跑在OpenShell的安全沙箱里。
他说构建智能体并不难,只需要由四五个组件构成。关键在于知识和工具,而这些知识和工具属于你——这是你的专业能力。
结尾的时候,黄仁勋说了一句话:“欧洲的每一家公司都会成为AI公司,这毫无疑问。”然后他还放了一首欧洲歌唱大赛风格的歌。
把整场发布都编成了调侃,歌里写道:OpenShell守大门、BlueField像施瓦辛格一样护卫沙箱、机器人在模拟器里上大学还不用还学生贷款。
感谢收看,我们下期再见。