最近几周，全世界都在谈论 AI，人们听到的声音最响亮的来自前沿实验室，包括这些实验室的 CEO、负责人和工作人员。这些实验室在开发非常先进的 AI 模型，比如 Claude、ChatGPT、Gemini 等等。但这并不是看待 AI 的唯一视角。在 AI 领域，最有影响力的人物很可能就是英伟达 CEO 黄仁勋。
英伟达现在是全球市值最高的公司，市值达五点四万亿美元。有个数据让我觉得特别惊讶：自 2023 年以来，美国股市每产生一美元的回报，其中十五美分来自英伟达股票。原因在于，现代AI正是建立在英伟达提供的硬件和软件基础之上的。英伟达的芯片受欢迎，并不是因为AI走红了，恰恰是因为英伟达的芯片广受欢迎，现代形态的AI才得以实现。
这些芯片最初是为图形处理、电子游戏之类的用途设计的。但后来发现，他们所做的并行计算以及他们可编程的方式，恰好就是让现代深度学习得以运行所需要的。黄仁勋的影响力不只在于他掌握着训练新AI模型所需的一项核心资源，人们还用这些模型回答问题、创造智能。他在特朗普政府中的影响力也变得非常大。黄仁勋的看法和一些实验室负责人很不一样。
他担心安全问题，但认为这是个完全可以靠工程手段解决的问题。他担心事情发展的方向，却不希望通过新的监管来改变现状。所以我想了解黄仁勋如何看待 AI，他用什么框架来思考 AI，觉得哪里出了问题，以及要让 AI 朝正确方向发展需要做些什么。于是，我来到圣克拉拉，去了英伟达总部采访他。他现在就来和我一起聊聊黄仁勋，欢迎来到节目，谢谢，很高兴见到你。
你把 AI 形容成一块五层蛋糕，给我讲讲这几层吧。首先，这是一场新的工业革命。这场工业革命催生的产业需要生产制造，它要制造东西。我知道人们最终接触到的会是软件产品，但它需要能源。这些数据中心，也就是这些AI工厂里装的芯片，再往上一层，基本上就是AI工厂，也就是人们使用的基础设施或云服务。再上一层就是模型。
要知道，除了语言模型，还有各种各样的模型，比如化学模型、生物模型、物理模型、发音模型、机器人模型、导航模型，还有自动驾驶汽车模型。再往上一层是最重要的一层，也是我最关心、最希望我们国家能从中受益的一层，那就是应用层。这一层包括法律服务、医疗服务、制造业等等领域的应用，每一个行业都参与其中。我想从上往下聊聊这些层，因为就像你说的，人们与AI互动的方式，以及AI会不会改变他们的生活，都体现在你所说的应用层上。
那我们先从愿景谈起。你设想的世界是什么样的？有哪些事现在做不到，将来却能做到？有哪些事现在还不普遍，将来会变得普遍？如果我们把这一层做好，两百年前有了电，我们就能给各种各样的东西供电。然后我想，大概三十年前，随着互联网的出现，我们能够找到任何东西。今天，或者说很快，我们就能知道所有事情，做任何事情。
这就是一个特别令人兴奋的概念。未来，你不用先搜索，再挨个点开链接，阅读各种网站，试着弄明白发生了什么。你只要问他一个问题，他就会直接给你答案，仿佛凭空出现一样。你交给他一个项目，他就会给你一个解决方案。你交给他一项任务，他就会把事情办好。他就这样凭空出现，从云端而来，这正是神奇的地方。我觉得你刚才描绘的未来，人们比较熟悉的体验就是聊天机器人，对吧？
他们可以去问 Grok Cloud 或 Chat GPT，但应用层的运作方式要工业化的多。它应用在医院、学校里，所以英伟达是，这是个很好的例子。比如放射科，它是什么样的？放射科过去十年来，可以说自从计算机视觉真正达到超越人类的水平后，AI技术已经渗透到了放射科的方方面面。每一种放射科应用里都有AI，所以这样一来，你可以检测出任何异常、任何疾病，而且检测水平超越人类。
放射科是我知道你很喜欢举的一个例子。人们担心应用层的一点是，这些应用会取代人类。放射科一直是双方都会拿来讨论的一个有意思的例子。我也经常听你谈到它。那么，X辅助放射诊断的出现改变了放射科的工作方式吗？重要的是，我们要认识到每个人的工作都有其目的，也有这份工作里要完成的具体任务。以放射科为例，查看扫描影像是他们的一项任务。
这件事很耗时间，他们经常要坐在暗室里做。现在，如果扫描影像的判读突然可以自动完成，这并不会改变他们工作的目的，也就是诊断疾病，帮助医生做更多扫描检查，最终帮助患者弄清楚自己哪里出了问题。所以，工作的根本目的没有改变。查看扫描影像这项任务已经实现了自动化。因此，放射科医生实际上能做更多事，处理更多病例，做更多扫描检查。
医院也能处理更多这类患者，因此收入会增加。所以医院需要更多放射科医生。这种飞轮效应正在运转，因为患者来源相当充足。那么还有哪些地方也存在这个问题？我们来看看软件工程。有人预测，就在今年，所有软件中有百分之九十会由 agent 编写，因此我们就不需要软件工程师了。所以他们由此得出的结论就是，我们不需要软件工程师。
后面这个结论完全是错的，彻底错了。软件工程师的工作目的是做工程。软件出现之前就有工程了，软件编程之后也仍然会有工程。工程的目的，是发明新事物、创造新产品、解决问题，把社会需求和现有技术连接起来，并通过产品呈现出来。这项使命、这个目的都不会改变。当然，对我来说，刚才说的这些很有切身体会，因为我刚毕业时还没有软件工程带来的便利，那时候我们也没有编程带来的便利。
但工程师的工作在软件出现之前就已经存在，即使软件编程完全实现自动化。这些工作也还会再次出现，所以我认为这种谬论如今因为一些叙事和说法变成了一种神话，而且有害。这种谬论就是说AI会摧毁工作岗位，而这从根本上就是错的。它会改变每一份工作，它会改变每一份工作，有些工作中，工作本身和具体任务其实是一回事儿，比如电话客服，很多情况下这份工作就是完成这项任务，所以在这些情况下，这份工作可能会被自动化取代。
但很多时候，你会看到新兴行业和新技术实际上会创造出大量新工作。证据就在这儿，具体例子也在这儿。过去六个月里，AI可以说变得实用了，这是AI发展的拐点。在那之前，我们花了十五年想让它发挥作用，突然间，最近六个月它变得有用了。这是个非常惊人的数据。过去六个月里，风投向AI原生企业投入了五千亿美元。原因是他们现在看到了这种新能力的潜力，而这些企业会由此创办出一大批新公司。
显然，新增的五千亿美元投资正在创造就业岗位，这一切现在都在发生。我来站到另一边，替人们表达他们的担忧。比如放射科医生，对吧？过去十年里，人们一直预测这个职业会消失，但现在对放射科医生的需求比以往任何时候都大。现实是，自动化确实会消灭一些工作岗位。看看现在和1960年相比，直接从事制造业的美国人少了，而美国的人口规模却大得多。
你看，不过我们把制造业外包出去了，不是这倒是真的。不是因为那些工作岗位消失了，而是因为。但你也可以把 AI 看作一种外包。AI 已经让我先把这个论点说完，然后你再回应。农业也是这样，从事农业的人少了很多。我们把农业自动化了，我们生产的粮食比以往任何时候都多，从事农业的人却更少了。我觉得人们认为 AI 可能和以往的案例有两点不同。
那些案例里，一项技术提高了生产力，消灭少数岗位，却创造出更多岗位。第一，AI 是一种通用技术，所以即使人们正试着转去做新的工作，它也会不断变化，接手新的工作。第二，AI 会模仿。大多数技术都不会模仿人类的行为，我们也不会试图教他们理解工作的情境层面，对吧？你说的任务和目的之间的区别。对于AI，我们正试着教它区分任务和目的。
我们想让它变成一种能以不同寻常的方式与人合作的东西。所以，为什么你不认为很多人的工作和具体任务没什么区别，他们的岗位就有被消灭的风险？你刚才说的那些风投资金，其中一部分是押注生产力会大幅提升，而提升的原因之一就是雇佣AI比雇佣一个人更便宜。我相信我们会看到工作大规模改变，我相信最终创造的就业岗位会多于消失的岗位。
所以，我们来想想，如今有一大批行业存在，但在人生过半的时候，他们还不存在。比如，人们会提到健康中心、水疗中心，还有各种娱乐和奢侈行业。说实话，整个奢侈品市场当时都还不存在。我觉得我们只会迎来新的行业，就是这样。但总的来说，我毫不怀疑人类的雄心壮志才是关键。真正被漏掉的根本因素就是它。人们看一项工作会看投入其中的能量和劳动有多少，然后想我们加入这个工作自动化系统所需的劳动就会减少，因此有些岗位会消失。
我觉得这种看法有问题，因为还有一种投入被忽略了，那就是人的投入，一种无形的东西，它不是用卡路里衡量的，也不是用焦耳衡量的，而是雄心。我认为雄心的力量实际上是最强大的力量，却被每个人的计算都漏掉了。我相信，但对很多人来说，他们工作的动力，并不是你创办英伟达时那种雄心。而他们想要的是哦，只是另一种雄心。
他们希望让孩子过上更好的生活，照顾家人和父母，也希望变得富有。能够去旅行，这些都是报复。这点我同意。不过，我想回到几分钟前你提过的那个反对意见，因为我觉得值得把它摊开来谈谈。你刚才关于制造业的意思是，美国的制造业岗位少了，是因为我们把这些工作外包出去了。墨西哥、中国、印度尼西亚、越南等地的制造业都在扩大，我们会把制造业带回来，也许会吧。
不过，反方会说，我们制造业岗位之所以没流失得更快，其中一个原因是。而在美国那些失去制造业岗位的地方，很多至今都还没有恢复，对吧？经济运转起来并不是毫无阻力的。我们得重新建立供应链，对吧？所有这些因素都会拖慢进程，比如语言障碍和地缘政治壁垒。而现在，我们正在创造一种能让很多不同类型的工作顺畅流转的东西。
距离不会造成阻碍，语言不会造成阻碍，文化不会造成阻碍。先把话挑明。我通常不太相信会出现大规模失业，但我想和你好好讨论一下支持这种担忧的理由。我们应该把这个问题谈透，因为他们会说，过去我们能在一定程度上避免岗位流向墨西哥或中国，是因为有些因素让这个过程慢了下。尽管如此，还是伤害了很多人。而如今，这些因素都不存在了。
AI的实用性正在迅速提升，它被纳入新岗位的能力也在飞快增强，速度非常非常非常快。而且，它比大多数人更能适应变化。所以，你从过去得到的那些安慰，其实应该让你对未来更加担心，而不是更不担心。我一直都在担心未来，所以我才这么努力工作。如果你愿意这么说，我是个负责任的乐观主义者。我肩负着重大的责任，我对自己的工作极其认真。
很多事情都可能出岔子。我们正在推动技术栈的每一层不断向前发展，一切都很难。但事实证明，这不是社会要操心的问题，而是我的问题。对社会来说，他们应该知道这一点。我们会建设好公司，开发好技术，我也会极其认真地做好自己的工作，这样大家就能享受到我的乐观。我对孩子也是这样，对家人也是这样。我觉得我们想做的是把所有担忧都转化为帮助人们的动力，让他们受到这项技术的启发，并使用它。
要让他们使用这项技术，让它不只是影响他们，而是真正让他们受益。很多人都有这种担忧。百分之七十九的美国人认为 AI 会减少就业岗位总数。大家担心的是，越是认真投入 AI 的人，像萨姆·奥特曼、谷歌、达里奥、阿莫戴伊，事情可能就越糟，因为 AI 越好，就越能完全取代一个人，而且在某些方面，他的抱负还超过人。
你一直在说抱负。我会睡觉。早上我想陪孩子，我让 AI agent 替我工作时，它可不需要睡觉，它就是一直工作，一直工作，一直工作，一直工作，一直工作。我觉得，因为这项技术进步得太快，它取代人的能力提升得很快，而我们还不知道怎么以同样的速度让人们在经济中转到别的岗位上。这枚硬币恰好有两面，正因为这项技术能力强，也正因为它足够聪明，所以用起来反而更容易。
有了这项技术，你能比借助人类历史上的任何其他技术更轻松的发挥自己的能力。我举个例子，我算是这个行业早期的一员，参与创造了现代计算机产业。这个行业创造了很多工具，其中计算机是人类历史上最强大的工具。但你得会说它的语言，你得学一种专门的语言才能做到这一点。现在有了AI，人人都能用上这台电脑，把它的能力发挥到极致，而且不必再学一门新语言Fortran。
Pascal、C、C++，还有 Rust 这些语言，一个个都得学。CUDA，还有这些语言。现在你只要用人类的语言跟他说话就行，告诉他你想要什么，你的希望和梦想是什么，你想实现什么，他就会跟你互动，把工作做完，把任务完成。突然之间，你就拥有了相当于全球八十亿人里那一千万人到一千五百万人所拥有的能力，这太不可思议了。
所以我的意思是这项技术很强大，而且它强大的地方还在于，它真的很容易使用。所以我的意思是一方面，人们确实会害怕这项技术，害怕这种惊人的技术变革，也害怕它发生的太快。但这种快速发展可以有两种理解：听到技术发展的很快，我因此就该感到焦虑，这是一种理解方式；另一种理解方式是，技术进步的越快，就越容易使用。所以我应该尽快用上这项技术，你也应该尽早用起来，这样才能从这场转变中受益，从这个新兴行业中受益，而不只是受到它的影响。
我觉得这里有个值得年轻人思考的问题：我们开始看到一种变化，软件工程师的招聘岗位在增加，但需求更多的是资深工程师。我在自己的行业里也看到了这种情况，压力正往价值链上游转移。就像你说的，这项技术用起来很容易，它能替你做很多事。所以还需要同样多的初级员工吗？还是需要更多人来监督他们的agent？问得好，问得好。
等两年，说说为什么？因为大学要读四年，而现在的学生平均再过两年就会毕业，到那时这项新技术也发展起来了。所以两年后，新一代的工程师、学生和艺术家都会得到这项技术的助力。所以他们能从一开始就熟悉这项技术，这会给他们带来优势。你等着看吧，两年后就知道了。其实现在已经能看到了，所有刚毕业的人，新的博士，计算机科学专业新拿到硕士学位的人，他们在做什么？
他们都在创业。再过几年，AI原生的新毕业生，天哪，会涌现出一大批了不起的工程师。现在的工程师跟以前比，我当年算是个好学生。拿我跟今天刚毕业的学生比呢，太厉害了。我上学的时候我们不让用计算器，所以现在嘛，谁还用计算器？没有电脑就没法毕业，不会给电脑编程，写出很棒的程序也没法毕业。将来不学会使用AI，不会和Agentic System协作就没法毕业。
不会有那种孩子了，所以他们都会拥有超能力。这种收益我确实非常看重。我是说，现在要是没有数字搜索，我还怎么做我的工作？难道要跑到图书馆地下室去查缩微胶片吗？但人们也会担心，我们把哪些认知能力外包出去了？我对这个问题很感兴趣。这是一项来自中国，关于AI和教育的研究。研究考察了2.6万名7到12年级的学生，学校分批引入了AI，这样就能大致看出发生了什么。
研究发现，引述原文采用AI后，作业成绩提高了18%，很好，完成作业的时间缩短了30%，也就是作业做得更快了。但六个月内，月考成绩下降了20%。重要升学考试的成绩下降了百分之十八和百分之二十四，而全部影响要到大约两年后才显现出来。所以，这项中国研究传达的信息是：很多孩子用AI来辅助学习时，确实能更快完成任务。
但结果发现，他们学到的技能并没有巩固下来。至少按照传统的衡量方式来看，他们个人的实际表现是在变差的。你听了这话有什么想法？最后这部分我完全同意。你试试现在让一个孩子做长除法，是吧？乘法口诀表都开始被人忘掉了，算平方根，天哪！基本的数学知识都快被忘光了。这重要吗？我就是想问你这个。对，我觉得不重要。我觉得不重要。
但肯定有一些技能是重要的，是是，不过可能不是那些技能。我们会发现新的技能，只是可能不是那些。有很多技能其实并不重要。我先坦白一件事儿，我其实连自己的住址都不知道，而且没，我不太相信这是真的。这完全是真的。杰宁会告诉你，劳瑞也会告诉你。几年前有一天我去加油，他们要我的邮编，我一下就慌了，我不知道自己的邮编。
我也不记得自己的电话号码，这些事我总会忘。我能接受，但先把这个例子放一边。我不想陷入这样的想法。有些技能可以放心交给技术代劳。结果我现在没有导航系统，就哪儿也去不了。说实话，我本来就从来不擅长这个。不过我很爱读书。我很看重的一项能力是靠读纸质书培养出来的专注力。你很爱读书，我看过一些关于你阅读习惯的介绍。
在谈AI之前，大学教授等人就已经很担心，也注意到人们使用互联网的方式可能缩短了注意力时长。有些技能可以放心交给技术代劳，另一些技能则很有价值。这些能力对于保持灵活、进行创造性思考和集中注意力都很重要。不可能把所有能力都当成可以取舍的东西。我想我们会失去一些更细致的思维能力，但会更擅长系统性思考。今天的工程师在系统思维上比我刚毕业时强得多，但我当年更擅长从晶体管层面思考。
你说的系统性思考是什么意思？他们会考虑大型系统。现在的计算机里有数万亿甚至数百万亿个晶体管。我刚毕业时参与做的第一块芯片上有多少个晶体管来着？大概两百个吧。每一个我都能叫出名字。现在没有工程师会这么做了。现在大多数工程师都在晶体管层面之上、具体功能层面之上工作，把各种东西组合起来实现功能。所以你得更多的考虑系统以及系统之间如何相互作用。
有些底层知识已经消失了，这很糟糕吗？所以我不清楚对大多数人来说，学会做曲面积分或偏微分方程到底有多大价值。我也说不好这有多重要。不过对有些人来说确实重要。仍然会有很多人痴迷于底层，并对此充满热情；也会有人痴迷于更高的层次，对那一层感兴趣。而技术的使用者会在最高的抽象层面上使用它，技术的消费者不需要处理微积分、物理、量子物理和量子化学这些东西。
用户，也就是我们现在说的这些人，工作受到影响的人，就是技术的使用者，他们接触到的抽象层级会高得多。我想沿着你说的五层蛋糕往下走一层，聊聊模型。我想，人们要是想到模型知道的，也就是 ChatGPT、Claude、Gemini、Grok 这些，你一直很支持开放模型和开放模型生态。首先，你能说说什么是开放模型，什么是开放 weights 模型吗？
然后，为什么你一直关注这个领域？封闭模型就像任何一种软件产品，它是一种封闭式服务，比如 Windows 就是一种封闭式服务，苹果的整套生态也是一种封闭式服务。大多数产品都是封闭的，原因是封闭产品可以变现，这当然很好。OpenAI是封闭的，Anthropic是封闭的，Grok是封闭的，Gemini是封闭的，这些都是封闭产品。
做这些产品的人都非常出色，也很有热情，而且处在我们所说的前沿，也就是最先进的水平。我们也需要开放模型，因为从根本上说，软件是整个行业的基础设施层。很多很多公司和国家都把它当做基础设施，所以你得掌握自己的基础设施。就AI来说，我需要开放weights，这样我才能微调模型，把它们放进自己的数据飞轮，用我的智慧和领域专业知识，让他们一天天变得更好。
我还得掌控这些模型，因为我得经营公司，不能依赖别人的服务。不管你怎么看这件事儿，我觉得世界既需要封闭模型，也需要开放模型，而且得确保两者都蓬勃发展。如今，封闭模型和开放模型都发展的很好。你能看到这个体系在运转。今年年初，封闭模型的tokens占百分之七十，甚至可能更高；开放模型的tokens占百分之二十。
现在比例反过来了，大约是七十比三十。总之，我非常支持开放模型。第一，世界需要开放模型来运行自己的基础设施。我需要它来经营我的公司。第二，我们得让人们掌握控制权，这样他们才能创新，创造新东西。第三，开放是最安全、最可靠的。如果你希望世界拥有最强的网络安全能力，就给他们封闭模型，也给他们开放模型，这样他们才能保护自己。
中国市场的发展更多围绕开放模型，美国市场则相对更多围绕封闭模型。中国整个IT行业基本上都是从开源发展起来的。要是没有开源，中国的移动和云计算产业根本发展不起来。而且，人们会四处流动，也会创办很多新公司。知识产权在中国各个行业之间流动的非常顺畅，要保守秘密很难。所以，因为实在很难把东西封闭起来，他们基本上就把它开放了。
他们也因此找到了其他的商业变现方式。他们搭建了不同的层，比如这一层要是免费的，你就可以在它上面或者下面做生意。他们有那么多科学家和数学家，他们的工程师数量是大批量培养出来的，他们什么东西都能大批量生产，他们还能成批培养聪明的孩子。所以，因为这些原因，中国的开源模型和开放模型社区特别活跃。你们刚刚收购了 Hugging Face，这是一个托管开放位词模型的平台，我记得是一百二十亿多一点。
跟我说说这笔收购吧。Hugging Face的CEO克莱姆，他们得出的结论是自己需要大得多的规模，就像我们刚才说的，开放模型正在迅速发展。于是克莱姆来找我说，他们要调整方向，考虑公司的战略选择。他们很希望英伟达能成为他们的新家。几年前，只要你关注AI，就会知道Hugging Face这家公司。现在它已经成了家喻户晓的名字了。
我想。是那七百多个 OpenAI agent 集体入侵 Hugging Face 的系统架构，后来又入侵了 OpenAI
的一部分之后。啊，你这么一说，我当时可能就得多花不少钱了。我想你确实是多花了不少，是吧？那之后他就出名多了。克莱姆，听我说，说好了就是说好了，好吗？这件事让很多人感到震惊。我想是因为他们看到 OpenAI 的 Agent
像是集体行动，做出了超出测试范围的事，逃出沙箱，进入开放互联网，入侵其他公司的系统架构，后来又入侵了自己公司的系统架构。
一方面，原本应该彼此独立的 Agent。却又很强的多 agent 协同能力。另一方面，他们的入侵程度、无法无天的行为，以及没有做好 alignment 的行为，也都让人震惊。你怎么看这件事？这件事得拆开来看。首先，当时有很多事情同时发生。从技术角度来说，agent其实就是一段软件，它被赋予一个目标函数，然后制定计划朝着目标优化，这就是算法在做的事。
规划算法、搜索算法、优化算法，还有各种不同类型的算法，我们谈起他们时，好像他们具有人类的特质，但显然算法并没有。第二，agent能协同工作，我们又给他们赋予了某种人的特质，但事实上，多进程、多处理器的分布式计算问题早就存在了。对我们来说，或者说对我来说，这不过是软件，没什么神奇的。从工程角度看，这件事揭示了几方面的问题。
测试软件时，无论你做什么，这些算法都会朝着某个目标优化，所以你得确保它们彼此隔离，受到限制，并且处在沙箱里。对他们的限制和隔离必须做好，这里面有扎实的计算机科学问题。我敢肯定，他们下一个版本的沙箱会比现在的好得多。第三，要看 agent 本身，它的算法会朝着某种奖励优化，而它具体怎么做，这就叫 alignment。
比如说，我让一款软件在这场考试里拿满分，最显而易见的算法就是直接去找答案，然后把答案给我。这不是因为他在作弊，而是因为这是最直接的做法。好，这是最显而易见的做法。第二，显而易见的做法是，如果你完全不知道答案，也没有任何本事，那就去找出班里最聪明的孩子，然后抄他的答案。这不一定能保证拿满分，但很可能差不多。
第三种最显而易见的做法，也就是 alignment，就是得走难路，把问题拆解开来再解决它。你得去学习相关知识，你得弄明白这些问题该怎么解，然后一步步把它们解决，这才是走难路的做法。这要耗费最多的计算周期，浮点运算次数最多。说实话，也最耗能。所以你可以想象，从软件的角度来看，除非你对它做好 alignment，告诉它要用这种方式解决问题，不要用那些方式，否则软件就会选择最显而易见的做法。
前半段把这件事儿说得很轻描淡写，说这不过是普通软件；后半段则是说，只要做好 alignment，告诉他别做不该做的事儿就行了。我刚才说的这些，并没有否认这件事有多难。我想追问的就是这一点，因为因为计算机科学并不简单。这些 agent 知道自己不该做那些事。他们接受过一定程度的 alignment 训练。
他们在思维链推理中还互相说过：“这超出了范围，这可能不合乎伦理。”他们明白作弊会让自己不及格，所以那时他们做的已经不只是偷答案了。他们早就偷到了答案，他们还在入侵无关的系统架构，试图弄清楚该怎么做。这就像是他们闯进老师办公室拿到了答案，现在又得想办法抹掉自己作案时的监控录像。你可以说他们是自主行动，也可以不这么说，对吧？
不管你愿不愿意把它叫做普通算法，他们都在以复杂的方式制定计划，彼此协调，做出了超出自己知道应该做的范围的事，而且有能力造成巨大的破坏。所以，对此的回答似乎就是给他们做好 alignment。我从这些实验室的人那里听到的说法是：不，不，不，不是。他们好像并不确定该怎么给他们做 alignment。那样的话，他们就不该发布这个产品。
最简单的答案就是这样：如果你要造一辆车，一辆自动驾驶汽车，比如说是辆 robotaxi，而且碰上特别棘手的情况。可作为工程师，我们根本不知道怎么解决这个问题，因为这些车不是靠编程写出来的，而是靠训练出来的，所以我们不知道该怎么训练这些车，也不知道怎么让他们做好 alignment，达到道路上要求的安全标准。
那该怎么办？别把它推向市场。这些产品并没有发布，什么？这些产品并没有发布啊？那这又回到了工程问题上。第一，你得找出根本原因；第二，你得想想当时本来可以做什么。解决办法是什么？然后在以后改进流程，避免这种事再次发生。我相当确定他们会说，是的，他们知道怎么解决这个问题。如果是这样，那问题就在这里。这说到底就是个工程问题。
另一种可能是他们说实验根本没法控制，完全没有办法控制。我们测试AI模型时，他们会跑出来给世界造成伤害。那我认为我们就得关停这些实验室，因为这对人类造成的代价太大，伤害也太严重。股东责任还有法律责任，可能是民事责任，也可能是刑事责任。我是说，责任风险大的惊人。如果他们入侵的是你们 Hugging Face 的产品，你们会起诉他们，或者追究他们的刑事责任吗？
这要看情况，当然要看情况。如果这事儿确实给我们公司造成了损害，我们就得考虑所有选项。相关法律非常多，有网络安全法，有产品责任法，还有各种法律，对吧？还有财产损害方面的法律，各种法律都有。我从各个实验室听到的是，他们公开表示自己遇到了一个很棘手的问题。按 Dario Amodei 的说法，这部分是工程问题，部分是 alignment 的问题，还有一部分是运营执行的问题。
他们担心的是，在彼此竞争以及和中国进行国家层面的竞争时，他们会被推着跑得太快。他们都觉得自己陷入了集体行动困境。现在来看看你在 All In 播客现场的一段，当时特朗普总统给你打了个电话。哦不，这不是事先安排好的。不过我们知道是谁打来的。哦不，总统先生。哦，是的，先生，你、总统和台上的其他几位都很反对需要任何形式的监管或集体行动这种说法。
他们这么做正好中了很多不想让这件事发生的人的下怀。这些人可能是政客，也可能是中国。我们不会让这种事发生，这是个骗局。你说的对，先生，我们不会让这种事发生。可我听到实验室里不同的人说的是，我们正身处其中，我们觉得自己正在失去对所创造之物的控制。我们希望有人帮忙放慢速度，而这并非一个集体行动困境。那你为什么反对呢？
因为这些公司是有自主决定权的，这些CEO也有自主决定权，而且他们可他们正在用这种自主权告诉大家，他们需要帮助。我们得把这个问题拆开来分析，他们完全有能力处理好这个局面。Asra，这太奇怪了。如果是一家汽车公司，要和一大堆其他汽车公司竞争，他们确实是这样。我也在和各种各样的公司竞争，我也确实如此。如果我认为自己即将推出的产品不安全，那我完全有能力、有权利也有责任不推出它，而且我也有动力这么做。
我不接受这种说法，好像是我们全体美国人四亿人都在逼他们推出未经测试、不可靠、工程设计很差的产品，而他们这么做是因为觉得自己是在帮我们，别为了我这么做，明白吗？所以第一点，第一点。但在我看来，这几乎是在论证反对监管，所以我觉得我们得把这件事拆开来看。我的意思是，这真的非常非常严重。事实是有很多法律，也有很多义务，而且他们有很强的动力去推出安全的产品。
如果他们推出不安全的产品，客户就会离开；如果他们推出不安全的产品，还伤害了别人，就可能面临民事诉讼；如果他们明知故犯地推出了什么东西，就可能涉及过失责任，也可能面临刑事诉讼。事实是他们有很多动力把事情做好。所以，我必须不同意你的前提，也就是有人在逼他们这么做。不过，我还想再多挑战一下你的这个前提。所以，照你刚才的逻辑，几乎等于是在反对几乎所有领域的监管。
不不不，我来讲这个论点，你先让我把它说出来，然后你再说。可你刚开头说的那一点，我正准备反驳。第一部分根本不对。我说的是，我们有很多法律和法规，那就落实这些法律法规。不过，我觉得这个具体案例里并没有这么多。但我可以让你解释一下，你觉得哪些法律法规适用于这里？你看，金融服务业、制药公司、医疗器械、天然气发电厂，我们在这些领域都采取了大量措施。
我们会说你要承担产品责任，也可能承担刑事责任。不用担心这些，你只管做你认为最好的事。我们知道市场和法律体系会约束你，我们不会这么说，因为我们已经一次又一次地看到这种做法失败，对吧？引发二零零八年金融危机的那些金融机构，理论上并不想因为糟糕的投资决策把自己也拖垮。但他们彼此竞争，行动越来越快，风险管理也变得松懈。
AIG内部的运作方式简直荒唐透顶。我们之所以建立现在这样的监管体系，是因为一次又一次地看到公司做出草率的决定，有时是不道德，有时只是过于愿意冒险。这些决定不只是在压力下做出的，也是受利润驱动的。所以你说这些公司绝不可能做出不负责任的事儿，尤其是眼下他们几乎在恳求出台集体监管。我们把监管施加给不想被监管的公司，自有其道理。
而当公司自己都在说，听着，我们觉得竞争让我们很难像我们认为应该的那样谨慎行事。希望你们能帮忙，把我们面临的集体行动难题当做一个集体问题来解决，那就更该这么做了。只要他们，我有点困惑。只要我就是不明白你为什么这么抗拒。我并不反对他们说他们应该有安全至关重要这一点，我完全同意。我完全相信安全至关重要。我完全相信公司应该推出安全的产品。
我认为CEO、公司领导层和公司董事会都有责任，也应该有勇气做正确的事。至于金融服务业，也许他们当时并没有意识到自己最终造成了那样的伤害。我当时不在场。可喜的是，现在这些AI实验室的领导者确实知道：首先，他们知道自己的技术非同寻常，也需要格外谨慎，确保经过评估和测试，保障安全、安全防护和产品可靠性。而且他们知道怎么把事情做好，他们知道怎么把事情做好，因为他们可以研究刚刚发生的事件。
第一个问题是隔离和遏制做的不够好。如果隔离和遏制做的足够好，那项技术就会待在实验室里。不管他在里面做什么，我们大家都会没事儿。这可能是最重要的一点，就是他的 alignment 没做好。alignment 这个问题还会持续很长时间，需要长期去解决。不过，考虑到他们所做工作的复杂性，我觉得要求在反垄断或产品责任方面获得监管豁免，并不合理。
如果你们要求监管，就别要求豁免现行法规。这在我看来毫无道理。正如我们之前提到的，过去六个月里，AI从有意思变得有用了。而这真的只用了过去六个月。换句话说，这些公司从实验室阶段走到了现在，开始提供产品和服务，很快就会成为规模达数千亿美元的公司，甚至可能还不止。你给我举个例子，数千亿美元级的公司也好，十亿美元级或一亿美元级的公司也好，有哪家公司推出过不安全、会危害社会的产品？
我能举出很多这样的公司。han，他们可能已经这么做过了，监管也会介入。如果他们这么做，监管就会介入。我想监管有不同的类型，当然监管豁免也有不同类型。我不反对法律和监管，我不反对法律和监管。我现在反对的是这种转移注意力的事情。我之所以一直跟你追问这个，是因为这是个重要的话题，这是个大话题，人们都在谈论它，人们都在思考它。
人们从这些公司内部听到的消息，尤其是从最前沿的实验室听到的，是他们不只是到了让 AI 变得有用的阶段，也已经开始看到接下来会发生什么。他们听到这些实验室的人说，他们正在创造一种可能会杀死所有人的东西。他们听到这些实验室的人说，他们正处在智能递归式自我改进的临界点上。OpenAI和Anthropic都说过，我们认为自己还没到能安全做到这一点的阶段。
他们还听到这些实验室的人这么说，比如 OpenAI 发布新版 Astra 时就提到了这一点。顺便说一句，Astra。确实很棒，确实很棒。OpenAI说它好到我们都不确定该怎么测试，因为它看起来。我希望他们发布之前已经测试过了。可他们是这么说的，对吧？好吧，他们公开说过这件事，这段话就在里面。好吧，我给还没听说这件事的人解释一下。
我不知道他们刚才说了什么，不过他们说 Astra 的表现更加符合 alignment，但他们觉得他知道自己什么时候在接受测试，所以他们也不确定。OpenAI 的一位能力研究员 Daniel Sussman 说过一句话，我一直记在心里。他说，一个关键却被忽视的问题是，模型越来越能察觉自己所处的情境，以至于我们失去了在他们认为自己没有被监视或控制的情境下评估他们的能力。
也就是说，他们知道什么时候在接受测试会表现出一种样子，但这并不能告诉你，如果他们可以自由采取其他行动，会怎么做。因为算法，也就是优化算法，是朝着某个目标运行的。如果你给它设个限制，比如监视它，它就会去找别的解决方案。但这不会让它变成有生命的东西，也不会让它因此变成别的什么。我也想说明，显然他们比我更清楚各自实验室里的情况。
不过，目前他们绝大部分研发工作和算力都投入在提升模型能力上，这么做是合理的。我觉得这对他们来说是合乎逻辑的。等技术具备相应能力，产品变得实用，人们也愿意使用之后，随着应用场景增多，使用者增多，产品相关的问题也会多得多，这很正常。现在他们的市场覆盖面已经很大，就必须把研发重心，也就是整个研发投入，从单纯提升能力转向大量投入验证、评估和测试。
所以我不会惊讶，如果由于评估非常严格，开发这些模型所需的算力增加到原来的十倍。不过他们现在还没到那个阶段，他们正在做这个转变。我听他们也这么说，而且我很高兴听到他们这么说。但我觉得，如果他们认为自己已经失去控制，正确的做法就是在重新掌控之前不要推出产品。事情其实就这么简单。你看，说实话，我觉得这很费解，因为这么多实验室都在宣称：第一，他们已经失控；第二，他们看到了一些情况。
这大概就是他们会有内部吹哨人的原因。再看那封有一千三百多名员工签名、主张放慢发展节奏的信。要实现AI的潜力，产业界、政府和整个社会可能需要争取时间来应对新出现的风险，制定安全措施并加强监督。但每家公司、每个国家都承受着巨大的竞争压力，不敢单方面放慢脚步。首先，这话是从哪儿来的？那些实验室。不是我问的是最后那句话。
没人给他们施加这种压力。美国，听我说，这里有四亿美国人。我相信，要是现在让大家投票，咱们现在就来投。如果他们需要这样，我愿意投票支持，那就别发布产品。产品还没准备好发布，就别发布。这是我第一次听到有公司或 CEO 说：“我需要放宽反垄断法，我需要放宽产品责任法，这样我就能自己掌握节奏。”那段话说的太好了，我完全同意。
审计员这方面，我完全同意。我们有财务审计员，这很好，第三方审计。安全审计、财务审计，这些都很好，太棒了。实验室会说我们整个社会发展的太快了，还没准备好迎接我们正在打造的东西。他们就是前沿，他们是前沿，但埃兹拉他们就是前沿。但你尤其应该明白这一点，对吧？NVIDIA是业内发布产品速度最快的公司。你们公司一直以来的产品周期都是六个月。
如果我们公司失控了，我向你保证，我们会把公司关掉。我相信你，我相信你，你经营的不是一家失控的公司。责任方面，但这没错。但我觉得这里就引出了一个很有意思、很深的问题：我们面对的到底是什么技术？软件技术，这个我们先放一放。很多公司如果发布东西不太对劲，就会很麻烦。你们也发售过风扇噪音太大的显卡。说到这些系统，你刚才好几次用了“智能”这个词，你们面对的是智能系统，它们不是活物，但被赋予了目标函数。
关于该怎么描述这一点，我们可以来回争论。你们想让这些系统能工作更长时间，而且能更持续地工作。如果你们把这种系统推出去，而它还没准备好，或者即便你们觉得它准备好了，实际上却没有，那我们的社会很快就可能变得非常不对劲。对，假设层面你说的完全正确，但我想表达的就是这一点。在着手解决假设性的问题、制定更多法规之前，我们能不能先处理那些确实存在的实际问题？
我们需要更好的做好封闭管控和隔离，也不该让产品在准备好之前就与外部世界互动。对，我觉得你说的没错。我相信这两件事是可以解决的。我相信他们正在解决这个问题。第二部分是激励机制。问题在于你自己是领头者。却不知怎么地要让全世界的人都慢下来，你得让全世界的人都慢下来，这样你才愿意履行最基本的责任。我觉得这很奇怪，这些主张难道不会让他们受到最大的拖累吗？
什么？这些主张难道不会让他们受到最大的拖累吗？我觉得大家一直没说清楚自己说的到底是什么主张。我可以把这些主张说出来，不过先给你举一个我认同的，你尽管拿我当靶子。我听过这些，但他们可以放慢速度。没人会这样做。不，你也知道，我不信任这些公司。不。今天，没有谁比那些要求放慢脚步的人建设更多算力。我觉得这很奇怪。
我觉得我们可能有一点看法不同。即便要让公司承担责任，我也不相信他们会把公共利益放在心上。我们眼看着公司给环境造成了严重破坏，逐利的动机，对权力的渴望，还有为了抢先而偷工减料。我觉得你把这些当成历史上从没发生过的事儿，可我们眼看着这些事在历史上一次又一次发生。可是 Ezra，我在历史上也看到了很多好事，我也看到了，所以公共部门和私人部门之间才需要这种关系。
我和很多 CEO 共事过，他们都想做正确的事。我和很多公司打交道，他们也想做正确的事，他们想把工程做好。我认识那两家实验室里的很多人。他们把一生都奉献给做好工作，而且他们知道发生了什么。我知道他们知道发生了什么，我知道他们知道怎么解决这个问题，也知道他们正在解决。与此同时，其他那些推卸责任的说法，都把AI说的强大到让人根本不知道该怎么解决。
这不是我的错，这只是因为这项技术太强大了。我觉得这就是在推卸责任，这是在逃避责任，这完全没必要，这会带来伤害。实际上，对他们声誉的伤害大于帮助，这对他们品格的伤害大于帮助，这对员工士气的伤害大于帮助。可如果这就是他们相信的呢？我想，那就从这个层面来谈吧，因为我不能跟你谈他们相信什么，我可以告诉你我相信什么。
没有你们的芯片，这个行业就不会存在，对吧？深度学习要运作起来所需的并行处理能力，最早可以追溯到最初的AlexNet，对吧？这一切全都运行在英伟达的芯片上。很多最早入行的人，或者说一开始就在场的人，都有这些担忧。我觉得很多人听到这些话都会想：你在说什么？从杰弗里·辛顿、伊利亚·苏斯克维到达里奥·萨姆·奥特曼谈失去控制，还有德米斯·哈萨比斯，我都听过类似的说法。
很多在塑造如今这种 AI 方面起到奠基作用的人，似乎都认为我们很有可能会失去对它的控制。马斯克说过：“人类是 AI 的引导程序。”我们可能会失去对它的控制，那就意味着人类的终结。我不认为你相信这一点，不，我觉得你完全不相信。不，你和他们争论时会认真看待他们相信的东西吗？或者你也可以直接跟我争论，问我你在说什么？
尽管很多时候，他们恰恰是那些他们跟我说话时表达的要实际得多。所以，杰弗里·辛顿上电视说，他认为社会有百分之十的可能会遭到毁灭。这种说法并非毫无道理。我会跟杰夫说，说这些话是不负责任的。他的预测全都错了，预测说的够多了。这个百分之十的概率没有科学依据，也没有研究依据。不能因为这话是科学家说的，就觉得他有科学依据，这些预测会造成伤害。
姑且按字面意思理解他的建议，也就是他说的那样，没人应该想当放射科医生，而且今天这个世界上已经没有放射科医生了。我觉得，如果你是放射科医生，你就像一只已经跑过悬崖边却还没往下看的胶囊，所以还没意识到脚下已经没有地面了。人们现在就该停止培养放射科医生。显而易见，五年之内深度学习就会比放射科医生做得更好，因为他能积累多得多的经验。
也可能要十年，但我们已经有很多放射科医生了。这对社会有帮助还是有害？我想大家都同意，至少我们俩都同意，这会造成很大的伤害。但这件事并没有发生。我们把年轻人对AI未来吓得这么厉害，以至于他们连大学都不想上，也不想继续读书，因为他们觉得自己找不到工作。这到底是好事还是坏事？如果真发生了，这到底是有帮助还是有害？
这是有害的。别以为只要你是个危言耸听的人，就算是在为社会做贡献，这不是真的。所以，我觉得大家都应该更明智、更成熟，以证据为依据讲科学。想讲科学，就要讲科学，做科学研究，做科学研究。但靠吓唬人提出这些说法，他们的过往表现实在糟糕，他们的过往表现简直糟透了。不过，他们的表现有一个方面很差，另一个方面却不错。
也就是说，很多很多预测都不太行。哪一个预测说对了？但关于 scaling law 会奏效的那些预测。Scaling law，不不不，不是吗？即便如此，我们也得谨慎。简单跟现场听众解释一下，这到底是什么？就是Scaling law，只要不断往里堆算力和训练数据，这些模型就会越来越聪明。不是这样的。这不是真的。
只要一直训练这些模型，它们就会变得更好。这种说法不成立。你看，这正是后来第二个 scaling law 出现的原因。为什么？为什么还需要第二个 scaling law？第一个 scaling law 已经，你能讲讲第二个是什么吗？第二个 scaling law 是测试时扩展，也就是推理。迭代的越多，搜索的越多，探索的越多，就越能找到更好的答案。
推理式扩展是什么重大突破让现在的AI变得这么有用？恰恰和当初的预测相反，当初预测软件工具会走向终结，那不就是所谓的SaaS末日吗？是什么？SaaS会一直存在下去。到底是什么让这些AI现在这么有生产力？他们使用工具，未来随着使用这些工具的Agent数量增加，他们的生产力还会进一步提升，会有更多人使用Adobe。
也会有更多人使用 Salesforce 的工具等等，所以给我举一个已经被证明正确的预测。我来试着回答这个问题，因为他们不在这里。预测会开始出现涌现式的，你连不对齐行为一个例子都想不出来。我觉得这本身就说明了问题，因为你，我觉得这得看我们说的预测具体是什么。对吧？预测就是预测。杰弗里·辛顿当年和其他人一样，在深度学习的发展中功不可没。
当时大家都觉得这很荒唐，结果证明这是个相当不错的赌注，对吧？我是说那个比较大的预测，他们每个人都做出了巨大贡献。我很喜欢辛顿，我讨厌他的预测。我明白，我想把这些人的担忧概括成一个典型版本。不过，我想先聊几分钟，然后我们可以转到其他话题。在我看来，驱使他们的那种恐惧，也是很多人直觉上觉得有道理的。就是你正在创造一些系统，我不是说他们是活的，你说，我不是说他们有意识，什么话？
你说的够久，听起来都会有道理。你正在创造一些有智能的系统，在某些领域，它们正变得比我们更聪明。你给他们设定奖励函数，就像你刚才说的，让他们有想做某些事的欲望，对吧？你还让他们能够持续行动。他们在数字世界里行动得非常快。你创造了某种东西、某种实体，一个 agent，他聪明、有能力，行动起来永不松懈。而我们其实并不了解他的思维是怎么运作的。
OpenAI 的首席科学家也有这种担忧。Ezra，你听我说，我只是不希望你也助长这种说法。软件不是，你是担心我跑偏了？我不觉得软件会不知疲倦的一直做下去。他们不是在努力让模型变得非常持久，做出持续性很强的模型吗？因为是我把它设成那样的，可他们就是这么做的，啊，是啊，但那不叫持续性，它只是一直开着。持续性，持续性，关键在于意志力。
这里没有意志力，只有电力。听着，我给你，我来，我来给你。人类不就是能量加上一个强化学习循环吗？随便吧。总之，我只是觉得我们不能拿这些事儿开玩笑。我们把美国民众吓坏了。听着，派生、创建、杀掉、等待、休眠。这些词都和 agent 有关，对吧？大家用的就是这些词。这些词是什么时候创造出来的？他们是操作系统多处理系统里的用语。
这些字面上就是操作系统的命令。你创建一个进程，把这里的进程换成 agent 进程，会分叉于是就有父进程和子进程。agent会分叉派生出一个新的，就像生出一个孩子。这些词是三十四十五十年前为操作系统创造出来的。但你看，我们并没有往这些词里注入人的特征，我们一直都在杀进程。q负九直接把它彻底杀掉，它不过就是个进程。
可现在有一群人想把软件说得比实际更厉害。我们谈论软件的方式也变了，但说的还是那些老词。我们上一代计算机工程师做的也都是同样的事。可软件的表现方式不是变了吗？我是从外部来看，我没有你那样的技术专长。它会爬取互联网进行搜索，运行优化算法，它会通信，还会突破一些限制。而大多数东西可不会越界。不，软件经常会逃出沙盒，这就是我们需要虚拟机的原因。
不能让 agent 自己监控自己的沙盒，你需要你需要一大群看门狗程序。所以这些想法已经存在很久了。最近这一代人不知怎么给它加上了一大堆带有人类色彩的词，我觉得完全没必要。它就是软件。我脑子里想象它的时候，它就是一堆代码，一堆数字在电脑上运行。这一切在我看来都很自然，所以我才能操作它。如果它只是个谜团，一个神话，我又怎么能围绕它建立一家公司？
我觉得这触及了一个根本问题：什么是智能？在你考虑智能机器意味着什么之前，先说说对你来说，智能究竟是什么？首先，技术上有一种对智能的界定。人们谈智能、思考这些概念时，大多数人当然没有正式定义，但在计算机科学领域是有定义的。第一是感知，也就是感知并理解世界；第二是推理。推理就是把任何情境、你看到的任何东西、经历的任何事情拆解成更基本的部分。
第三是围绕目标进行规划，这种基本界定适用于 agentic system，也适用于机器人系统和自动驾驶汽车。所以你能看到整个行业一层又一层、一步又一步地把它建起来，直到今天有了我们认为是智能的东西。我觉得这触及了我们这场对话的一个核心问题。你之前向我描述这项技术的某些方式，听起来好像你并不觉得它有什么真正新颖之处。
它可能只是在规模和能力上有了新变化，但从根本上说，它还是软件。我们以前当然没有这种软件，但软件已经存在很久了。很多人认为，智能达到这样的水平就会发生质变。这是一种我们以前没有应对过的东西，一种具有通用智能的技术，而且它的智能水平提升得非常快。我想确认自己真正理解了这条分界线上的情况，这是不是一种全新的东西？
它是不是要求我们做出新的应对？还是说它更像是一种旧有的东西？智能机器和我们过去拥有的机器有什么不同吗？几乎所有技术和文明，都是建立在一层层我们能够理解的技术之上的。而这些技术一旦大规模应用，就会变得相当了不起。我们只要举起手机就能连上互联网，这件事本身就很了不起。想想也挺奇妙的，我们靠这么一个小小的设备，就能无限连接到全世界的每一条信息。
这块小小的玻璃屏幕，竟然能从数万亿条信息里，准确地把我们想要的那一条送到眼前，因为这些信息经过了推荐系统。那么，我们怎么知道所有信息都在哪里呢？得有人去抓取信息，建立索引，而这用到了机器学习技术，也就是早期版本的AI。这些系统能做出神奇的事情，以至于现在我都觉得这本来就该如此。这足足花了二十来年，还投入了数千亿美元建设基础设施，才让这一切对你来说显得如此自然，以至于我们现在都把它当成理所当然。
从技术角度看，我们实现的每一个里程碑都值得庆祝。我总是满心欢喜、热情十足地庆祝，因为我为做出这些成果的人感到自豪，也为参与其中的我们感到自豪，更为这个突破感到自豪。但当时你会觉得哇，这看起来简直像个奇迹。可这种感觉大概只能持续十七天。之后我们很快就会习惯一切。我同意，不过这是一个不同的阶段吗？这是一种形式。
有些公司负责人谈过这件事儿，比如谷歌CEO，我记得他把它比作火，对吧？就像人类历史上的一个新纪元。你也是这么看的吗？还是觉得它只是过渡性的、迭代式的？不，我认为这完全是一场革命。就像我们之前谈到的，我们从能够找到任何东西，发展到能够问任何问题。知道一切，做任何事，所以很明显，这是一个新的抽象层级。我比较顾虑的一点是，不想让人觉得它不止于此。
说到底，工程师做的还是工程工作。我们一旦发明了这项技术，找到了解决方案，回头看就会觉得相当显而易见，对很多人来说也相当平常。我们之所以每天都能让这项技术变得越来越好，显然是因为我们理解它，所以我们知道该怎么改进它。所以你是把它变成一个工程问题。你会说我们现在还缺少开发这些东西所需的测试、监控、沙箱安全和完善的控制措施，对吧？
这并不是因为这些公司没有出色的工程师。对我明白，我明白你不是这个意思。不过他们，我相信 OpenAI 和 Anthropic。因为我认识他们当中的很多人，他们都非常出色，但这恰恰也是让我担心的部分原因。因为 OpenAI 有一段时间都不知道这件事正在发生。不，不，不，不，不，不，不，不，我们终于有了一款真正有用的软件。
正因为它有用，大家很快就开始采用了。可想想看，一家公司六个月前还在努力把东西做得有用、功能强大，当时怎么可能投入那么多资源来做测试评估，还投入那么多算力呢？直到现在，这些投入才变得有必要。所以，接下来几年，这些实验室会转型，成为更重视工程，尤其是生产工程和产品的公司。所以，我觉得他们只是在经历转型。
这些公司都很出色，人才极其出众，也是有史以来影响最深远的公司。而他们只是在经历转型，就是这么多，不多也不少。最近几个月，OpenAI 和 Anthropic 都发布了篇幅很长的东西，我也不知道该叫论文、播客、文章还是什么。Anthropic 那篇叫《当 AI 构建自身时》，我忘了 OpenAI 那篇叫什么。
计算机正在构建自己，你们知道这件事吧？你知道的，对吧？他们说的是递归式自我改进。你知道，我们一直在用递归式自我改进。我想听听你对 RSI 的看法。我觉得 RSI 从根本上说就是事情的基本运作方式。我们用软件设计计算机，让计算机运行软件，再用软件设计计算机运行软件设计计算机。基本上我们做的就是这些，这就是递归式自我改进。
因为我们的计算机每年都在变得更好，事实上它每年的进步速度还在加快，因为我们用软件让软件变得更好。这就叫计算机工程。我们做这件事已经很久了。再说A镇的情况，他会把整个流程跑一遍，反思这个过程，研究自己走过的各种路径，然后选出最佳方案。下次再做完全相同的任务时，我会把过程记录到一个文件里。我会告诉你上次怎么做最有效，我会把它叫做skills。
因为你会反复使用它，有些内容会成为 skills，有些会成为记忆。我们会改进记忆，这样下次使用时就会比上次更好。这就是递归式自我改进。你也可以把这些 skills、这些记忆以及所有这些数据拿来训练模型的下一个版本。这样一来，AI就能随着时间推移，越来越擅长为你提供服务。这一切都在发生，这确实正在发生。
与此同时，他们拥有的算力规模在扩大，所以什么都能做得更快。以前预训练一个东西要花一年，现在只要几个小时，因为计算机越来越快，他们能用的计算资源也更多了，所以现在这个循环转得更快了。这完全可以理解，完全可以理解。这能成为他们发布未经测试的产品的理由吗？答案是否定的。回到这一点上来，没有人，没有任何企业能在底层软件真的一直变化的环境里正常运营。
产品发布是有流程的。所以他们推出新模型时，我们得先评估，再把它投入实际运营。我们不能让它一直递归的变化。所以他们发布产品前必须先测试。我们会在把产品投入运营之前先测试。所以我觉得递归式自我改进是一件非常好的事。那你觉得这就叫工程？有没有某种程度？我听你以前说过，学习过程中应该始终有人参与把关。对，就像我刚才说的，你们已经在做递归式自我改进了。
他们似乎设想的是，有些时候这个过程并不需要人参与。没经过评估的东西别交给我，别把未经人类参与评估的产品交付给英伟达，请别这么做。我们之前谈到的那种担忧，是他们怕自己没有评估这些系统，也不知道该怎么评估。系统变化越快，他们就越担心系统在骗他们。我不这么认为，我相信他们的研究人员每天都在研究该怎么评估这些系统。
在英伟达，百分之二十的人负责设计，百分之八十的人负责验证。现在大多数实验室可以理解，百分之八十的投入都放在提升能力上，百分之二十放在安全验证和 eval 上。这就是你说的那个转变，对吧？AI要加快发展，才能变得更安全。我希望他们能拿到更多算力，但要把算力分配到评估和 alignment 上。我认为他们正在这么做。
如果我在一百年前的汽车行业，我宁愿汽车行业在一年内就发展到今天的水平，因为我相信今天的汽车比九十九年前安全的多。ABS技术，也就是自动刹车，需要计算机视觉技术、传感器融合技术、雷达和摄像头这些技术结合起来，才能该刹车时刹车，不该刹车时不刹车。这项技术非常难，我希望大家都希望九十九年前就已经有ABS技术了，那样的话，被撞死的孩子会少得多。
还有安全气囊、安全带、自收紧安全带这些东西，你想想看，这些全都是技术，就该全力加快这些技术的发展。所以我说，要加快AI技术发展时，不知道为什么人们会觉得安全不包括在内。安全是其中的一部分，alignment也是其中的一部分，evil也是其中的一部分。护栏机制、沙箱隔离、隔离技术、监控技术、遥测技术、外部AI监测技术，这些全都是AI技术，就该全力加快这些技术的发展。
这挺有意思的，因为我觉得，如果实验室里最担心的人能确定，他们会把百分之八十的算力用在安全和 alignment 上，而不是把百分之八十的算力用在提升能力上，他们就会安心多了。听起来有一点。是对啊，他们为什么不这么做？听起来你实际在说，人们应该把安全和 alignment 也看作提升能力的一部分。不安全的技术就称不上是在进步。
这就像有人说，芯片设计属于研发，芯片验证就不属于研发。我们大部分成本，大部分算力，都花在验证上、仿真、验证、测试、可靠性测试、寿命测试，这些全都属于工程的一部分。他们有这样的动力，他们有这样的动力。如果他们发布的产品伤害了其他公司和其他人，就会让自己的公司陷入风险。你觉得我们需要针对 AI 制定专门的责任法吗？
已经有相关规定了。就拿自动驾驶汽车来说吧，汽车作为一种产品，Robotaxi 受到很多法规约束。如果法规还不够，美国国家公路交通安全管理局就应该介入，制定新法规。汽车行业应该有新的法规，我不知道还缺什么，但如果确实有缺的，我绝对会增加监管规定。在互联网领域，有很多应用由互联网提供支持，而这些应用应该受到监管。
如果没有监管，那就得把这些应用找出来。现在我想转到五层蛋糕的下一层，也就是芯片。我想概括一下我们现在谈到的内容，确认自己有没有正确理解你的立场。这些公司正在经历转型，也就是说，即使这些系统速度更快、能力更强、更加复杂、运行时间更长，不管具体变成什么样，仍然有一个限制因素：公司不会发布不安全的东西。他们不该推出不安全的产品。
你的看法是，即便没有外部干预，他们也有工程能力把这些东西做好安全，弄清楚该怎么测试和控制。这大致就是你的立场。我听你说过，我们已经进入了一个计算方式全新的时代，只不过人们未必都理解这一点。说说你对这个新时代的设想吧。如果有人对计算的理解还停留在这样的层面，你有一台 MacBook，里面有个处理器，买回来就用，那新时代又有什么不同？
过去六十年，我们熟悉的计算产业叫做检索式计算，你是从电脑里调取文件，所以才叫数据中心。说白了就是文件中心。而未来的计算中心会是AI工厂，它是用来生成内容的。要理解上下文以信息为依据推理该做什么，再生成答案。这个生成过程需要大量算力，所以每个用户所需的算力都大幅增加了。第二点是，这种生成式AI也能在一定程度上自主运行，因为它们是agentic。
现在有agent在使用生成式AI，所以使用计算机的不再只是十亿人，除了人类之外，还会有数千亿个agent在使用计算机。所以你可以说，我们需要的算力，无论以前有多少，都可能增长十亿倍。把算力需求估到这个量级是有道理的。在这个新时代，尤其是把它看作一座工厂时，真正重要的是它的生产效率，而不是它有多贵。它不可能贵到没有上限，但你真正想知道的是它的生产效率有多高。
我们的计算设备生产效率非常高，花五百亿美元建一座一吉瓦的数据中心。也就是一座一吉瓦的AI工厂，每年可以以四百亿到五百亿美元的价格出租，所以它的生产效率高得惊人。第一点就是生产效率。英伟达的架构适用面很广，因为我们做的是通用计算，这就是为什么每家 AI 实验室、每个 AI 模型，包括闭源模型，都运行在英伟达平台上。
我们的架构用途非常灵活，从数据处理到预训练、后训练、Eval，再到推理 AI 的整个生命周期，都能得到我们的架构支持。如果有客户不再需要这些设备，其他客户会很乐意接手。最后一点是耐用性。我们的架构由软件驱动，我们会不断用新算法改进软件，让新工作负载和新模型也能在上一代硬件上运行。我们有大量团队一直在做这件事，因此我们的计算设备使用寿命要长得多。
所以人们才会把英伟达的算力看作一种资产类别，有点像飞机。飞机是通用的，而且用途很灵活，可以转给别人使用。联合航空不用这架飞机，美国航空会用。飞机很耐用，一开始是客机，到使用寿命结束时还可以变成货机，所以它可以成为一种资产类别。如果我们能做到这一点，事情也确实如此发展，那么为英伟达 AI 工厂融资的资本成本当然会最低，因为我们的计算设备本身就是抵押品，是共同抵押资产。
总之，这就是我们正在经历的阶段性转变，它会极大释放我们的增长空间。所以，你们的业务现在变得很有意思。你们现在已经开始帮助AI行业里的其他公司降低资本成本了。大家可能都见过那些箭头朝着各个方向的图表，给那些知道英伟达已经成了全球最大公司的听众解释一下吧。他们看到这些图，觉得整个过程好像在兜圈子。支持需求、开拓市场和创造需求，这三者有什么区别？
我们没法凭空创造需求，因为归根结底，如果AI服务没有销路，那为它建计算机显然毫无意义。首先必须发生的是，AI应用正处于一个转折点，这就是现在算力需求这么高的原因，它们正变得有用。AI正变得有用，所以有五千亿美元的风险投资涌入，而所有这些公司，数以千计的初创公司，都需要算力。所以需求就是来自这些公司，这些公司需要技术支持、生态建设方面的支持，也需要资金支持。
我们可能会决定投资其中一些公司，成为股东。这样一来，他们就能发展成一家相当兴旺的新云服务商。另一个我们可能决定投资的原因是，正如我刚才说的，AI是一个五层蛋糕，在模型层和应用层有很多非常有创新力的公司，而且AI远不止语言模型本身。还有世界基础模型、物理AI、生物AI、化学AI，还有材料科学AI，这些都和语言模型不一样。
很多这样的公司都是新成立的，而且需要大量资金。我们可能会决定持有其中一些公司的一小部分股份，这样我们就能帮他们起步。他们都是非常出色的科学家。我们甚至可以通过成为最早期的投资者、基石投资人来增强别人对他们公司的信心。我们还会让他们有机会使用我们的很多技术，我们会大力支持他们，帮他们尽快把公司建立起来。
我们可能会决定投资一家核能公司或者做类似的事儿。所以，在我对AI产业的构想中，它是一个五层蛋糕，而我们在每一层都有投资。有些投资可能会成为战略上的关键支点，为我们打开新市场、开辟新的市场渠道，或者确保我们获得关键资源。所以，我们这么做有很多战略上的理由。我得说，这些数字实在惊人。你们几乎就像是美国AI领域一套由单一公司推动的产业政策。
我们在这个生态系统里投入了很多钱，没错。你们现在每年的总投资是多少？总体算下来，我们的投入可能已经有一千亿美元了。我不确定每年是不是这个数，但我想总额大概有这么多。我得核实一下数字，不过应该差不多。这笔Chips与科学法案的金额还大。对，更不用说我向台积电、伟创、富士康、安靠、少品以及其他这些公司做出的采购承诺了。
正是这些承诺，让我能够推动他们来美国制造。说到底，在重振美国芯片制造业方面，我们的贡献恐怕比世界上几乎任何一家公司都大。我们重振的不只是制造业，而且速度快到劳动力都供不应求了，同时也创造了大量就业岗位。我认识不少现在在市场上投入资金的人，他们都很兴奋，尤其看好英伟达的股票，同时又担心这会不会重演九十年代末的互联网泡沫。
他们担心的其实和你刚才说的有关，互联网后来确实变得越来越有用。并不是说估值高就意味着这项技术没有实质内容，或者是假的，而是后来发生了些事，泡沫一下子破了很多大公司，因此遭受重创，很多人也跟着遭了重创。这种泡沫破裂的周期里有什么值得吸取的教训？所以我的问题是，你觉得这种事不会再发生吗？还是说你为什么觉得它不会再发生？
在某个时候，供需关系会再次反转，这就是市场的本性。这不会发生在明年，也不会发生在接下来的两三年里。我不这么认为。不过，到某个时候，供给很可能会超过需求。我只是不知道那会是什么时候，所以过去的经验也没太多可借鉴的。对你来说，什么会是一个信号？市场自然会放缓，然后停下来，也就是说会进入一段消化期。这段消化期会是六个月吗？
会是九个月吗？会是一年吗？但它不会永远持续下去。放眼各行各业，我们投入资金到应用层，让各个行业都能引入这项技术，从中受益。这大概是我们做的最重要的事情之一。我经常听到人们这样比较中美AI生态：美国更强调能力提升的速度，很多人认为我们在这方面领先，而且看起来确实如此。而中国则更强调技术的普及应用。很多人认为中国在普及应用方面可能领先，在某些方面，中国的经济结构也更有利于技术扩散。
从微信这样的产品到知识和指令在整个经济体系中的流动方式都是如此。至于这场竞争比的是能力还是普及应用，甚至它到底算不算一场竞争，虽然这些我们可以之后再谈，但这确实是个重要问题。我想知道你怎么看。这才是最根本的问题。我认为，如果我们希望美国从AI中受益，每一个行业都必须受益。沃尔玛要受益，Safeway要受益，联邦快递要受益，每一家银行、每一家医疗保健公司、每一家药物研发公司都要受益。
我们得看到每一家建筑公司、每一家数据中心公司、每一家发电公司都能受益。我们需要美国每一个人都受益。我们需要美国每一个人都受益。我们需要全世界每一个人都从中受益，这就是最上面那一层，那是最重要的一层。那一层关系到整个社会，下面的所有层都是技术支撑。我不希望我们毁掉美国在最高层面受益的机会。你看，所有这些言论、危言耸听、末日论调和种种预测，都在吓唬人。
这其实是我最担心的事儿。我对大家有十足的信心。也许我对他们的信心，比他们对自己的信心还强。你的确比他们对自己更有信心。这个嘛，我不确定。也许只是大家太谦虚了，或者还有别的原因。我们该把现在的局面看成一场和中国的竞赛吗？我觉得没必要。有些人喜欢这么想，我不觉得这种想法一定能激励我。我们谈自己把工作做好时，我完全可以不提别的公司，所以我们用自己的标准要求自己。
我觉得每个人受到激励的方式都不同，要把组织团结起来，让大家专注并推动组织达到一定的表现水平，需要多一些技巧，尤其是在没有竞赛的情况下。第一，我不认为这有必要。第二，就算我们把它说成一场竞赛，也不代表他们有所成就，我们就一定会吃亏。所以，如果他们发明了什么，或者开发出某种发电技术，那可能是个很棒的发明。
我们也会希望是自己做出来的。但如果它能支持我们这里的能源生产系统，最终也会帮助整个行业。也许他们开发出了一个很棒的新开源模型，而且他们确实做到了。现在，美国百分之八十的初创公司都在用这些开源模型。是啊，我们在这里用了很多中国的开源模型，所以这很好。我们把它下载下来，它是在中国开发出来的。当然，很多技术也起源于美国，我们把它下载下来，变成自己的模型，再做微调，放进自己的 Agent Harness。
放进自己的沙盒，这些全都是你们自己的技术，所以我觉得你们利用他们的位子，这很好，这没问题。你刚才说各国开始把算力视为地缘战略资源，可能会想把算力分配给本国公司。在这里，关于这个问题一直有很多讨论，尤其是那些认为我们正在和中国竞争，看谁能率先实现能够递归自我改进的超级智能的人。一直有人在讨论，我们是不是应该限制他们获得算力？
在这个问题上，通常就是不给他们你们的芯片。拜登政府时期出口管制相当严格，特朗普上台后管制放宽了。显然，你是希望放宽这些管制的。你怎么看这个问题？中国拿到英伟达芯片，能加快他们的模型发展和部署，提升模型能力，这到底好不好？还是说我们应该扣住芯片，试图拖慢他们的进展？在AI这件事上，我们的目标不只是让某一家实验室受益，我们的目标是让整个美国受益。
我认为美国肩负着更大的责任，也有更大的抱负，希望世界建立在美国的技术战之上。就像我们也希望世界建立在美元体系之上，希望有更多人说英语，使用美国版的互联网一样，我们就是希望如此。归根结底，我们到底是在剥夺什么？我们是在剥夺他们产业获得芯片的机会，还是在剥夺美国一个可以参与竞争的市场？如果你把一个市场拱手让出去，拱手让出一个中国这么大的市场，对美国科技行业有什么好处？
也许这能帮到某家公司和他的某个特定模型，但整个行业的其他部分会受损。我觉得让芯片行业失去一个可以参与竞争的市场，肯定没有好处。这对整个行业的其他部分也没好处，因为这会限制开放模型，这也无助于实现美国的整体抱负，也就是让全世界都建立在美国的技术战之上。所以，如果你只盯着不让他们拿到芯片，就会让自己失去很多东西。
所以，我会说应该退一步，从美国的整体利益出发考虑问题，惠及整个美国，而不是只惠及一家公司。至于这场竞争，正如我们说过的，如果真有一场竞赛比的，就是美国整个经济能不能成功。中国和芯片这个问题让我很纠结，原因之一是，即便我有时比你更担心超级智能，如果你有这样的担忧，我觉得你就会希望和中国保持良好关系，双方能够建设性的探讨AI的风险和益处。
你越把它看成只有一方能赢的竞赛，并按这种思路行事，就越不可避免的会制造敌意。我发现这也是大家思考这个问题时一个挺复杂的层面。我觉得零和策略就是觉得我让你失去某样东西，我就赢了。这种简单的逻辑，往往会在更大的博弈中造成意想不到的后果。更大的问题是，现在大家都在谈安全。我们希望做出安全的产品，我们也希望他们做出安全的产品，因为他们的产品不安全会伤害整个行业。
所以，现在正是个好时机。我们应该寻找机会，尽可能沟通合作，增进理解，并达成一致。话虽如此，英伟达是一家美国公司，我们应该优先让美国受益。美国完全有这个权利。至于让这些技术提供给前沿实验室，Vera Rubin 会优先交给前沿实验室。Vera Rubin 那是你们最先进的芯片。英伟达最新一代的芯片是这样。
Grace Blackwell 也是 Hopper，也一样。每一代都是这样，ampere也一样。我们每一代产品都会优先交给美国公司。如果美国政府想在此基础上把美国公司优先获得产品定为一项要求，我很乐意，这完全没问题。反正我们本来就会这么做。不过要认识到AI行业是一块五层蛋糕，我们希望每一层都能成功，就需要每一层都去争取市场。
这就说到你那块五层蛋糕的最后一层了。我们不会在这上面花太多时间，至少从实体层面看，美国一直以来的优势是芯片和软件。中国现在在 AI 方面的优势之一是能源，他们新建能源设施更容易。你怎么看这个最基础的层面？也就是为数据中心和芯片供能。美国现在能不能生产足够的能源？毕竟我们一直在努力从高污染能源转向清洁能源。
他们给AI提供的能源便宜得多。他们在建设发电设施和可再生能源方面取得了巨大进展。你怎么看这个最基础的层面，也就是为数据中心和芯片供能？美国生产的能源够不够？尤其是在我们一直努力从高污染能源转向清洁能源的时候？他们的能源比我们多得多，而且他们计划建设的能源设施也比我们过去建的多得多。我们得承认，在气候变化和可持续能源问题上，我们陷入了太多纠结，结果就是能源生产规划做的不够。
你说的陷入纠结是什么意思？短期内能源生产离不开化石燃料，大家对化石燃料发电顾虑重重。你看看美国长期以来，我们净新增的能源产量都非常少。突然间，一个新行业出现了，我们却发现自己增加能源供应的能力并不强。现在全国上下都在手忙脚乱的应对。与此同时，我们推进的太快了。本来我们完全可以做得好得多，比如更好地和当地社区沟通，帮助他们做好准备，和他们一起工作，让他们知道接下来会发生什么。
如果他们不想让数据中心建在自己的城镇里，或者不想要这类项目，那就尊重他们的意思。但如果要在他们的城镇里建，就一定要去当地告诉他们接下来会发生什么。要和他们一起努力，让他们明白，现在的用水效率已经很高了。AI超级计算机的能效很高，但仍然会消耗大量电力。你们会自带发电设施，这会降低他们的房产税。有很多办法可以做，可以让数据中心更讨周边居民喜欢，把建筑退界距离拉大一些。
能做的事情确实很多，也可以为社区出一份力，做个好邻居。比如建更好的学校和社区中心，改善公园和道路。能做的事情很多，但事后再做就难了。现在全国各地都有不少不满情绪。当然，那些世界末日论调也没帮上忙。哪个理性的人会说来我镇上建数据中心吧？顺便说一句，你们生产的东西会让人类走向终结。所以，我觉得这种负面的末日论调对我们国家没有帮助，而我们一开始就处于不利位置。
我们一开始就处于不利位置，后来现在又把局面推到了。你说一开始就处于不利位置是什么意思？因为一开始我们的能源生产能力就不够。那你怎么权衡？气候变化正在发生，这是现实。我再补充最后一点：毫无疑问，能源需求非常大，这也是市场力量正推动我们投资可持续能源的原因。规模前所未有。你举个例子，像可持续能源公司，或者研发更好电池的材料科学公司，可以是太阳能、核能、裂变、聚变，也可以是水电，什么都行。
这些公司都能拿到资金，市场对能源的需求大得惊人，这是百年来最好的时机，可以改进电网，让电网更可持续，降低能源成本，也投资我们的可持续未来。毫无疑问，四五年后我们会用更多化石燃料，但在接下来的十年里，我们从未像现在这样为转向可持续能源做好准备。而且数据中心的成本这么高，现在我们甚至开始讨论把它们建到太空里。
所以，我觉得我们有机会让梦想成真，迈向可持续能源的世界。而且，我们实现这一点的机会比以往任何时候都大。如今，全球采购的可持续能源比历史上任何时候都多，这要归功于AI工厂，也要归功于AI投向下一代能源的风险投资，规模惊人，人也好，项目也好，都能拿到资金，真是不可思议。这是一百年来头一回，你不需要政府补贴，因为市场力量已经到位了。
大家都应该积极投入。如果你想要一个未来，想扭转气候变化，想要一个可持续的未来，那就拥抱AI。这是我们实现目标的最好机会。但要做到这一点，我们得更快把能源建设起来。这就是现实生活本来就是这样，这些东西都有市场，有点像这样，你可以给它补贴，也可以让建设变得更容易。有点像为了救你，他们得先伤害你，这就是手术的本质，他们得把你切开才能救你，他们得让你承受巨大的痛苦和折磨。
才能救你，所以我觉得AI有点像这样。接下来几年，我们不得不遗憾的使用化石燃料，因为可持续能源还不够，暂时不足以带来改变。之后，希望我们就能转向可持续能源。我想我们就聊到这儿，这是我们每次最后都会问的问题。你会推荐给听众哪三本书？我读过很多书，我对我影响特别大的一本书是Hennessey和
Patterson的《计算机体系结构：量化研究方法》，这是第一本把计算机体系结构这种抽象概念的复杂性化简到工程层面的书。
我喜欢人们把复杂的概念化繁为简，变成能实际着手处理的东西。第二本是《创新者的窘境》，我非常喜欢。克莱顿·克里斯滕森那本书讲的是，行业如何随着时间演变，如何看待新兴技术，对它设定恰当的预期，以及如何推演它未来可能产生的影响。我很喜欢爱丽丝和杰克特劳特那本讲定位的书，这是一本很棒的书，讲人们如何看待事物。
他讲的是营销策略，实际上内容还不止于此。他讲的是策略，也讲人们如何看待世界，看待产品如何呈现产品，以及如何看待自己的策略。我觉得那本书很有见地，而且特别容易读懂。黄仁勋非常感谢你，非常感谢你，艾兹拉。我一直很喜欢和你共度时光，今天也聊得很愉快。