你看这些趋势,开源将变得越来越流行,它会缩小差距。但另一方面,也不一定要完全消除这个差距。我认为基础设施初创公司的机会始终在于识别一些核心问题并解决这些问题,从而在这些领域做到卓越。但后训练(post-training)将继续增长,因为它在提升已有强大AI模型的能力方面非常有效,特别是在特定任务上表现卓越。
颜先生,很高兴见到你。谢谢,也很高兴来到这里。我想我今天传达的信息有几个要点。首先,基础设施正变得越来越复杂,原因有很多:硬件变得更为复杂;应用也变得更加复杂;硬件和应用层面的创新速度大幅加快。此外,人们追求极致效率,因为运行AI工作的成本非常高昂,所以一切都很紧张、紧密耦合且高度集成。因此,你需要作为一个庞大的系统来开发所有东西。
其次,关于AI是否突破不同系统的网络安全问题有很多讨论,以及AI对社会和人类整体有多危险的问题。我认为我们的立场是退一步思考:归根结底,AI是一个系统、一种工具。是的,它很复杂,会以我们意想不到的方式行事,但这并非首次出现这种情况——互联网和大型分布式系统也曾以不可预测的方式运行。我们应该专注于尽可能多地从这些攻击中吸取教训,利用这种理解来提高安全性,引导系统实现我们想要的目标。
但我们永远不要忘记:归根结底,这些都是工具,旨在提高我们的生产力并改善我们的生活。针对你的第一个观点,我们看到许多垂直整合的公司优化AI堆栈的每一层。你认为AI基础设施初创公司的机会在哪里?
我认为基础设施初创公司的机会始终在于识别核心问题并解决它们,从而做到卓越。同时,当你专注于新兴问题时,会有更大的机会。许多公司正在做的一件事就是关注这些新兴的工作负载。我认为很明显的一点是后训练领域,过去一年多里许多公司进入了这一空间,但后训练将继续增长,因为它在提升已有AI模型能力方面非常有效。
此外,这也由以下事实驱动:目前有许多竞争激烈的开源基础模型(base models),其中许多来自中国,你可以利用它们进行后训练以显著提升其能力,并在某些任务上超越最佳专有模型的能力。另一个领域是数据,特别是多模态数据(multimodal data)。因为现在你将拥有越来越多的多模态模型和应用,我认为更好地处理视频、图像、文本和声音等数据将是一个日益严峻的挑战。
第三点与上述两点相关,涉及机器人领域。目前该领域仍处于早期阶段,许多公司仍在构建自己的模型。因此,拥有一个开源堆栈或专为机器人应用设计的成熟堆栈非常重要——在这里你不需要构建拥有万亿参数的模型,这更具可操作性。我认为这是一个重要的机会。
另一个相关领域也是数据方面:目前移动数据的挑战很大。即使是在训练过程中,由于GPU和AI芯片的稀缺性,即使是大型公司也需要从不同的云提供商获取资源和GPU。也许你会建立自己的数据中心。因此你需要将这些整合在一起,使其易于使用并在不同的数据中心和集群之间进行训练。
这涉及到如何提供一定的可移植性,这也是Sky Pilot正在做的事情之一:如何在这些位置之间高效地移动数据。因为训练涉及数万亿甚至更多的token,所以我认为这些都是需要考虑的方面。
例如,我们看到AI实验室之间确实竞争激烈,并加速发布新模型的步伐。你认为像前沿闭源模型与开源模型这样的演变格局中,它们最终会缩小差距吗?模式的可防御性如何?
首先,如你所知,我是开源的坚定支持者。我做的很多事情都是开源的,因此我的观点难免带有这种色彩。回答你的问题:我认为规模更大的实验室……这需要资本。正如你所见,如果你能匹配他们的资金,或者即使他们拥有更少的资金但足够多时,他们可以创建具有竞争力的模型。这就是为什么直到今天,没有任何一家实验室能够绝对主导市场——它可能主导几个月,但随后情况会趋于平衡。
人们甚至忘记了就在去年年底(也就是几个月前), arguably 最好的模型是Gemini……还记得吗?所以从专有模型来看,你看事情变化有多快。在二月及之后的几个月里,显然是Claude……然后是Llama(注:原文fable应为Llama),接着是Astra,这是一个很好的编码模型。现在可能稍微好一点了,你还有Opus 5.5,也非常好……
关于编程,历史表明迄今为止没有哪家公司证明过除了资本之外还能建立某种模式。这非常重要,因为你需要资金,然后才有收入,所以这是一个巨大的商业模式。但在技术层面,即使看看中国的模型,去年二月大家还在热议DeepSeek,让所有人惊叹不已。但现在已经出现了GLM 5.3和Kim 3等模型,在某些任务上 arguably(可以说)比DeepSeek更好。这也让我思考,因为至少到目前为止,各大实验室尚未积累起这种可见的技术模式或类似的东西。这意味着开源仍然有机会,我也希望有人会说,看看趋势,开源正变得越来越流行并缩小差距。
但另一方面,不一定非要缩小差距。因为对于每个任务都有一个门槛,如果模型足够好,能解决该任务即可。那么在该任务上强十倍或能力强十倍就不再重要。就像汽车,如果你需要它以每小时100英里的速度安全行驶,这就是你需要的;它能否跑300英里并不重要。如果你的任务不是赛车,而是从圣克拉拉开到旧金山,那么能安全驾驶就足够了。因此我认为会有越来越多的模型,尤其是许多开源模型对于越来越多任务来说已经足够好或绰绰有余。
有些公司如Vercel表示,过去几个月通过他们的AI路由器观察到一种转变:几个月前专有模型占70%,现在开源模型占了70%。乔布斯曾说归根结底是品味的问题,你认为品味也是一种模式吗?我绝对这么认为。品味是人类特有的。比如我总是举的例子:两个人试图向你提供相同信息来解释同一个复杂概念,你可能会发现其中一个人能在10到15分钟内让你理解,而另一个人即使你挣扎了3小时也无法解释或理解。
或者想想当你使用设备时,UX(用户体验)很重要。同样的设备有更好的UX会更容易使用,你能利用其更多功能。在模型传达答案的方式上也是如此。他们如何回应我们、要求澄清任务,这就像人类之间的沟通一样重要。大多数人际问题源于误解。因此对我来说,这是人性的一部分;只要你是为人类构建系统,就需要考虑人的需求,并在他们所在的地方满足他们。这在某种程度上也被称为品味。
是的。我们是否可以说不同AI实验室的优势或模式是因为它们拥有更有品味的天才?但如果这是真的,你就不会有那么多每隔两个月就切换排名的模型了。就像以前谷歌主导市场时是微软,后来微软开始主导。你看事情并不是那样发生的。似乎我们有多个实验室在人员方面拥有相似的能力,我不得不假设他们在人才上相当。当然人们很有才华等等,但我认为资本起了更大的作用,特别是如果你有资金就能吸引人才。看看人们在各个实验室之间如何流动就知道了。
我认为开源之所以重要,是因为它确保创新的扩散,允许每个人做出贡献。目前的问题是,每个实验室只有内部人员可以贡献。当开源运作良好时,这就是它的优势所在,因为你可以让世界各地的人参与进来。就像我举的Linux例子一样,它是在美国构建起来的。我认为这是未来我希望看到的更多开源AI的样子。中国已经有很多了,但应该更多:不仅数据要尽可能开放,用于训练的软件、评估工具都要开源。这样每个人都能贡献并受益。
随着发布这么多模型,辨别模型质量变得越来越难,基准评估和可靠性变得更为重要,这大概也是你在Arena上专注的方向。你对Arena的愿景是什么?我认为对我来说,终极目标是通过更好的AI帮助人们构建更准确的、更可靠的、更可预测且更具成本效益的AI。要做到这一点,根本在于评估:我如何知道对于我的任务来说哪个模型最好?没有评估就无法做到这一点。
Arena相信最好的评估是由运行真实任务的真人完成的,他们试图解决自己的实际问题,并对模型或智能体在完成任务方面的表现表达隐式或显式的偏好。所以这是真实的,不是人工基准。我不是说人工基准不重要,静态基准当然重要,毫无疑问。但我们确实相信,只要我们是为人构建系统,终极的基准就是人类本身。
是的,我认为今天的对话非常有帮助。非常感谢你。谢谢。