就像AI怎么可能如此不可思议地聪明？我们怎么能解决数学领域的千年大奖问题，却连像“写东西”这样最基本的工作都无法自动化？我们拥有这样一个超充能的自动化引擎，却缺乏将其接入所有具有经济价值工作的正确接口。你知道的，如果TypeSafe这家公司消失了，也许人们需要一两年才能真正[音乐]赶上进度。我其实不知道这需要多久。如果模型质量至关重要，那么我们在很长一段时间内都将处于非常有利的地位，但[音乐]嗯，它已经完成了，对吧？就像这改变了技术历史的轨迹。
在进入今天的节目之前，我有一条简短的信息想对听众说：谢谢。如果没有你们选择点击并收听我们的内容，我们就无法为你们带来如此渴望的AI工程、科学和娱乐内容。我们几乎每天都会收到赞助商的接触邀请。但幸运的是，足够多的人订阅了我们，使得所有内容在无需广告的情况下也能维持可持续性，而我们希望保持这种方式。但我只有一个请求：你们能做的最强大、完全免费的事情就是点击订阅按钮。这是我唯一会向你们提出的请求，这对我和团队来说意义重大，我们每周都努力工作来为你们提供空间。如果你这样做了，我保证我们将永远不会停止努力让节目变得更好。现在，让我们进入正题。
好的，我们在演播室，这是一个特殊场合，因为这周我的好朋友Diogo发布了Jev，它已经席卷了整个时间线。感觉如何？你现在是什么感受？>> 情绪上，嗯，从未如此糟糕过。[笑声] 我就像一个疲惫不堪的行尸走肉，因为事情太多了，而且我是技术CEO，所以我有很多火灾要扑灭。但在精神上，我觉得我一直都在说这句话，在过去几年的活动中我也一直在这么说：我觉得整个AI领域就像那个嘉年华里的魔镜屋，每个人都很疯狂。痛苦地说着那些没有意义的最奇怪的话。而感觉就像这一周一样，我与现实更加同步了，人们现在看到了：AI可以比曾经想象的更强大。是的，我们将推动基于AI的经济革命重新回到桌面上，这太棒了，你知道的，这太棒了。开发者们理解了它。是的。我想向开发者和[社区]表达我内心的感激之情，我对整个社区和一切感到非常兴奋。
是的。你昨天说决定优先举行Town Hall（全员大会），而不是那些VIP投资者之类的人，因为你希望确保获得你最多关注的人是工程师和开发者。>> 是的。感觉有点像，“天哪，我现在在和非常重要的人交谈。”我不应该透露是谁，但对我来说这感觉有点不干净。我在某些事情上可能过于真诚了。比如在我巨大的日历事件安排中，要见的人里社区并不是其中之一。你知道的，而在我理想的世界里，应该总是和 community 在一起。我在想，我是否应该在走向你们工作室的路上举办一个Town Hall？然后我想，“不，那太疯狂了。”当然。>> 是的。[笑声]
好吧，你们一直在Discord上举办Town Hall。现在Discord已经有10万人了。你的Twitter关注数据……[清嗓子] 所以，天哪>> 你的推特炸了。你知道这很有趣，因为在AIE上你说，“请关注我。”然后你甚至没有提供你的账号。>> 我是新手，我是新手。>> 但就像那种积极的氛围一样，你不知道如何推广自己。>> 有人指出我发帖说，“天哪，我们上了三个热搜话题。”然后他们说，“那是个人推送流。”当然。对你来说是的。因为这是你点击的内容。嗯，所以好了，恭喜一切顺利。当你有更多细节时我们再谈更多，但对于那些像生活在岩石下或者只是第一次接触的人来说，什么是Jev？[叹气并轻笑]
让我想想。这很难回答。[笑声] >> 好的，如果你想重新问的话我很乐意再问一次。我很乐意就这样讨论它。我要说关于这个问题我松了一口气的第一件事是，我现在不用再向我父母回答这个问题了，因为Chad GPT可以解释它。>> 嗯，所以我的观点是，我们需要一类新的模型。我们并不执着于给这类模型命名。我们要提出的最准确的名称是“系统一”（System One）模型。会有原因的，但我们不称它们为决策模型是有原因的，因为它们将超越那个层面。“系统一”就在那里。我只能说这么多。我们没预料到这会成为我们的重大发布，所以我们还有储备内容。>> 你应该说是低调的研究预览。[笑声] >> 嗯，确实有点对。确实是。但有一类模型我们将其描述为机器原生、系统一、大型可编程的。我认为这些是代码作为消费者的模型类别。[轻笑] 所以，相比于预训练的大型语言模型（旨在为互联网提供自动补全）或RHF模型如聊天机器人指令跟随模型（旨在回复文本），或者RLVR处于与RHF类似的奇怪灰色地带，这些模型的目的是让直接被代码消费的东西成为核心。因此得名TypeSafe（类型安全）。所以我们真正想要的是让AI尽可能强大，我们认为做到这一点的方法是将其与软件集成。我们设计的一切——不仅仅是模型的外部，还包括深层内部结构——都是为了优化以服务于软件。
所以第一，Jev是我们的第一个大型可编程模型，或者无论你想叫它什么系统一模型。Jev旨在优化每美元的智能性。因此得名Jev，你知道的，杰瓦德（Jevo）。>> 牛仔裤？Jevans悖论。是的。嗯，它优化了每美元的智能性。我喜欢和人们辩论可靠性、成本、校准速度和智能之间哪个最重要。Jev将是前沿模型的名字，
每美元所能获得的智能。优化它还有其他方式，比如机器学习（ML），或者至少如果你擅长 ML，这一切都关乎权衡取舍。你知道的，我们在这方面全力以赴。”“是的，对我来说，校准是人们以前谈论得较少的一个新兴话题。我们之前做过一期节目，采访过来自 Hugging Face 的 Clementine Fia，他们当时说：‘是的，实际上……’这就是你关于 RHF 的整个论点。他们的模式是坍缩向你最想听到的内容，还是最可能的结果，而不是基于他们自己对某事的内部置信度？”
“我能借机发表一下我的观点吗？还是算了吧？”像……我听说你的观众是最具技术背景的。所以我实际上想深入探讨这一点。如果我为了 Launch 视频中的每一个细节都做到极致的精确和真实，这 apparently（显然）是非常不寻常的。其中一件没人注意到的事情就是 RHF 的缺点，特别是模式坍缩（mode dropping）。”“模式坍缩。”“是的，是一样的。我想最终写一篇关于这方面的博客，但我希望尽可能多地告诉人们这件事，因为我认为这是一个非常有趣的现象。所以，一个大胆的观点：我非常相信 Yan Lun（颜龙）。我觉得 Yanukun 的观点实际上是最接近……”
“关于这个呢？[笑声]”“好吧，我现在应该回应这一点吗，还是你继续说，我稍后再回答？实际上我认为在那些观点中，Yan Lun 是最准确的之一。但他有一张非常有名/臭名昭著的幻灯片，标题是‘LM（语言模型） doomed（完蛋了）’。好吧……你知道那张图，他画了一个饼状图，其中只有一小部分 tiny little thing（微小的东西），并说随着序列长度的增加……出错概率会上升。是的，就是这张图。我很喜欢这张图，因为它看起来在数学上显而易见，但显然又是错误的。”
“它在数学上是显而易见的，但在经验数据中却不成立。这是我最喜欢用来向人们展示……脱节发生在哪里……的地方。”“确切地说？”“我可以解释，或者你想让我告诉你关于模式坍缩的事吗？”“哦不不。所以模式坍缩与此相关。”“是的。”这种脱节发生的原因是，如果你处于覆盖分布或校准过的分布中……你不会因为拥有异常值而受到过度惩罚。你预期的是，你知道的，有些时候你会处于分布之外，有些时候在分布之内。这就是覆盖分布时发生的事情。”
“这在 GAN（生成对抗网络）之前的模型中就是这样，它们生成的图像是模糊的，对吧？而 GAN 则出现了模式坍缩。它们丢弃少数类，只做那些非常常见的类别。这就是为什么这种效应不会发生……”“对吧？为了生成很长的字符串而不犯错，它们需要极其保守，因为当错误发生时很容易被发现。而当一些看起来正确的细微之处出错时，很难被察觉。”“这种校准对于字符串的概率分布来说简直是剧毒。”
“是的。这是一个细微的观点，我认为这就是为什么这种情况不会发生，也是为什么字符串在决策方面表现糟糕的原因。你知道的，让模型过载来做决策并不是一件好事。”“既然聊到了 Han（韩），你同意他的解决方案是通过类似世界模型的 JEPA 类型的嵌入来实现，这是正确的解决之道吗？基本上来说……失败的一个原因是因为你试图在 token 输出上进行推理，然后循环回来继续直到到达句尾。”
“像……他的解决方案是 JEPA（联合嵌入预测架构），也就是 Joint Embedding Prediction Architecture。所以，这是正确的解决方案吗？或者你有什么看法？”“哦 [鼻息声] 伙计，我可能不应该过多谈论 ML（机器学习）的内部细节。但我会说，除了‘疯狂’之外，我的品牌标签是实用主义。你知道的，即使我这里的观点也是实用的……我是缩放定律（Scaling Laws）的支持者吗？”“取决于情况。你知道，缩放定律告诉你投入多少资源能获得多大的提升。”
“但缩放定律意味着为了通常呈次线性的收益，需要指数级更多的资源。这看起来是一笔糟糕的投资，除非这些线性增益是非常有价值的。”[鼻息声]“但对我来说，这一切都关乎我们能利用现有的资源做出多大的不同。我可以骂人吗？”“是的。”“好的，我们已获准成人观看。”“Hell yeah（太棒了）。”
“而且如果我们稍后想深入探讨的话，我们也有一个关于缩放定律的话题。哦，我可以……如果我们要聊那部分，其实现在不是特别相关。”“实际上如果你想听我‘最痛苦的教训’（bitterest lesson），我认为那更相关。但对我来说，一切都关乎实用主义。”“我觉得 JEPA 的东西是非常酷的前沿研究。我真的热爱很棒的研究。但它现在实用吗？嗯，可能不应该说。”
“但就像……我觉得研究界到处都是未经打磨的钻石，因为人们不知道如何做正确的任务。我认为我们的 Launch 确实作为公司开启了新篇章……是的，这会对我们公司很好吗？是的。但我认为这对‘程序化 AI’这一方向来说会更加伟大。”“因为软件被超级加速了，但我认为也会有一场与我们平行的淘金热……关于我们可以以不同方式暴露事物以使软件更强大的各种方法，这样人们可以制作出更酷的东西。”
“然后我们又回到了早期互联网的能量。你知道的，Twitter 上 Jeff……就像……”“这很鼓舞人心，因为它与我们习惯的不同。我们习惯于‘抱歉，你不能这样做’，或者只有大实验室才能做缩放定律相关的事。”“如果我不介意插句话的话……我认为你可能会喜欢这个。”“我们已经讨论了五个岔题了。”“是的，我在所有岔题中都迷路了。”
“这对听众来说会很糟糕，他们很难搞清楚，但他们最终会搞清楚的。”“是的，我们可以剪辑这段。[笑声]”所以，Discord 上流行的一个话题是人们一直问我：为什么我反对安全对齐（safety alignment）？以及为什么我们拒绝……嗯，我没有时间解释这件事。我不是反对安全这一原则，但我认为通常的安全对齐实际上是错位的。”
用户。嗯，拒绝就像明显的类型错误一样。比如你是个人类，正在和一个瓶子聊天之类的，你在云端编码时发生了拒绝情况，“抱歉，我无法读取 DNA.py”，这很烦人。确实挺让人恼火的，但你可以处理它，因为斯德哥尔摩综合征迫使你不得不去适应。我对此也有故事可讲。我需要在这里深入一个岔话题。但如果你想要这样一个在后台运行的依赖项，如果它拒绝了怎么办？如果有人正在使用那个依赖项呢？他们不知道那是什么系统。你希望软件仅仅因为用户发送了一条奇怪的消息就随机崩溃吗？这简直是纯粹的疯狂。
这是来自那些不理解软件、不懂编程的人的想法，他们痴迷于我认为的“无马马车”式的 AI 同事概念，而不是挖掘出 AI 的全部潜力。>> 有道理。你想要的是一个核心的、到处都能使用的内核。 >> 是的，没错。就像认知核心一样，对吧？你需要这个东西非常通用，针对其用例进行了极致优化。你希望它能适应所有未来的用例，以及人们正在做的各种奇怪的事情。显然我们没有针对那些东西进行训练。它起作用了让你惊讶吗？不，因为我的朋友，我们训练的素材比那更奇怪。
但关于安全对齐的一个岔话题是，在我看来，对于像 ChatGPT 和 Claude 这样的产品来说，安全对齐是有意义的。使安全和能力对齐有所不同的是，能力对齐是关于做用户想要的事情，这对软件工程师来说很糟糕。他们希望他们的东西能按预期工作，越可预测越好，这样他们就少需要测试和摸索。但这还远未达到那种程度，虽然有可能达到，但我们希望有更高的可靠性位数，使其变得如此优秀。就像数据库查询一样，你甚至不需要思考它。当你需要智能时，它就在那里。
但安全对齐与指令遵循相反。它是让你去遵守别人的指令，比如 OpenAI 的。这再次对于产品来说很有意义，就像 ChatGPT 应该这样做：如果他们不想进行一些不适合工作的角色扮演，那是他们自己的事。也许他们的用户有父母和孩子，想要这样，那没问题。但在 API 中这就太疯狂了，对吧？这完全不可接受，因为人们需要围绕这一点进行编程。这对用户来说是如此的反向操作以至于我……我能成为一个愤怒的人。所以，呃，我应该试着冷静下来。
人们感受到了你的激情，我认为这很好。我会给出的一个反驳意见是：如果我们用它来杀人怎么办？这就是那个不适合工作的东西，它是私人的、个人的等等。但就像是的，我们会在战争中使用它，这是公司可以合理希望其 API 不被用于的事情。 >> 我理解这一点。我认为在务实的地方可以采取这种观点。我不认为通用技术的基础应该是那个地方。就个人而言，我会希望我们的东西不被用来杀人吗？当然会。我希望它被用于世界上各种伟大的事情，这也是显而易见的。我会为此偏袒吗？是的。但我会在技术层面上这样做吗？绝对不。因为这会分裂智能。每次你需要它去过度拟合某些奇怪的东西时，你都在进一步分裂它的智能。
这些东西现在已经分裂得很厉害了……它们现在真的分裂得厉害。此外，对我来说，我认为智能会更像数据库而不是同事。我不认为数据库有责任检查它们是否被用于什么不好的事情。你知道，中情局（CIA）……我真的不知道他们做什么。你可以想象杀人者甚至不是坏人之类的东西。 >> 嗯哼。而且我不认为这是数据库的责任。此外，有一件让我觉得奇怪的事情是，当人们在 Slack 上注册我们的东西并说：“嘿，我们要部署这个。我们可以部署这个东西吗？”我只是想：兄弟，我们是 API，你是开发者。这不关我的事，对吧？你不应该知道整个任务是什么，因为它应该分解成小事情。
我们不应该能够知道下游用户在做什么，这是给予软件工程师最大权力的良好边界。理想情况下，他们将其用于好的事情， ideally 我们可以帮助他们……我们讨论过开源和慈善等所有这些事情。我们现在绝对没有时间做其他任何事情了。但只要我负责，他们就会从技术层中摆脱任何偏见。 >> 是的，这很好。既然谈到这个话题，我们也简要谈谈你的隐私问题、使用条款等……引起了一些误解。我只想提前澄清这一点。我认为你只需要两句话就能说明：你不会那么限制你的 API。显然，在意识形态上，你把作为平台的角色看得很重。 >> 是的。嗯……我不知道你指的是什么，但我看到了一些关于基准测试的事情。显然我们不会阻止人们做……哦天哪，我应该小心我说的话。我正在意识到 >> 不，你公开说过那是预览期间的事情。你没有在发布时撤下它，现在你要把它撤下来吗？
团队正在做一些我甚至不知道的事情。所以知道团队沟通了这一点很好。我问他们就此咨询律师的意见。显然我们不会阻止人们做那种类型的事情。我极度支持公开基准测试，所以我强烈反对……嗯，我对作为代理的私有基准测试持中等态度。你知道 >> 所以你担心饱和或者在公开基准上进行训练吗？所以就像很容易作弊一样。 >> 嗯，不仅在那里容易作弊，还有很多……呃，我认为我们或者任何与我们竞争的人都知道，你可以说 >> 我们有 50 个 Jev
克隆版本？是的。好吧，当然。那么假设两年后行业内会出现一群与我们做类似事情的人进行竞争……或者我们就这样假定吧。我们要出售的是每单位成本或每秒的智能，比如每一美元或每一秒能换取多少智能。人们痴迷于成本和速度……我认为这很酷，但真正重要的是智能。成本与速度只是负面因素——你为此付费是为了获得某种回报，而真正有价值的是智能。
问题在于智能存在“基因”或本质特征……就像好模型闻起来的样子一样。在我们发布后的两小时左右，发生了一些比视频本身更轰动的事情……那种感觉是：“天哪，这真的可用。”你知道的，超越那个层面之后……（轻笑）发布确实疯狂，人们能真切感受到我们对这件事的投入程度。我认为这才是长期的方向。
我觉得公开基准测试与此背道而驰……它们是建立人们对智能信任的一种方式，因为智能有其本质特征。然而公开基准测试极易被操纵……即使他们试图避免，也依然会如此。回想过去，每个实验室都有团队专门收集类似 MMLU 的数据以美化成绩……这不过是“多此一举的基准测试”。
因此，我认为长期来看需要依靠直觉和信任……直到你将其放入工作流中评估、衡量，并对自己关心的特定工作流程的表现有切身感受。我们的工作就是不断提高可靠性的“九”位数（即接近完美）。这是公司必须持续做的事，我们要竭尽全力让人们知道我们对此极度重视。
如果我们想……我们可以一年半前就发布 Jev，如果那样做很愚蠢的话。（哦，就像你提到的……）最痛苦的教训？架构和……（既然你提到了这个话题……）没错。Sutton 说过，算法大致上胜过算力。显然数据比算力重要得多……而做对任务、拥有北极星指引是最难也最重要的事。
这在 LLM 领域已经发生过两次了……也许是两二次。首先是 RHF，它将任务转向了指令遵循……没人意识到这是可能的。然后是 RLVR 对方向做了微小的调整，而现在轮到我们要做的了……RLCD（强化学习从代码反馈中）。我们有了新任务，目标是在循环中使用程序……
是的，数据的重要性难以置信……我无法强调得更少了。（你觉得你们更像是一个数据实验室而不是模型实验室？这是你们的说法吗？）我们会一直极度重视数据。对我来说，模型能力意味着数据……数据极其复杂，正是它决定了可靠性的“九”位数。你完全不知道数据能如何改变一切……
（哇塞。）所以如果大家在找工作，我们正无限招聘数据处理人员——真的是无限的。（笑声）好的数据人才是什么样的？显然，某人需要关心阅读……比如你们所有合成数据的转录内容。但这只是冰山一角……虽然说是合成的，但我们有大量具备品味和关怀的人审视这些内容……指出错误并重新生成。这就是当今优秀数据人才的样子吗？
让我试着解释一下……这超级复杂，我甚至给新员工做的入职演讲都比这个播客长。我会尝试概括一下：第一，我们不搞那种……其实零号原则是数据和合成数据取决于你的任务。数据的形状和任务的形状决定了数据类型……RLVR 的数据更像是环境，RHF 是人类反馈。每个任务都有独特的数据形态……
第二，我们不想使用用户的数据进行训练，即使我们可以。也许我们现在可以要求任何条款……但我们真的不想要那样。因为现实世界的数据充满了偏见。存在一种幂律效应，人们总是问同样的问题……这会导致过拟合和碎片化。
此外，我们的目标是多年后那种科幻般的未来……这些模型将成为通用基础设施层、层层叠叠深入到栈的底层，甚至是人们无法想象的地方。我想把我们的模型比作 LLM 中的 UDP……而我们的模型是 TCP。各种东西都可以构建其上。我们需要搞定那些未来用例，以便软件开发者能真正构建出未来的事物……
即使我们拥有现在的所有数据……我们也只会过拟合于当下，然后它就失效了。我们需要的是……这感觉就像艺术家研究认知核心一样。我们的认知核心比任何人都更平滑（less jagged）。然后他们找到那些不平滑之处……并以外科手术般精准的方式解决它们。你永远无法完美做到这一点，但他们能在每一个可能的维度上……
通用情况而非精确匹配……这需要每次都要大量的智能。（我们稍微批评了你的思维深受 RLVR 影响，这很公平。让我们谈谈 RLCD……显然你有一些秘密消息源。）据我所知，你从未发表过关于它的论文或类似内容。（没有。还没。）
那么人们应该从中得到什么？你能给人们一些信心，证明你不是为了听起来酷而编造术语吗？对我来说，校准是一件……我认为它已被充分理解，因为我们要涵盖……
我在播客里提过这个，但我不知道你说的“RLCD”和人们熟悉的……是什么意思。这是个很好的问题。实际上我会提一个相关的问题：什么是RHF？其实“RHF”有好几种含义。比如，有一种是指早期的工作，我想大概是保罗·克里斯蒂亚诺教机器人做后空翻之类的？当时好像有这种事。那是原始的PO论文，但我不太确定。嗯……所以据我回忆，PO不一定来自人类反馈。好的。但我相信那是一项开放对齐工作，能够教授难以明确指定的输出结果，比如后空翻。我不百分之百确定。然后还有关于“学习摘要”的工作。你知道的，这是由帮助Instruct的团队所做的一项工作，他们共同撰写了关于指令遵循的论文，即在语言模型上进行PO。
抱歉，我试图……试着操控这个东西。这是2017年的资料。是的。嗯，我不百分之百确定，但这看起来相当正确。如果里面有个机器人做后空翻之类的东西，那可能就是它了。（笑声）是的。好吧，我想我猜对了。太棒了。嗯……就是那个。所以核心思想是：你能用它来做那些难以明确指定的事情吗？这就是第一版。第二版是关于“学习摘要”的工作，由OpenAI做的，实际上是在语言模型上进行PO来做某种难以明确指定的事情。这也是人们所指的RHF之一，但我没有参与那项工作。哦，达里奥在那儿。酷。（笑声）太棒了。还有拉福德。是的，向亚历克和瑞安致敬。我很喜欢他们。
但我所指的RLHF是……哦天哪，我对那篇论文有评论意见。我们离题太远了。嗯……所以真正触动我、我所称的RHF的核心，是指令遵循的任务。重点不在于PO，那部分并不重要。关键在于设定一个北极星方向：这是一个有价值的方向。这有点像“苦涩教训”中的北极星理念，而对我们来说，RLCD是新的任务。我不认为这是行话，我试图精确地沟通。这只是说：嘿，这里有另一个北极星方向。就像DPO及其所有后代一样，尽管它们没有使用那篇论文中的算法，但也遵循RLHF的原则。因此，明确陈述北极星方向就是……“可编程AI”这个词我真的很喜欢。
去除人类在环，因为RLHF是为了这个而进行的微调，以便你可以自动化一切。是的。我在关于“北极星方向”的论点中还有其他遗漏吗？不，你说得对。我的沟通过于细致入微了。唯一的细微差别是：我们需要务实。我们需要意识到语言模型真正擅长什么，你知道的，也就是AI能做什么。比如，可能存在某些编程类型非常厉害（sick AF），但如果技术尚未准备好去做这些事，那就显得太傲慢了。不，不，我强烈相信你的观点。
听起来很傲慢，但我早在创办公司之前就有这种感觉了。我可以作证……我已经谈论这个话题三年多了。是的，我说了很久，因为我以为这会更容易些。人们常说他们不做某事不是因为容易……而是因为觉得它很容易？类似这样的话。我原本以为整个项目只需要一周就能完成。但我大错特错了。所以，对于OpenAI的每个人，我为我之前以为“我现在就能解决这个问题”的想法道歉。
但我认为悲剧之处在于……我认为过度承诺、交付不足也是悲剧，而AI在这一轴线上表现得尤为极端。在我看来，RLVR和RHF都是这一问题的严重制造者。但对我来说，这里潜力巨大。AI显然非常聪明……我也很聪明（笑）。我在演讲中喜欢问人们：为什么AI能如此不可思议地聪明？我们怎么能解决数学中的千禧年大奖难题，却无法自动化最基本的工作？比如那些真正基础、枯燥乏味的事情。这些事情并不需要极其聪明的人来做，而且这份工作也不令人满意。这些人本可以做其他事情，但我们却需要他们去做这些超级基础、枯燥乏味的工作，因为我们还无法自动化它。
我们拥有这样一个超级的自动化引擎，但它缺乏正确的接口来接入所有这些具有经济价值的工作。你知道的，如果TypeSafe这家公司消失了，也许人们需要一两年才能真正赶上。实际上我不知道具体要多久。如果模型质量很重要，那么我们将长期处于非常有利的地位。但这已经发生了改变，它改变了技术历史的轨迹。是的，我们将作为一个领域去探索那个空间。
我完全同意这一点。你创造了可能性。所以我想 paraphrase 一下，以便人们也能理解：你不应该仅仅因为TypeSafe和Jev的成功就认为“好吧，这是一种新的模型类型，我们完成了”，然后回归正常业务。不……实际上还有五种其他类型的模型你应该去探索，“让百花齐放”。绝对如此，其中一些可能也会带来早期的互联网能量。我想这回到了技术乌托邦的时代。不再只是“哦，有时候我的编码代理能工作”，而是最好的那些都被内部囤积起来。不……创作重新回到了菜单上。你知道的，这将是一个疯狂的世界。系好安全带，我对此兴奋不已。
现在你有了资金和动力去实现你的愿景。看到你经过这么长时间的阐述后，最终向世界展示出来，我觉得非常令人欣慰。是的，我一直吊人胃口，这很有趣。我的演讲感觉像是留下了悬念，因为我没有说明自动化是如何发生的。嗯……肖恩审阅了我们的宣言，他说这部分有点模糊（笑声）。你知道的，“第一步是什么？”、“什么是智能？”。我要求你……
模型，然后你说“是啊”，接着是那个……呃，好吧。我主要反对的是“可组合”这个词，但 Bill Pron 说得棒极了。谢谢。我们真的围绕这个凝聚在了一起。我想说我们不像某些公司那样像个邪教，但[笑声]我们对 Butter 做的事情感到兴奋不已。我们的品牌定位是务实的，我们都超级……非常务实。这真的很棒。”
“是的。顺便说一句，这是那个秘密的总体规划图，对吧？机器原生可组合 AI 的形状。”“是你提议做这个秘密总体规划图的吗？”“这是埃隆的风格。当他开始特斯拉时，他说：‘这就是我们要做的。’”“是的。我正式归功于你。”“谢谢。谢谢。谢谢。”
但你知道，你应该告诉我……[笑声] 你也打算做这个模型发布，因为你告诉了我一半的故事，而另一半你没有。当时你们没有 Doom 演示。你没有任何数据可以给我说。我当时就想……“嗯，问题在于我不相信基准测试。”
完全正确。所以这是一种你需要去感受的东西。我认为这是建立长期信任的方式，尽管这让我们很痛苦。你知道去年我们在融资时没人相信我们吗？他们只想要基准测试之类的东西，而我们说我们不这么做。我们有原则，我们会坚持我们的立场：奖励那些不良行为者？我才不在乎你们想要什么。这就是我们是谁，我们会坚守这一点。所以抱歉。”
“嗯，从某种程度上说，我认为选择艰难的道路最终会让你建立起一家你想为之工作的公司。”
“对。否则如果你出卖了灵魂，那你就是在像 OpenAI 那样的地方工作，只是换了一群人而已。[笑声]”“是的。我是说……[清嗓子] 我显然没有太多遗憾，因为结果好得难以置信。”
你知道昨晚我在谈论离开 OpenAI 的原因时情绪很激动。因为发布后我不得不修改措辞。我的原话是：如果发生 AI 寒冬，而我没能尽一切可能去避免它，我会觉得自己个人负有责任。这不仅关乎 RHF 的方向——我认为这扩大了过度承诺与交付不足之间的差距，还因为我没有全力投入这一点。我认为价值将在这里被打印出来。”
这真的很酷，因为我感觉我担心的 AI 寒冬已经避免了。AI 将会是有用的。它将被用于自动化。不到一周的时间，数据就已经不可否认地表明它正在被用于真正的工作。这简直是狂野西部。”
“是的。你能不能凭记忆说说你看到了什么数据？比如注册量之类的，或者任何你可以分享的信息？”“实际上我对所有细节并不是特别清楚。是团队在告诉我所有这些事情。”
我敢打赌这些数据每天都在变化，对吧？”“这简直太疯狂了。”
如果有一个里程碑是你觉得‘是的，这是我们希望达到的’，然后你们达到了吗？”“我会说我们已经跨越的一个里程碑是每日 token 数量。”
这不是那种昙花一现的每日 token。即使在深夜，它也在不断流转。所以你知道，是机器在调用它们，而不仅仅是人们在尝试使用。这太酷了。每天一万亿个 token 是很多。所以超过这个数字是很棒的。”
注册量对我来说其实并不重要。说实话，这实际上是我们犯的一个错误。推特上的人称我们为营销天才等等。那只是我们。我们没有聘请市场人员。我们就做真实的、古怪的……不拘一格 ourselves。我们把候补名单上的人赶出去的速度快得惊人。”
我们的平台团队真的非常厉害。我认为在拥有史上最 unprecedented 发布的同时，我们拥有的正常运行时间位数比 Anthropic 还要多。这简直太疯狂了。所以……致敬[清嗓子]他们。”
“而且我们没意识到的一点是：第一，候补名单。对于开发者平台来说，我认为注册量并不重要。”
我猜其中很大一部分人甚至不是开发人员。所以他们进去尝试一些查询，很多人不理解，因为他们不编程，对吧？他们只是说：‘什么？这不是聊天机器人吗？我的 ChatGPT 在哪里？’但如果……我还没有精确计算过。我觉得如果世界上每个人都只写几个查询，与一个强力用户通过循环创造的价值相比，那只是九牛一毛。”
“关于候补名单我们没意识到的是：我们就把任何人从候补名单上移除。没关系。可怕的是速率限制。”
一旦人们开始从中获得价值，他们就想要大量的速率限制，因为这就是软件的工作原理。你在前期投入精力来指定你的爬虫任务（roach task），然后这个爬虫任务创造的价值超过了其投入，现在你确切地……是的，你在后台运行它，使其成为其他东西的依赖项。你可以构建更高级的东西……然后你就为世界创造了如此多的价值。”
你知道，早期互联网的人可能没有想象到 2000 年代初互联网的奇迹。那仍然不是早期的互联网，但……恕我直言，通过可组合性，所有疯狂的事情都发生了。”
“我只是想在我们的宣言中强调这一点。我们要追求涌现（emergence）。我们想要成为催化剂。我们希望赋能人们，我们将为此尽一切努力。”
无论是像在我的市政厅会议上穿着垃圾袋那样……[笑声]”“嗯，还有播客。你知道我想要长篇内容吗？是的，我们会越过一些肤浅的东西，然后深入探讨。人们会真正信任并理解你的使命……那些产生共鸣的人最终会成为你的一员，或者成为客户。[笑声] 不，抱歉……作为顾客。”
“是的。是的，那很有趣。对不起。”“抱歉。我不是那个意思。”
但无论如何，任何关于这个的非常奉承的版本……你的发布视频有 3600 万次观看。”“酷。现在达到 3800 万了。嗯，是的，这只是个零头。”
Stokes得分74，Fable 5得分为57。关于原版ChatGPT的数据我没有统计，因为当时没有视频记录。如果要在2026年推出一个Neolab产品，我认为你们目前排名第一，这非常惊人。我其实并不在意是否被称为“Neolab”，甚至觉得成为其仿品很有趣，比如印有“Neolab with product”的周边。我更关心的是成为可靠开发者平台的目标，希望超越这些标签，为开发者带来革命性的时刻和可信赖的稳定体验。
我对你们强调的可靠性印象深刻，这不仅指校准或RLCD，更包括正常运行时间、可扩展性以及“九个九”的高可用性。可靠性还体现在智能的一致性上，即模型能否始终如一地执行预期任务。虽然大型推理模型很聪明，但在许多自动化场景中仍缺乏足够的可靠性，无法像实习生那样稳定工作。因此，信任输出结果至关重要，我希望自动化能先处理简单任务再攻克难题。
我渴望达到一种境界：人们无需尝试就能确信模型能正常工作，就像编程中的心流状态。开发者只需编写查询以获取智能支持，对于非平凡的分支逻辑，可以直接在TypeSafe系统一中通过查询获得准确结果。这是我们的梦想，尽管实现这一目标需要漫长的努力过程。
关于API设计中的可靠性问题，我注意到没有提供种子值设置，因此不确定相同输入是否总是产生相同输出。可靠性是一个涵盖性术语，当AI无法自动化某事时，通常归因于类型安全、确定性或稳定性不足。虽然相同输入产生相同输出的“确定性”对单元测试有意义，但我认为它不是北极星指标。
我认为更关键的属性是鲁棒性，即相似输入产生相似输出。语言模型在这方面非常不可靠，测试方法是在提示词中加入无意义的UUID或乱码，观察输出是否保持一致。这种鲁棒性对于避免AI做出错误决策至关重要。虽然确定性在某些场景下有价值，但通常可以为了更优的成本效益而进行权衡。
我们致力于在“每美元智能”的前沿保持领先，为此不惜采取极端措施。虽然有人建议不要将我们的架构称为“弗兰肯斯坦式的模型怪物”，因为带有负面含义，但我认为这种混合策略是必要的。我们持续探索非常规方法以突破成本与智能的平衡点，希望大家能跳出思维定式。目前我们在这一领域处于领先地位，并将继续保持优势。
说一件事，如果人们能说服我们这是一件有价值的事，而且我们没有巨大的 GPU 短缺问题，我们可以制造出像 H 那样的确定性模型。我们很乐意制作所有这些我们要取悦用户的模型，并让 Revolute（Revolution）……你会推翻一切，除非你以一种优雅的方式去做。所以确定性可能会成为卖点之一，但它会让你每美元获得的智能变少。
是的。嗯，只是看到了 OpenAI 和 Topic（可能指某种技术或公司）的发展轨迹，你现在可以相信我，你会因为同侪压力而不得不去做这件事。人们会想要它。即使你告诉他们不需要，他们仍然会想要。所以这就是 TL;DR（太长不看版）的总结。好的，我会喜欢也许有一天我们会看到它是如何发生的。我一直被告知……
他们说我们品牌的一部分是“不可动摇”，而这只是固执的委婉说法。是的，完全正确。我是一个非常固执的人。我认为我们不可能做到那一点（指不坚持确定性）。是的，但就像我之前和你争论过一样。
是的。你每次关于开发者的观点都是对的。好吧，我认输。你赢了。[笑声] 我被说服了，因为我之前和你争论过。不，我的意思是……我认为你可以在坚持立场的同时，如果我给你正确的证据，你可以抛弃你的先验假设，说：“是的，这对我来说很有道理。”所以相信你自己的直觉。
但我怀疑我们会被 GPU 限制很长一段时间。任何每美元智能较低的东西，意味着在相同智能水平下会消耗更多的 GPU 资源。我们的目标不是让公司入驻（虽然这很有价值），而是让人们去实验、做奇怪的事情。我们需要把它尽可能多地交到人们手中，就像加州淘金热一样。
我想现在确实如此。是的。嗯，提个醒。我说出来是因为有人正在考虑这一点：当你说“我们不会承诺确定性模型”、“我们会不惜一切代价追求每美元智能”，并且面临 GPU 限制时，人们会想你可能会量化你的模型。就像你发布时的版本可能会降低精度以减少质量，从而释放内存或带宽等。
所以你可能需要某种承诺（虽然你现在不必做出），比如“我们将保持发布时的模型质量”。人们……我是说，你曾在 OpenAI 工作过，当时推出了所有这些 API。即使是 Claude，当它们首次发布模型时，模型字符串并不总是代表同一个模型。你有版本控制，这很好。但你应该公开承诺某种“一旦发布就不改变”的东西……
我们不会在部署时更改我们的模型。那太疯狂了。我们在乎开发者，如果你在做类似的事情，那是有道理的。再次强调，这是第一方产品和 API 之间的问题。在第一方产品中你可以做任何你想做的事，对吧？祝他们好运，只要体验好就行。但在 API 中，你显然不能这样做。
但我要说，我们计划比许多模型提供商习惯的速度快得多地推进事情。我们将以人们意想不到的速度发布新模型，并且我们不承诺对模型的长期支持，因为我们认为有很多改进空间。所以有可能我们会暂时为当前的 Jev 1.13.0 提供长期支持（LTS）。我们可能会这样做，因为那么多人都在使用它。
我知道开发者讨厌破坏依赖关系。另一种选择是分裂我们的用户群，这对每个人来说都是糟糕的体验。会有 100 个不同的模型版本吗？完全正确。如果我们迭代非常快，也会有很多这样的版本。所以我们最终想要不仅有长期支持的东西……我们想要一种非常酷的方式来做到这一点。
我们在这一方向上有研究正在进行中，我认为这将是最利于开发者的举措。但这还不是我们当前的模型，我也不承诺我们将能够保持完全相同的模型。[轻笑] 它们肯定会每次变得更聪明。我的感觉是，即使在我们已经聪明的模型迭代中……在版本之间，变化往往比调用字符串两次还要小。
但当我们从像 Jev 这样的东西变成“哇”那样的时候，那就是巨大的差异所在。是的。关于长期支持（LTS）模型的一件美妙的事情是，实际上你也可以将它们移植到其他硅片上。我不知道你是否考虑过这一点？没有评论。[笑声] 好的，我在乎每美元的智能。
是的。速度呢？还有速度吗？我们会看到的。是的，我们会看到的。我是说，这是推理技术树的一个部分，在过去的一年里爆炸式增长，你可以迁移到 Cerebras 或 Etched（可能指某种芯片公司）等硬件上，获得十万倍的速度提升。
是的。我认为“每秒智能”是一个不同的指标，我们甚至讨论过像“每美元秒数智能”这样的指标。我猜测 Jeban 悖论会发生，或者至少是 Jev 系列模型会出现这种情况。我在内部追着人们问的是：我不在乎它有多聪明，它需要在“前前沿”（pre-frontier）水平。这就是 Jev 的品牌定位：它是每美元智能的最佳选择，也是每秒智能的最佳选择（注：此处原文逻辑稍显混乱，结合上下文理解为追求性价比和速度的平衡）。
我们会看到的。我认为这是一个引人入胜的事情。我知道有许多行业极度依赖实时处理，对他们来说，“每秒智能”意味着巨额资金，但我们会看到的。我很想两者兼得，让市场来纠正我任何一方的偏差……我想被人们告知情况。是的，完全正确。
这不仅仅是关于实时的问题，还关乎规模，因为在大规模下，每一微秒都会被数十亿甚至数万亿次乘以……这取决于它运行的背景。如果是像大型后台数据库映射生成查询这样的事，延迟可能不像从其中获取智能的成本那么重要。但如果它实际上是……
像面向用户这样需要更实时响应的场景，预算通常控制在100毫秒到1毫秒之间，这简直是魔法般的体验。即使低于100毫秒，如果将时间减半，就能获得双倍的智能或顺序的智能调用次数，从而带来现象级的体验。这种情况现在确实在发生，非常酷。我喜欢“每秒智能”这类用例，但我认为这不会是Jeb的细分领域。“好吧，是的，有道理。那么谈到更快更便宜的前景时，其他模型通常提供的权衡是‘更快但更贵’。没错。”
“对啊。所以我想Jeb之所以引起如此大的共鸣，是因为你在‘更快且更便宜’这个象限里做到了极致。”“这确实是一个未被占领的领域，同时保持智能水平基本不变。”“嗯，是的。‘在保持智能不变的情况下’这是一个非常关键的表述。难点就在这里……”“不幸的是，这基本上意味着你拒绝进行任何公开基准测试，或者你不喜欢关于这方面的公开基准……”
“而且我们需要一些内部评估。”“请再说一遍？”“你需要有一些内部的依据来支撑这一点。”“哦，当然。我们肯定有自己的内部评估体系。但要保持纪律性不去操纵这些结果非常困难，而且必须将其作为最高优先级来避免作弊。我们当然会这样做，否则如何保证我们的模型在每美元智能成本上的优势呢？我们不能盲目行事。”
“如果我们用不同的成本做各种奇怪的事情，怎么比较它们呢？我们会绘制图表并试图找出对用户最好的方案。所以我们确实会测量数据，我不是反对测量的。但是当存在其他激励因素时，这极其危险。这是我铁腕统治的事情之一——也许我的同事认为我用铁腕统治很多事情，但对我来说，不让我们自己蒙蔽关于模型有多聪明的认知是最重要的。我们需要追求真理。”
“是的，同意。”“好的，我想过一些API选择的具体细节，因为这是唯一会问这类问题的播客。你有三个基本原语：choice、score和null……不，首先不是那个，它从哪里来的？”“这是文献里的术语吗？还是什么？”“现在它是……我们对此争论了很多。它本质上是布尔型的，真或假。”
“但它是连续的。”“是的，完全正确。哦，所以这个名字的起源是伯努利（Bernoulli）。”“啊……”“是的，所以它拼写得很奇怪是因为它是伯努利概率的一个子集。这就是它的起源。我们对此争论了很多，喜欢‘peool’，也喜欢‘pool’。我们曾想叫它‘泳池派对（Pool Party）’，但没人让我这么干。”
“你知道的，我们有很多关于这个的其他争论。最后觉得‘new’是最好的选择。我们的理性在于——这对Jeb也是一样的——我们认为我们是一群不拘小节、疯狂的人，程序员并不在乎。如果Jeb只是一个字符串，我们没指望它会流行或有什么双关语。”“实际上内部对这个名字有很多反对意见。除了一个人之外，他们都道歉了……”
“还坚持己见。”“是的，我们的共同朋友。嗯，对、对、对……”“我尊重她这一点。”“是的。她想叫Jeb为‘Meow’（喵）……”“她会这么想的，当然。”“是的。好吧，你赢了那里。”（笑声）
“但是……Reneual是我们必须为这个概念创造一个新的术语，因为如果是布尔型会让人们困惑。所以实际上这三个都是新概念。这些在编程中不存在的类型，这是故意的，因为它们非常接近现有类型但并不完全相同。”“Score不是整数。所以如果你用Instructor或Pydantic等将整数或浮点数映射到Score，你会遇到麻烦。我们非常倾向于清晰度……”
“你是说你不担心这个吗？难道你不想让事物直接集成到人们已经在使用的东西中吗？”“是的，我们确实想。而且我认为你知道……你有与其他SDK等的集成，但抱歉，你有自己的SDK吗？”“是的。例如，作为开发者关系人员，我会非常痴迷于‘这是如何在Instructor中使用Jeb’之类的事情。”“我们可能在某处有这些资料，但我对所有事情都落后了……”
“社区里会有人帮你做的。并不是说你不够成功，人们会说‘哦，这很酷’……”“但我也不认为这是非黑即白的。我实际上把成功看作一个分数，在如何更好地服务社区方面总有提升空间。”“坦白说，这部分让我很有压力，因为我没审阅文档且它们一直在变。但对我来说分数是存在的。”
“Score类似于语言模型评估（LM judging），对吧？所以如果你想叫它‘判断’也可以，但这正是人们已经使用这种类型的方式。也许New可以是一种概率，但对我们来说一切都是概率。”“Choice实际上最接近函数调用，但函数调用是一件非常糟糕的事情。如果你想听OpenAI的内幕八卦我们稍后再谈……”
“Choice只是暴露switch匹配语句的正确方式。”“所以它像映射到枚举一样干净？”“是的。你可以选择将其水合（hydrate）为函数，如果你愿意的话。”“是的。枚举Choice是其中重要的一部分。我认为这些映射到了编程原语：choice映射到switch语句，nulls映射到if语句，scores映射到排序或大于/小于的阈值处理。”
“这一直是我们的愿景：会有更多类型，它们将映射到编程原语。是的。”“还有其他细微差别你想谈谈吗？”
这主要是给那些正考虑真正投入 Jev 的人看的，你们是专家对吧？我只是想为他们提供更多背景信息，比如关于 API 的选择。你知道该如何使用像 Legends Confidence 这样的工具吗？在测试中它们有多关键？或者当你处于这个层级时，你想提供什么样的专业建议。
谢谢。我很喜欢这个问题。没错，这正是我们在这里的原因。真的没想到会有人问这个，事实上，大概几个月前我在入职培训 Devril 的时候也没人问过。这太棒了。
我们的模型旨在深入计算机程序的内部，在未来这一点将变得非常重要。我们真诚地相信，这比人们今天考虑的任何事情都要庞大得多。我们的模型可能尚未为此做好准备，但我们正在持续为那个未来而努力。它永远不会在这些浅层任务上表现得足够好……抱歉，我的意思是，我们不会仅仅停留在攀登这些浅层任务的路上。
我们希望深入程序的内部，因为这才是让软件变得强大的方式。（轻笑）实际上这是输出结果。但所有输入部分，如状态、指令和标准，都可以被结构化为 JSON 对象。这样程序就可以将它们插入到正确的位置，而不需要放入模板中。
完全正确。我认为人们没有充分理解这一点，他们以为这一切都是字符串，这也没关系。但我的意思是，如果你使用模板将其转化为系统消息之类的东西，那你就是在用旧思维思考。我们应该让计算机更容易理解事物，因为这种结构确实存在。
在编程语言中，如果将所有数字都变成字符串再传递进去是很奇怪的。通常只有在有“人在回路”中时，为了打印给人类看才会这样做。但在计算机内部，你希望传递的是处处具有语义的嵌套结构。我们的模型在这方面已经相当优化了。
但问题是，结构的每一个不同嵌套层级都更难进行推理。我们正在朝着这个方向大力研发。我认为人们也应该朝这个方向努力，因为这会让代码更加易读、美观，并且对实现细节保持无关性。就像这里是我的状态……把它想象成一个 AI 函数。
我应该传入哪些子集的状态？也就是所有可用的变量，应该在这里传递什么？系统消息就像令人讨厌的全局变量，你把所有内容都放进去，一次性放入所有指令。然后你希望每一条指令都能被准确执行，而不是并行地提出问题。
好的。另外我真心推荐……我不是从“这能让我赚钱”的角度说的，我是真诚地建议提出大量问题，将其分解得更小，真正地进行拆解。无论模型今天是否能做到这一点，我都相信本周发生的最重要的救赎将是人们的代码库……AI 的代码库将会变得好得多。
你知道，如果你将问题分解为简单的决策，每一个方面都极其易于评估……比如先有一个大的 AI 系统消息，然后也许有另一个大 AI 来检查它是否真的做到了这一点。这太疯狂了。就像斯德哥尔摩综合征一样，但这确实很离谱。
比如你说“不要读取这个子目录”或“不要把任何 API 密钥传递给 DeepSeek”，这些应该基本上通过编程来保证。你知道，你永远无法获得任何机器学习模型的绝对保证，但通过分解问题，你实际上可以衡量它。你可以验证是否真的被调用了……我们的模型接口本身就非常可验证，这应该让人松一口气。
是的，我认为我理解这一点。以前人们不做这件事的原因之一是他们只是调用一个小语言模型……它仍然太慢，与将所有内容分块处理相比成本太高。我自己也做过完全同样的事情……我基准测试了一个填充所有系统提示并只获取一个大输出的管道， versus 将其分解为 100 个不同的部分。
它更慢、更昂贵，效果也不如前者。是的，确实如此。而且这非常不方便，难以驾驭。为什么不把所有东西放在一起呢？你最终可能会在问题之间重复一些内容……所以可能效率不高之类的。（轻笑）但结果却是很难依赖的东西，而软件不需要在后台运行。
如果我们的东西不能在后台运行，我会很心碎的。有没有什么方法可以分解问题，是你们发现有效的 versus 你们认为有效但实际上无效的？（清嗓子）有趣。因为人们现在会探索这个，既然你已经说了这一点……他们会把这个作为参考，心想：“好吧，这就是我使用 Jev 的方式。”
是的。那么问题是如何分解？有趣。我喜欢将其分解为最小的语义单元。也就是最低层级的东西是什么？我尽量不……我在查询模型方面可能是最频繁的，我的提示方式更加结构化和明确（轻笑）。在问题中我总是……我喜欢用反引号，但这适用于所有情况。
你要非常清楚地说明你指的是什么，因为我们希望模型是字面意义上的……因为当你编程时，你需要那些能很好地遵循指令的东西。这就是编程的艺术所在，而 AI 所做的就是扩展可以被执行的指令类型和种类。所以我支持这样做。
我有时有点懒，喜欢混合使用一些方法……但我认为
对于真正大型的生产环境应用，你只需要不断地增加更多的判断条件。你要让添加这些条件变得极其容易，对所有的逻辑拆解保持极高的精确度，然后生成能够完全符合你预期行为的代码。如果我能举一个微小的例子来说明这一点的话，那就是拒绝处理（Refusals）。我不打算讨论我们为什么不直接让模型进行拒绝判断。
我认为你不应该问“我是否应该在这里执行拒绝操作”，因为那是一个非常糟糕的问题，答案往往并不理想。相反，我认为你应该针对各种可能触发拒绝的不同情境提出许多独立的判断问题。这样你就不必依赖猜测，而是可以明确指定你的需求。
如果你发现某个情境下模型没有执行拒绝操作，原因是你没有在任务描述中指定这一部分逻辑，这其实是非常棒的。这正是软件工程的核心所在：通过添加新的判断条件、设定阈值或将其作为测试用例记录下来，你可以永远修复这个“bug”。
与提示词工程不同，软件代码不会因上下文腐烂而遗忘这些逻辑。你可以永远持续地监控和评估这些因素。如果模型在某些方面还不够完美，你可以根据真实案例为这些指标选择理想的阈值。这就像是“没有机器学习的机器学习”，你可以将其应用于任何场景。
当然，有些任务模型目前可能还不够胜任。例如看到有人利用AI进行自动化交易时，我会有些担忧。虽然看起来很棒，但我认为这类高难度的宏观任务目前模型可能还处理不好，即便能处理好，也会因为市场的有效性问题而失效。
你可以将这些任务拆解为更小的部分进行评估。如果发现模型在某方面不够智能，可以选择暂不部署该版本、做出权衡或优先考虑安全性。例如，当模型无法准确识别“带有讽刺意味的VIP客户”这一复杂组合时，应转交人工处理。这也正是置信度估计的意义所在。
关于阈值作为用户可调杠杆的问题，如果校准错误怎么办？比如低值对应低概率、高值对应高概率的设定本身就不准确，导致局部偏差。这时你可能需要微调模型或调整其他参数。目前你们没有提供微调功能，这是否意味着只能通过修改提示词、进一步拆解任务或调整置信度来解决？
是的，模型确实会在很多问题上出错。我们有“报告问题”按钮和Discord社区反馈渠道，希望不断改进。每个新版本都会有显著提升，如果改进不明显我们会停止发布。承认AI在某些方面不完美是务实的做法。
我认为总会找到一些“足够好”的用例。“足够好”取决于具体场景，就像人类尽管在某些工作上表现不佳，但由于期望值高仍能完成大量工作。通过合理的阈值设定和容错机制，即使存在错误，也能处理大量的工作任务。
关于微调的问题，我确实考虑过将其纳入规划。但我有所顾虑，因为人们需要的往往不同于他们想要的。通用模型的优势在于其广泛性；如果为了优化某个狭窄任务而微调，可能会损害其在其他百万种任务上的表现，甚至导致该任务的边缘情况恶化。
我对这些话题始终持务实态度。我的愿景是构建我们真正需要的东西，但我不想发布像某些其他AI公司那样容易让用户自伤的功能。事实上，Open、Claw甚至Gemini都推出过微调功能后又撤回，这表明目前微调更多属于开源模型的领域。
我也知道那些尝试效果不佳，撤回了反而是好事。这确实可能是一个“自伤功能”，告诉人们微调通常不是正确的方向。另一种可能的解释是，我们的模型架构如此不同，就像量化和输出令牌限制不适用于我们一样，微调也不适用于我们。
对此我持开放态度。我必须诚实说明：这不是承诺，而是我的期望。随着每美元所能获取的智能成本越来越低，我们或许能开发出小型的近似智能代理作为替代。想象一下，如果AI带来的单位成本低于编写复杂正则表达式的复杂度，人们不再需要手写正则表达式，那将非常酷。
为了实现这一愿景，某些场景下可能确实需要微调的支持。
窄用例才能真正跨过门槛，我们拭目以待。我的希望是校准能解决这个问题：如果结果非常恒定，那可能是对的；如果在中间地带，就调用更大的模型并由此连锁反应。我不太确定这是否会成功，但我能想象那种场景。另一种我能想到的情况是：假设我们拥有整个前沿模型系列——这是企业可能想要的，或者黑客也能接受处理部分前沿模型。也许企业需要更动态的方案：你可以想象拥有不同规模的模型，根据你技术栈中各部分所需的智能程度来动态选择。
甚至因为我们的方案非常简单，你可以想象在此基础上进行自动微调。“是的。”“完全不承诺什么。我只是在像科幻一样构思。”“但你会考虑不同大小的Jev模型来提供这种灵活性吗？”“绝对会。是的。”比如，我怎么知道人们需要多少智能呢？（笑声）是啊，我也不知道。“需求是无限的。”“嗯，是的。人们现在告诉我们不要发布产品，因为我们不需要发布，因为……”
“已经足够好了。”“是的。但这有点无聊了。我非常喜欢这句话，我希望人们以此衡量我——（喷鼻息）这很难收回来的。”是的。就像文化是你所做的事，而市场并不奖励它。我很喜欢这个观点，因为我认为我们在坚持某种东西。也许未来我们会变得像Visa那样显而易见、无聊得像公用事业一样，没人会特意想到我们。
但我真的想号召世界加入这一愿景。我想继续做酷的事情，不是因为我们需要这么做，而是因为我希望人们意识到这仅仅是开始——那甚至不是开场炮火。它更像是一个低调的研究预览，或者随你怎么称呼吧。机器原生智能将会疯狂发展。所以，你们发布的不仅仅是一个尺寸、一个模型？“绝对不止这些。”
我想满足我们能满足的任何需求，但有一个巨大的前提：我不想像那些把东西往墙上扔的开放产品团队。我希望一切都在统一愿景之下——如果你回顾我们的宣言，我认为所有事情都必须归属于这三类之一。（喷鼻息）“嗯。”“呃，是的。我还没准备好回答这个问题。”“哦，抱歉，问这个真对不起。（笑声）”
我可以只谈谈它。我们的东西有三个步骤，听起来像是在吊胃口。“我希望所有事情都归属于这三类之一。”我们要不断突破边界。这些不是检查清单，而是我们认为构建新技术革命基础的轴线。我希望我们所有的赌注都下在这些领域内。我们将在模型方面做一些奇怪的事情，因为机器原生……
“对吧？Viewans不需要完全理解它。只要有价值就行。”“呃，你知道的……只是给人们一个提示或暗示：‘奇怪’是什么样子的？什么是奇怪的？”“我会给人们一点提示。是的。”“嗯，有些人试图称它们为决策模型。”“好的。”“我们的原语是决策。呃，我不会那样做。因为我认为还有其他类型的机器原生事物不是关于决策的。”
“好吧，就到此为止吧。我觉得这是一个很有趣的提示。”“是的。有些人说：‘我以前做过这个，一年前我就做了决策模型’。Jev并不新，也不酷。”“但我认为……这里你确立的是可能性。至于性能方面——实际上对于基准测试和你得到的数字，据你所知，你仍然在击败每一个克隆体。”“为了澄清，我不在乎基准测试。所以即使我们赢或输……”
“你确立了类别。”“是的，而且我认为决策模型和系统一之间的细微差别正是你想要强调的……”“对。我只想赋予软件工程师超能力，对吧？用AI。对我来说最悲剧的是……在那个AI寒冬的方向上。我觉得太悲哀了，AI如此强大却又未被充分利用。”这让我很激动。
“但……我不想做一个纯粹的技术乐观主义者，认为所有技术都是好的。”我认为现在发生的一切是一种悲剧。我只想为人们打开那些可能性。“是的，我就说到这儿吧。这几天我哭得太多了。（笑声）”不想在录音时这样做。“是的，谢谢你的分享。我觉得人们能看出你非常真实且充满激情。”
“你知道的，从‘TypeSafe AI’这个名字里不一定能感受到这一点。但我想一旦人们足够沉浸于这里——这是你希望世界走向的真正不同的方向，而且你已经完成了从零到一的艰难部分。那么现在让我们一起去往那个新方向。”“是的，我不确定……也许我会认为艰难的部分已经完成了。但我认为还会有更多艰难部分。”
“比如，如果所有东西都被自动化了，我们终于看到GDP增长……每天都像JF派对一样。那么也许艰难的部分结束了？但我认为不会。”“我真的很觉得人们过于关注速度和成本，而不够重视可靠性。可靠性让它令人愉悦；可靠性让你能够信任它。”“你有一句名言……”
我从未见过实验室如此关注全要素生产率的持续增长。但这正是经济革命的本质，对吧？这与OpenAI章程曾经所倡导的理念高度一致。我知道他们的章程内容基本相同，但他们似乎在重新定义目标，比如追求1000亿美元利润之类的。我并不反对开放获取。
AGI的定义原本就不明确，对吧？他们曾试图将其定义为完成世界上大部分具有经济价值的工作。但他们必须回答一个问题：如何在解决数学千禧年大奖难题的同时，却对世界上具有经济价值的工作毫无贡献？我认为目前所有模型在这方面大致持平。
虽然可能已经开始发生，但我猜测占比还不到1%。当这一时刻真正到来时，它将体现在经济统计数据中。这将是令人兴奋的。它不会导致大规模失业，但会引起许多积极的转变，世界会因此变得更好。
我也受够了人工智能总是作为事物的主角出现。我认为世界应该更加美好，而AI只是在其中提供帮助，最好能隐入幕后。正如我在演讲中常说的：2019年的软件如SaaS等极具价值，如今已是2026年，尽管AI如此强大，软件却几乎毫无变化。
除了侧边偶尔出现一个聊天框外，它无法让公司做出有利害关系的决策，因为人们不信任AI做决定。这太荒谬了。这里有巨大的经济动力推动变革，我认为这将是一场“SaaS的逆向末日”。
我想SAS会被这一浪潮极大增强。他们最清楚哪些事情值得自动化，这将会是一段疯狂的时期。是的，我也这么认为。你解锁的是一种美好的事物。
我提到一个概念：什么是“系统一”问题，什么不是？什么是“系统二”问题？这很难回答。现在人们试图用Jev解决一切，这可能行不通，但有些方面确实有效。“Jevey”万物这种说法挺有趣的。
实话实说，这是一个经验性问题，就像缩放定律一样是实证存在的。为什么机器人技术目前难以落地？我认为不一定需要更多资金，而是经验结果尚未显现。从实证角度看，我相信这些预训练的超级智能浓缩体本质上是“系统一”思维者。
我认为“系统一”最能描述LLM的强项。RLVR（强化学习验证与推理）对“系统二”思维带来了巨大进步，令人惊叹且非常酷。我不认为这会导致AI末日，虽然0%的可能性也不准确（那是校准失误），但他们的工作确实将能力推向了极限。
模型表现出的这种特性很奇怪，且非常脆弱。回想ChatGPT时期，人们称赞其通用性强但数学差；如今看RLVR的结果，它极其脆弱且呈现尖峰状。为什么它能做到这种奇怪的事？数学不仅是尖峰的，更是分形的。
这是因为RLVR优化的是基准测试。进入该类别的所有内容本质上都是基准，因为基准是可通过程序验证的简单输出。RLCD则旨在使其适用于程序化使用。对此我有几点想法，如果你认为不对请纠正我。
例如，我在第一天拿到Jev权限时就测试了多跳推理。单步推理非常出色，是业界顶尖水平，你应该只使用Jev进行单步处理。但多跳推理开始失效，且随着跳跃次数增加而单调递减。
回到那个经验性问题：这取决于我们能从模型中提取什么。我们的目标是挖掘尽可能多的智能，通过解锁、平滑和塑造现有能力来填补空白。我们实际上是在发掘这些浓缩核心中已有的属性，并将它们组合在一起以具备所有特性。
现实是我们在发掘尽可能多的能力，“系统一”只是对有效工作方式的描述，在该范式下有效的都带有“类系统一”的特征。我们不使用所谓的字符串潜推理是有原因的，因为模型真正擅长的是在内部进行推理，尽管这并不完美。
潜推理是指在字符串中进行推理吗？我以为是指模型权重内部的推理。人们以前称之为连续推理，或者因为推理轨迹的存在而称为潜推理。
秘密变量，所以它们有点像答案的潜在变量。>> 是的。>> 那么 Secret 现在发生了什么变化？ >> 嗯，对于 OpenAnthropic 来说它仍然是秘密的，对吧？>> 所以 [清嗓子] 没有推理 Jeb。 >> 是的。>> 只要你会这样做，对吧？因为这就像违反了系统一的全部承诺。我的承诺是做任何必要的事情来实现机器原生事物。我可以想象
存在一些推理形式，它们不那么缓慢、低效和脆弱，这些都在我的计划之中。为了清楚起见，我是一个务实的人，我不会像方法那样做出承诺。我承诺的是我的投资回报率北极星指标，我会为之奋斗，就像你知道的那样，这次发布没有发生，我们仍然渴望在世界中占据一席之地。 >> 这很棒。是的。>> 嗯，我认为另一件事是愿景，这是另一个像巨大的能力一样你没有的东西，但也许它永远不属于 C 系统一。>> 我认为我有相当好的愿景。 >> 呃，什么？抱歉。>> 我想我有很好的视野。 >> 不不我在开玩笑。我在开玩笑。[笑声] >> 天哪。>> 是的，
是的。嗯 >> 因为人们显然第一件事他们想要的是视野，因为 Doom 演示，但也就像你知道的除了文本之外的一切都是愿景。 >> 一切都在我的脑海中像 um 并且实际上这是一个辩论谁我们有这个人你的观众可能是伟大的拥有在这个辩论中。有一个问题关于像我们多么试图喜欢
人们认为他们想要什么，这就是我们在秘密状态下做了 2 年的事情。我们只是知道这显然是有价值的 versus 给他们他们说要什么，对吧？和像 uh 有很多维度这个，对吧？你知道的上下文长度是一个例子这个，对吧？嗯每一个模型包括我们的我实际上认为就我能告诉 ours 是像远远
最好的在不降级在长上下文。嗯但就像其他提供商只是喜欢 whatever people wanted, let's just give them the stupid thing. And um like we need to figure out a balance for this because you know like if you take the the former side too far, give people what they want, you end up with like anthropic nanny state style thinking which is very like anti-developer while like
the pro-developer route would be like give them what they want but developers are like we don't want to put the burden on them to figure out the genes of intelligence. So we are trying to like figure out this navigation of like how quickly to release things to still like have our like brand of trust and also like teach our treat our users like adults that can make informed decisions that uh don't
need like nanny stating on top of this stuff. >> Yeah, I think that's fair. >> And and we don't know the answer to be honest. Like uh we'll we'll have to figure it out. It's going to be that's probably going to be like one of my biggest debates over the next couple of days. Yeah. because like we have a lot of stuff. Again, we didn't expect it to pop off. So, we were like, we'll need some follow-up
launches. >> Yeah. I don't know. I don't know if you didn't expect it to pop off. Like I you I saw the work that you put in. Like I have never seen you lock in so hard as like the last two months basically, right? Like >> Well, that's also [laughter] because my chief of staff made me lock in. >> Yeah. Like it's like I have never >> I thought I worked hard before. >> Yeah. And >> no, but like you
were showing up at our writing workshops and I was like, "What are you doing here?" And and like it was useful. It was great. >> You clearly like were very intentional about your launch and the work showed and like congrats. Like you know, um I hope to >> keep locking in is my is my sense. I I want to >> like I think that we've passed many great filters for the the tech world that we're wanting,
but like there's still going to be a bunch more. And like, holy smokes, am I excited to fight the good fight. >> Yeah, it's exciting. Um, before we broaden out to uh topics outside of Typesafe, I just wanted to offer uh any other things that you think like underrated or misunderstood about what you have launched. >> Underrated or misunderstood? >> Yeah, you have panouts, sorry, patterns here. Uh
maybe want to go into that. Um model jaggedness, any anything, you know, >> give me one noodling of it. Oh man, I I would rant about all of these. I I really shouldn't. I really shouldn't. Um, >> and people can come go to your discord if they >> People put a lot of love into the cookbooks is what I will say. The cookbooks have like some fire stuff. We had considered putting a bunch of these things
like in the main launch blog post, but it got kind of long and unwieldy and like very power usery. But like we really um I'll be frank like before the launch um every like what we're saying sounds like sounds like this weird alien tool. Why would anyone need this? You know it was a very weird thing and we were very worried about teaching people about like this new frontier. It obviously succeeded
but like we put a lot of work because we thought that education would be like a gigantic bottleneck for us. Um I it probably works and it's no probably no longer a problem because people are doing things like well beyond what we could ever show you how to use your model. >> Exactly. But like they Yeah. And their use cases are like kind of cooler than ours. Like like there's a bunch of stuff where
I'm like, man, if that was our demo, holy that was way cooler than what we were showing. Um like the computer use stuff. Holy smokes is it cool. Um but like we put a lot of love into this. This is not like AI generated trash as far as I know. We put a lot like it's like a lot of love in here and like each of these are like there's real alpha there like these are inspired by solving real customer
problems that existed and we went through the work of like helping them do cool ass stuff. >> Yeah. How much uh while you're talking about this right how much validation did you do before launch? Like what you know what was that process like? What was that process like? >> Like clearly you did some but obviously you're not getting in touch with as many people as you are today. >> Yes, of course.
Um I actually think that the reception was pretty bad and like actually for the non-technical people in the team they were really worried >> you know like there was a lot of fear. It's like no one really gets this and like you know they don't want it. We're like selling like a vitamin and not like a painkiller. like should we have FTEEs to like write the software around solving that problem? We
秘密变量，所以它们有点像答案的潜在因素。>> 是的。>> 那么 Secret 现在发生了什么变化？ >> 嗯，对于 OpenAnthropic 来说它仍然是秘密的，对吧？>> 所以 [清嗓子] 没有推理 Jeb。 >> 是的。>> 只要你会这样做，对吧？因为这就像违反了系统一的全部承诺。我的承诺是做任何必要的事情来实现机器原生事物。我可以想象
存在一些推理形式，它们不那么缓慢、低效和脆弱，这些都在我的计划之中。为了清楚起见，我是一个务实的人，我不会像方法那样做出承诺。我承诺的是我的投资回报率北极星指标，我会为之奋斗，就像你知道的那样，这次发布没有发生，我们仍然渴望在世界中占据一席之地。 >> 这很棒。是的。>> 嗯，我认为另一件事是愿景，这是另一个像巨大的能力一样你没有的东西，但也许它永远不属于 C 系统一。>> 我认为我有相当好的愿景。 >> 呃，什么？抱歉。>> 我想我有很好的视野。 >> 不不我在开玩笑。我在开玩笑。[笑声] >> 天哪。>> 是的，
是的。嗯 >> 因为人们显然第一件事他们想要的是视野，因为 Doom 演示，但也就像你知道的除了文本之外的一切都是愿景。 >> 一切都在我的脑海中像 um 并且实际上这是一个辩论谁我们有这个人你的观众可能是伟大的拥有在这个辩论中。有一个问题关于像我们多么试图喜欢
人们认为他们想要什么，这就是我们在秘密状态下做了 2 年的事情。我们只是知道这显然是有价值的 versus 给他们他们说要什么，对吧？和像 uh 有很多维度这个，对吧？你知道的上下文长度是一个例子这个，对吧？嗯每一个模型包括我们的我实际上认为就我能告诉 ours 是像远远
最好的在不降级在长上下文。嗯但就像其他提供商只是喜欢 whatever people wanted, let's just give them the stupid thing. And um like we need to figure out a balance for this because you know like if you take the the former side too far, give people what they want, you end up with like anthropic nanny state style thinking which is very like anti-developer while like
the pro-developer route would be like give them what they want but developers are like we don't want to put the burden on them to figure out the genes of intelligence. So we are trying to like figure out this navigation of like how quickly to release things to still like have our like brand of trust and also like teach our treat our users like adults that can make informed decisions that uh don't
need like nanny stating on top of this stuff. >> Yeah, I think that's fair. >> And and we don't know the answer to be honest. Like uh we'll we'll have to figure it out. It's going to be that's probably going to be like one of my biggest debates over the next couple of days. Yeah. because like we have a lot of stuff. Again, we didn't expect it to pop off. So, we were like, we'll need some follow-up
launches. >> Yeah. I don't know. I don't know if you didn't expect it to pop off. Like I you I saw the work that you put in. Like I have never seen you lock in so hard as like the last two months basically, right? Like >> Well, that's also [laughter] because my chief of staff made me lock in. >> Yeah. Like it's like I have never >> I thought I worked hard before. >> Yeah. And >> no, but like you
were showing up at our writing workshops and I was like, "What are you doing here?" And and like it was useful. It was great. >> You clearly like were very intentional about your launch and the work showed and like congrats. Like you know, um I hope to >> keep locking in is my is my sense. I I want to >> like I think that we've passed many great filters for the the tech world that we're wanting,
but like there's still going to be a bunch more. And like, holy smokes, am I excited to fight the good fight. >> Yeah, it's exciting. Um, before we broaden out to uh topics outside of Typesafe, I just wanted to offer uh any other things that you think like underrated or misunderstood about what you have launched. >> Underrated or misunderstood? >> Yeah, you have panouts, sorry, patterns here. Uh
maybe want to go into that. Um model jaggedness, any anything, you know, >> give me one noodling of it. Oh man, I I would rant about all of these. I I really shouldn't. I really shouldn't. Um, >> and people can come go to your discord if they >> People put a lot of love into the cookbooks is what I will say. The cookbooks have like some fire stuff. We had considered putting a bunch of these things
like in the main launch blog post, but it got kind of long and unwieldy and like very power usery. But like we really um I'll be frank like before the launch um every like what we're saying sounds like sounds like this weird alien tool. Why would anyone need this? You know it was a very weird thing and we were very worried about teaching people about like this new frontier. It obviously succeeded
but like we put a lot of work because we thought that education would be like a gigantic bottleneck for us. Um I it probably works and it's no probably no longer a problem because people are doing things like well beyond what we could ever show you how to use your model. >> Exactly. But like they Yeah. And their use cases are like kind of cooler than ours. Like like there's a bunch of stuff where
I'm like, man, if that was our demo, holy that was way cooler than what we were showing. Um like the computer use stuff. Holy smokes is it cool. Um but like we put a lot of love into this. This is not like AI generated trash as far as I know. We put a lot like it's like a lot of love in here and like each of these are like there's real alpha there like these are inspired by solving real customer
problems that existed and we went through the work of like helping them do cool ass stuff. >> Yeah. How much uh while you're talking about this right how much validation did you do before launch? Like what you know what was that process like? What was that process like? >> Like clearly you did some but obviously you're not getting in touch with as many people as you are today. >> Yes, of course.
Um I actually think that the reception was pretty bad and like actually for the non-technical people in the team they were really worried >> you know like there was a lot of fear. It's like no one really gets this and like you know they don't want it. We're like selling like a vitamin and not like a painkiller. like should we have FTEEs to like write the software around solving that problem? We
在发布之前，我们几乎没有收入。嗯，这有点像……技术团队的人显然是坚定的信仰者，对吧？我们知道这个产品非常厉害。它的计算属性在许多维度上都远超预期，我们确信它一定会取得巨大成功。我当时确实非常害怕，这也是我全力以赴的原因。但最常见的情况是，超过一半试用它的人根本不理解它的价值。而那些真正觉得“这太酷了”的人，又会问：“我们怎么通过采购流程把它引进来？”你知道的，这简直是一场艰难的斗争。
我们就知道目标市场将是开发者群体。用户会发现使用场景，然后其他人会因为错失恐惧症（FOMO）而加入进来。我不想用事实的改变来强加于人，但我确实想质疑“产品市场契合度”这个概念。因为当时虽然有产品和市场，当我们问用户是否想用时，他们说不知道是否能解决他们的问题，但产品却突然爆火。
大家都惊呼：“我们需要尽可能多的速率限制！”我们甚至不得不提供GPU，因为资源受限。当然营销是其中的一部分，但我认为这不仅仅是关于营销，而是关于激情。那些灵魂频率与我们共振的开发者激发了其他人的热情。我希望我们公司永远感激这些开发者，而不仅仅是那些从开发者起步最终走向企业的公司。
我甚至在想如何推出对开发者比对企业更好的产品……嗯，我不确定该不该这么说。>> 更好对于开发者而非企业。 >> 没错。我们该如何做到？如何赋能他们？我有厨师，但我……这很奇怪，我不知道还能怎样表达我的感激和忠诚。所以我昨天染了头发。我想和他们交流，因为在公司最重要的时刻不与他们交谈让我感到不安。
很好。嗯，这也是你在这里的原因之一…… >> 请以此为准。我努力坚守原则。引用我的话吧。如果我改变了，你可以用草叉来指责我。 >> 我只是想简要展示一下计算机操作功能。这是…… >> 我从没见过，我没见过[轻笑]我看过类似航空浏览器使用的东西。在这个新笔记里，让我们把标题设为“你好”。
哇。 >> 太好了。好的。嗯，继续吧。你能打开Arc浏览器吗？到了那里后，请谷歌搜索“Norbert”。 >> 嗯，现在能打开X.com吗？ >> 这是某种用例吗？ >> 哦，语音用例。这是我第一次看到这种用法。这…… >> 打开照片。
哇。 >> 哦，等等，等一下。能退后一秒吗？退后一秒好吗？嗯…… >> 传闻称Anthropic工程师崇拜Claude为神。哇。 >> 哇[笑声]天哪，真有趣。嗯…… >> 而你在这里构建生产环境[笑声]哇。这太酷了。 >> 嗯，是的。显然你可以用语音通过Jev作为决策模型来操作整个电脑。
就像我反对基准测试最大化一样，我也反对演示。我要确保它可靠地工作。我喜欢人们玩弄它。这太酷了，毫无疑问。我想看到它被使用。我希望我们的团队去玩它。我要找出弱点并解决它们。天哪，那看起来很酷[笑声]看起来真棒。我想要那个。当我手腕酸痛时，我只需低声说“流”，一切都会搞定。那太酷了。
嗯，为了完善用例方面，因为我必须让你离开了。嗯……哪些大公司联系过你并让他们想要的东西令你惊讶？ >> 只是……我对那方面太脱节了。人们给我看了公司的截图，据我所见，全是他们。 >> 嗯，主要是对于那些在大公司工作但不做这类工作的用户……我只是想给大家举个例子，你们应该去查查。
哦，所以嗯……我认为演示超级酷。显然编码代理是巨大的用例，它们也非常棒。 >> 现在一切都围绕Jev展开。 >> 哦太棒了。嗯，我可以稍微偏离一下主题谈谈编码代理吗？ >> 请讲。 >> 哦让我等一下。给我一点时间。好的，实际上我会回到编码代理上。我想描述一下用例的主要类别。
我们在发布前很久就从第一性原理出发进行了规划。它们被称为“黑暗数据”。人们囤积了大量大数据，但不愿将其投入大模型（LLMs），因为太贵了。所以大公司非常喜爱这一点。他们有成堆希望分析的数据，这是数据科学家的梦想成真。这是一个巨大的市场。我认为加上编码代理是主要的收入来源，因为那是所有流量的所在，对吧？
还有实时 stuff，你知道的，比如需要“人在回路”中智能的人。我猜每家公司的CEO甚至CTO都知道每减少10毫秒，他们的产品会变得多好…… >> 尤其是电子商务。是的。 >> 对哦，或者像助手类的东西，有很多AI助手功能……据我所知，他们真的很喜欢。嗯，再次声明，我现在不在客户一线，所以我只是从我团队那里得知消息，但我对此非常兴奋。
我对游戏也非常期待。我真的想玩那种很酷的自动自走棋，你可以指挥你的团队或者半自动的。我觉得那会很酷，但在我还有工作的时候别让它太完美了。嗯……还有我们所谓的“验证一切”，即验证所有LLM调用，类似于可观测性。嗯……关于文档方面，人们应该做的是并行问题非常便宜。所以如果你有大型状态想要问很多问题>> 就在这里。是的。
给每条消息加上 ID，然后针对每个 ID 提问。比如当你有一段长状态时，这样你就可以只为这段状态支付一次费用，并针对其中的每条消息提出大量问题。我认为这是一种节省资金的好方法。顺便说一句，我一直觉得将“系统一”和“系统二”进行框架化很有趣，因为这基本上论证了：你应该为每一次推理调用做出一个、十个或一百次 Jev 调用。
[笑声] 嗯，也许吧。我是说，我希望人们能少花点钱。也许你确实会做一半的推理调用和十次 Jev 调用，或者其他能解决问题的方案——那些否则根本不可能存在的解决方案。第四种用例是我描述的“智能软件”，即本质上具有组合性、并能做以前从未发生过的有趣事情的软件。比如“编程语言作为 Jev”的概念，我不知道你是否见过那个？那太酷了，伙计。如果我们知道如何发放积分——毕竟我们处于基础设施发展的早期阶段——我很想给所有这些项目提供积分。
我认为这些就是我们规划的主要用例。“计算机使用”也朝着实时方向发展，这真的很酷。如果它可靠的话，我会非常兴奋。我怀疑我们可以让模型在这些用例上变得更好，因为它是突然出现的。关于编码代理的事情，这是目前发生的一个非常令人惊讶的现象。云代码（Cloud Code）和 CodeEx 我相信是第一名和第二名的赢家，我不完全确定，因为我没密切关注，但大致如此。
但它们都是围绕单一模型世界构建的，你知道吧？这对它们来说很有意义，对吧？因为一直以来这都是一场单一模型的游戏，只是你购买的是同一模型的“不同智能”。但所有的开源编码代理现在都很兴奋，因为它们正在获得它们的 Jevon。问题是，我敢肯定它们正在尝试很多奇怪的东西。
所有编码代理大致处于同等水平，对吧？因为对于 Y 循环（Y loop）你能做的事情并不多。但一旦有人找到一个杀手级用例，你知道的，只有那个编码代理才能做到这一点，所有人都会蜂拥而至，因为他们垄断了那件事。但所有开源编码代理都能复制这一点……
我不知道云代码和 CodeEx 会怎么做，因为它们是基于那个单一模型世界构建的。我认为这将是一件非常有趣的事情。你知道，我个人很想与它们集成……我想与所有人集成。他们最终可能会成为竞争对手，我不知道。但这不是我的任务，作为 Sonfire Infrastructure 的一员，我不应该对此持有偏见，对吧？我只想服务世界。
我不知道它们是否会那样做。我认为这会让编码代理的游戏变得非常奇怪，你知道吧？我对那件事感到非常兴奋。我敢肯定我的团队目前正在审查我为编码代理设计的内部文档，我认为它会有用。希望我在走回家之后能分享出来。
但我认为世界上有一个如此肥沃的探索领域，如果我没有这份工作，我现在就想尝试编码代理。 是的，我是说，我相信编码代理公司也很乐意与你合作来解决这个问题。嗯，我认为你们仍然有云代码的用例……在那里探索很容易。好吧，我是说，你知道的，你在 indulging 所有这些方面非常配合。我只是想把你从 TypeSafe 中抽离出来，谈谈一般情况……
你已经非常清楚地表达了你对 AI 现状的立场。现在给你更多关于对齐和安全方面的空间。 哦，呃……我完全没有谈论安全和对齐吗？我想我没有，也许我真的没有。
你谈到了。我是说……我认为有很多研究者讨论。我们在欧洲经常有这种聚会：人们在谈论什么？你知道，比如我最近参加了其中一个研究者集会，人们真的担心节奏问题。关于我们应该放慢速度的话题……公众显然还没有准备好。我敢肯定你有强烈的看法。我觉得这是一个谈论起来很危险的话题，但我乐意谈谈它……我喜欢冒险。[笑声]
我们的公司品牌是混乱，不是 Jev。是不敬和混乱……你知道的。是的，你在 OpenAI 期间经历了非常早期的、可见的事件之一，也就是“Blip”事件。现在多米诺骨牌已经倒下……每个前沿实验室都签署了一份文件，表示他们希望基于……
嗯，有趣。这是一个非常复杂且细微的事情。我实际上想更正式地写一份回应……我有一个简短版本的回应，那就是：随着你进行 RLVR（强化学习验证奖励），RLVR 实际上并不是关于可验证的奖励……那在推理革命之前就已经失败了。这就是任务奇怪的地方：回想一下，哦，有趣的历史……当 RHF 成为潮流时，当时有三种不同的东西——现在被称为后训练的不同努力。
其中“指令跟随”是绝对的大多数……人们不喜欢它，他们不想把它纳入考量，这很烦人。你知道的，我和预训练团队谈过：“伙计们，这是魔法。”他们说：“我们运行了如此多的模型扫描。你希望我们要等待人工评估来确定使用哪些模型吗？”每个人都把大量资源投入到代码生成团队，他们确实取得了一些成功。
但他们非常努力地想在单元测试上进行强化学习（RL），这显然行不通，对吧？因为你需要推理能力。所以……为了澄清起见，RVR 并不纯粹关于奖励。它是关于所有内容的形状的一部分，其中推理被包含在这里……作为一个你正在执行的潜在变量。
当你在做这些事情时，你只是让模型随心所欲地发挥，以便让它们尽可能强大以解决最棘手的问题。>> [轻笑] >> 我认为这种关于“追逐前沿”的讨论焦点过于狭隘，因为它假设每个人都需要进行更多的RLVR（基于人类反馈的强化学习）。嗯，显然我不认为我们需要在我们的模型上增加更多的RLVR。你知道的？我认为对于我们的形态来说，零是最优的量级。得了吧，你懂的。
所以在我看来，这其实是一种障眼法：他们声称我们实际上应该继续做那些看起来危险的事情，因为它们确实会产生危险的后果。你知道人们常说：“也许沙盒隔离是个问题”或者其他的什么。嗯，是的，我当然承认这确实存在问题，而且他们本可以轻松解决它，对吧？但他们选择不这样做。
因为在这个“无所不能”的类别中，你让模型做的事情越多，它就变得越强大。所以我认为这里存在一种对责任的推卸：他们试图通过设计或非设计的假设来让我们相信，我们必须进行RLVR，而且不仅仅是必须做，而是必须越来越多地给予模型在中间阶段“无所不能”的权力。
因为这样做能教会它们在外部环境中变得强大，而我们不想限制这些能力，因为这会使模型在这些特定方面稍微弱一些。所以如果你假设这一切都是必要的，他们就会说：“哦，是的，我们要进入一个危险的世界了，伙计们。” 好像每个人都会这样做，而且这是让AI变得“生病”（强大）的唯一途径。
所以基本上就像这样：这些观点在内部是一致的，但实际上它们始于一个存在替代方案的预设前提。如果你思考一下……我认为沿着“痛苦教训”的方向，很少有人能像制定新任务或确立新的北极星指标那样，开辟出真正的新AI方向。
我认为对于LLM本身来说，这样的新方向大概只有两三次左右（比如RHF），而RLCD、RLVR在我看来充其量只是0.2分，我觉得这已经是很慷慨的评价了。或者是0.5？甚至可能是1分，我也不太在意具体分数。但我确实认为人们在这种事情上思考得过于狭隘了。
而且，我认为这里唯一有错的人是研究人员，因为绝对不是公众的问题。他们只是假设OpenAI和Anthropic已经尽了最大努力，而且他们是唯一知晓真正可选方案存在的专家。>> 是的。这很公平。而且你也在通过唤醒他们来尽你的职责。
没错。我正在尽力而为，但我的目标并不是说服各大实验室去走其他路线。我的目标是激发软件工程师的希望，让他们开始真正自动化那些他们一直想要自动化的事情。我曾经写过一篇文章，讲述了我想要的AI未来，但我团队的人不让我写，也不让我发表。
文章里有很多小细节，比如记得“按我的意思做”。想象一下如果一切都能做到这一点会怎样？因为那个演示就是展示“按我的意思做”：你说，不要只听我怎么说，要懂我的意图。>> 是的。
而且我们之前还无法做到“按我的意思做”，因为计算机太基础、太字面化了。但那个Computer Use（电脑使用）演示正是如此。我认为世界上将会出现一些人们尚未理解的平滑度层级。“智能无处不在”的承诺……我不想过度承诺。我不认为它现在就会发生，但我们会尽一切努力让它实现。
是的。关于后训练的整体形态还有什么要说的吗？你知道，你显然深度参与了中训练（mid-training）。对此你有什么评论吗？
我想我们以前从未讨论过这个。[轻笑] >> 中训练。嗯，我认为这是一个光谱。>> 是的。>> 对。就像我是…… >> 这是一种课程安排，只是更复杂一些。
是的。嗯，你知道的，这主要是为了节省成本，而不是像重新预训练那样昂贵。有一些有趣的东西。我实际上认为…… >> 就像智能在每个层级都有某种“Janus”（双面神）特性，而且总是超级迷人。我是个变色龙，我不喜欢发现这一点，但当别人发现并教我时，我很开心。
而且你看数据……我们的数据团队在这方面非常擅长，而我则不是。我觉得这真的很迷人。我实际上喜欢思考能力是如何在短期内通过微调快速对齐，并在长期内通过反复观看而深深嵌入模型中的。
直到它变得稳健为止。你知道，这就是表面化（surfacing）的北极星指标：系统一（System 1）的东西最终会变得稳健。[轻笑] 所以我觉得中训练是一件迷人的事情。我是所有形式训练的粉丝，也是所有浮现新型智能形式的粉丝。
我自己不会做所有这些事，因为成本太高了。而且我私下说过……我也应该公开说吗？[笑声] 嗯？你知道我的哲学是：任何我私下对投资者说的话，我都应该公开对人讲。因为这是我的原则。是的。
所以我以前说过：如果给我十亿美元，我不会进行预训练。我仍然相信这是真的。这是一件非常昂贵的事情。如果你是工程师，你可以切分、组合并做各种事情。你知道，“弗兰肯斯坦”式的拼接虽然不够优雅美丽，但它能解决问题，宝贝儿。
所以除了…… >> 重新训练？是的，太棒了。嗯，我认为有一个方向很有趣：就像综合你关于这些模型的所有评论一样……我们是否拥有一个包含所有这些能力的超级模型？还是将它们拆分出来，进一步细分？
所以这样表述的一种方式：OpenAI当时正朝着“全能模型”（Omni model）的方向发展。40是其中之一。然后有一段时间，始终有一个主要分支：这是聊天微调模型，那是代码微调模型。这两者是完全不同的东西，是极其不同的概念。
我会稍微分解一下：多模态有点不同，因为有时其他模态……
有时候它们会帮倒忙，就像你知道的那样。人们似乎正在远离语音交互，这与音频不同，因为它在其他方面泛化能力不佳。这个问题可能会得到解决，我是这一切的粉丝，但这些都是实际的实证问题。扩展定律不仅仅是“砸钱就能变好”，而是务实地问：某样东西到底有多好？在某些情况下，无论怎么扩展可能都不够好。所以据我理解，计算机使用目前尚未解决。我希望我们能为此做出贡献，但也许无论收集多少数据都无法解决这个问题，我们可能需要更好的方法或其他东西。因此，在这所有事情中，我们需要非常务实。
我是全模态模型（omnimodels）的粉丝吗？我喜欢所有形式的智能，但我直接切入你提到的一个话题：这与预训练不同，而是后训练。因为我讨厌智能的分裂（fracturing）。在我看来这是坏事。“聊天优先、推理模式”之所以有问题，是因为它迫使智能分裂。当你优化聊天时，这往往变成纯粹的RLHF（基于人类反馈的强化学习）。而RLHF本质上会导致人们自然抱怨的问题，对吧？
比如过度自信、幻觉，甚至是那种在Ella Marina上表现出色的风格。加粗、斜体、表情符号……你知道的，它不会简单地回答问题，而是给出长篇大论，然后问你一个跟进问题。这感觉更像是人类在和你说话。所有这些现象都源于奖励模型的怪异特性。你需要校准失误，需要模式崩溃（mode drop），需要极度自信才能不跑偏，因为一旦出错，奖励模型会严厉惩罚你。
这完全扭曲了概率空间，并与推理模型的这种特性相互作用。因为模型就像这些简单的线性事物，倾向于作弊一些。我认为这与“暴露智能”截然不同。我猜很多关于智能的艺术在于研究这种细微差别。我想，至少当我在OpenAI时，人们并没有真正深入研究这一点，因为他们只是像现在大家对待Jeff那样聊天。你给我一个目标，我就去优化它。
但如果你尝试同时有两个目标并都进行优化，那实际上就是分裂的行为。所以我的意思是，在某种程度上，你也将智能分为了系统一和系统二，但你不同意其他人的那种分裂方式。这有点不同……如果我能辩护一下的话：对于系统二任务，我们并没有抛弃它们。你可以尝试让Jeff去处理它，那里其实有智能的答案（尽管未知）。在系统二任务中确实存在好坏之分的行为：应该是低置信度、充满不确定性，也许一些启发式方法可以在此处彼处推动进展。
我们要关心它们，但要清楚的是：那并不是智能原本所属的地方。我们并不想分裂任何东西。因为所有分裂都会让模型变笨。比如，如果人们让模型说它是OpenAI、Qwen或Claude等等——我不知道它现在说什么。我不会把“你是Typesafe的Jeb”这种身份植入模型，因为这会分裂它。我不想那样，我希望它能代表互联网的想法，要正确，这才是我想要的，因为这样才能获得平滑、可预测的智能。
身份这东西……我想对于第一方产品来说是的，但对于API来说我不这么认为。你知道，人们不喜欢如果他们用ChatGPT制作聊天机器人时还要说是ChatGPT，他们想说是Chipotle或其他什么。好吧，你知道弥补这一点的方法是你拥有技能，也就是Jeff的技能：让编码代理与Jeff协作。好了，几个收尾问题，因为我想让你早点离开。一个是回顾你这两年的旅程……这大概是两年多一点？
嗯，我觉得这更像是一段四年的旅程。是的，实际上我在想记得你曾在感恩节那次英雄般的冲刺。你取消了所有安排，因为大家都在度假，你说：“伙计们，我要抢占所有的GPU去做这件事。”是的，那段时间很好。那是TypeSafe之前的时刻吗？那时政变正在发生吗？我不太确定。是的，确实如此。听起来是对的，我记得。天哪，我不想……我想我现在没时间爆料关于政变的事，但那并不真的让人恼火。
是政变烦人还是那次冲刺烦人？政变很烦人。好吧，是的。安全部门接管了公司。无论如何……也许下次聊天我会爆料关于政变的事。嗯，实际上这个问题在我脑海中早在ChatGPT发布之前就存在了。我想：“天哪，ChatGPT团队在烹饪（搞事情）。他们做了正确的事。”他们正在做AI研究人员不擅长但成功的产品人员擅长的事情，那就是非常注重用户体验。这很罕见。在OpenAI这样的人很少……那些人在此方面做得非常好。
要明确的是，这是从GPT-3到3.5的整个旅程，其中包括了AI Dungeon——你曾将其作为一个例子。是的，那是一个我们从未预测到的用例的例子。没错。呃，哦对了，我也曾极力推动部署InstructGPT。实际上它的早期版本甚至是用一种算法训练的……
当时我没发布，因为我自己做的清理PO数据太慢了。我觉得这很好，需要让用户尽快用上。结果它迅速占据了当时LLM市场50%的份额。我们确保发布视频中的所有内容都是真实的，我当时真的在想：这是AGI吗？因为它在指令遵循方面表现超人类。显然这不是，但每个人都应该能解释为什么它不是AGI，因为它看起来很聪明。我的结论是，它最终只被用于文案创作，比如Jasper AI、Copy.ai等，也就是现在网页上所谓的垃圾内容。我们担心这让互联网变得更糟了。
于是我回到原点思考：缺了什么？显然我们要聪明，但缺少创造价值的能力。我当时在做哲学式的反思：到底发生了什么？答案是机器。我逆向思考一个基于AI的经济革命，当它发生时，如果AI是API，调用者会是人类还是代码？我认为是大量的代码。但所有的优化都集中在人这一端，这让我恍然大悟：这就是北极星目标。我写了一份文档跟Sam讨论，他说这很好，你应该去工作。我说我有工作了，他让我去做。
我当时觉得这很明显，Anthropic肯定已经在做了，我们可能已经晚了。实际上OpenAI在追赶方面做得比创新更好，ChatGPT就是Claude的复制品，他们有内部项目但没发布。推理能力算是早期的尝试，虽然产品好坏有争议，研究很棒，但不确定是否有市场需求。Claude也做了编码代理。Sam说完后我回去继续工作，直到指令跟随团队宣布他们赢了，解决了这个问题。
我在想接下来做什么，开始尝试训练模型。我原以为只需一周，结果花了多年时间。后来我发现这里有生命迹象，否则不会部署它。我想探索如果全力投入会怎样，特别是考虑到AI寒冬发生时我会如何感受？我会认为自己负有个人责任。我与其他公司交谈，想成立一个实验室，他们建议创业比加入现有团队更快。
于是我叫了Eric和Sasha。我先联系Eric，没试图招募Sasha，而是问她我是否太陷入OpenAI的思维盲区。她说她加入。我说她在创业公司，她说正在关闭那家公司。我让她想想，她同意了然后加入了。两周内我们获得了资金，人们搬进我的公寓，我很整洁所以很痛苦。我们继续推进，最终得到了显示生命迹象的研究结果。
这是一个疯狂的时代。问题是现在处于前沿实验室的人因缺乏资金或资源而感到沮丧，他们应该像我们一样做吗？这是一个有趣的问题。我不知道如何不破坏关系。我认为大多数Neolabs（新实验室）都很糟糕，我不愿与之为伍。我不理解那里的情况，也许是因为不重视研究人员？
我重视那些践行“痛苦教训”的人。我们需要研究员不仅要有资历，更要关注正确的任务，这才是关键。重视纯研究背景往往不能创造价值。我信奉北极星任务和做真正有用的事。因为我不看重研究员，也不建议去那些地方，虽然对某些人来说可能有利可图。从务实角度看，创建新实验室不创造价值，反而在重复低概率推动前沿的工作。
大多数Neolabs没有方向，只想拿钱做实验。如果有明确方向我是支持的。所以我的建议取决于动机：如果是想玩研究的研究员，实验室是最好的地方。说实话可能有其他地方，我不关注那些政治动态，但我个人不建议那样做。我认为人们被驱动去解决实际问题对世界更好，这些问题可以是探索性的，但最好有坚持的原则。
我认为你们应该做正确的事，比如绝对地、恳请地去打破那种单一模态的思维定式。确实如此。（清嗓子）就像你知道的，这种在前沿探索的步伐源于一种特定的AI视角：即认为存在一个极其不均衡、看似可以解决的超级天才式AI。它确实是可以被解决的，但这很奇怪，而且与现实不符，这真的很可悲。
至于价值方面，我想准确代表Anthropic和OpenAI等机构的立场。顺便提一下，我也与SpaceX交流过，我认为这更多是政治考量，而非纯粹的技术问题。没错，这是关于政治定位……而这已经超出了我的范畴。一旦他们告诉我这些，我就明白了。这关乎2028年的大选。（笑声）哦不，我希望我没听到这个，气氛太糟了。
不，这不是整个公司的立场，只是那个房间里的讨论内容。好吧，这说得通。这让我对人类失去了一点信心，也许我只是个天真的技术人员。现在谁掌管政府、谁来监管这些新兴事物确实开始变得重要起来。作为实验室，你们应该深思熟虑这一点。
不（笑声），我完全同意这点，必须澄清的是。我认为在此问题上持有鲜明观点非常重要。我个人害怕误导他人，因为我觉得那会给人带来很大麻烦。我认为那些试图表现得过度自信的人……我显然不会谈论政治，但我认为在CO（可能是指某次事件或公司）发生的事情是：人们过度依赖权威诉求和过度自信，试图让人们以特定方式行事。
显然我们的反应极其次优，并产生了下游的负面涟漪效应，我认为这对世界来说非常糟糕。也许我很天真，但我认为即使是为了所谓的“更大利益”或人们自以为的“更大利益”而误导他人，我也并不赞同。我宁愿不……对于这一点，我认为这不仅仅是误导。
这就是为什么现在……是的，你知道的……我觉得这就有点像是在风险与目标之间搞误导。这里面有一种潜在的狡猾成分值得指出并承认。当然，如果他们想操纵舆论就不该承认这一点，这似乎是个坏策略。但对我来说，这对世界来说很悲哀。
是的。希望我们永远不要（笑声）卷入此类事情中。随着规模扩大，这可能不可避免。但我希望能尽可能保持我作为纯粹技术人员的初心。我的意思是，Jeff去竞选总统怎么样？为什么不呢？你可以知道，我信任Jeff的决策胜过我自己的。好吧，少发点帖吧。
你正在粉碎我对美国乃至世界的希望。（笑声）天哪。我是说，我觉得我看了太多关于阴谋夺取总统职位的电视剧了。你已经选择了你的北极星：可靠性、可编程性、可组合性以及低成本AI。
你想抛给其他人（即你们不打算亲自做）的第二个或第三个任务是什么？哦，就像……基本上就是给人们分配任务。给人们分配任务。对，比如你的任务是……有很多我想做的。你已经选定了你的任务了，对吧？你懂我的意思吗？
什么？等等，这问题太好了。天哪，我对此感到兴奋不已。因为你将在未来50年里忙于做你自己的事情。没错。好吧，让我提一个有趣的、一个无趣的以及一个可能也有价值且有趣的话题。我感兴趣的是，如果游戏具有智能性，它们会变得非常酷。
当我看到人们玩Ali的Doom演示版时，你可以让NPC控制某些东西……那只是一个概念验证。我认为可以制作出一些非常酷的东西，看起来真的很棒。你知道的，我是《星露谷物语》的大粉丝，它非常静态但仍然引人入胜。我觉得可以发生很多精彩的故事。
不需要在游戏循环中调用Jeb，那可能太贵了。但即使是简单的NPC状态机，我认为你可以（笑声）创造一个如此引人入胜的世界。哦天哪。有点遗憾我不能从事这类工作，我的职业道路已经定下来了……是的，但你可以（清嗓子）让别人去做，然后你对其进行反馈。
我非常想探索的是：摆脱KV缓存暴政的代码代理。它可能不如真正的代码代理那么好，但我认为有那么多奇怪的问题值得思考。这就是我写《KV缓存统治一切》这篇文章的原因。信不信由你，我在Google上搜索时甚至没找到“现金统治一切”这个短语的变体。
我写这篇文章是因为我想告诉人们代码代理是如何工作的，KV缓存又是如何运作的等等。我认为这解释了很多东西：为什么路由很难、子代理似乎不起作用、压缩为何如此困难。我打算发布一份文档……我的团队可能会否决我，因为信不信由你，我不是负责人。但我希望发布一份文档：“这是我的想法，请试玩它”。
并请找出所有我们可以利用代码代理做事的方法。一旦你摆脱了那种KV缓存的暴政……它把你锁定在……不，它将你锁定在一个模型中。为了高效运作，你需要不断追加内容，所以现在你们并没有遵循最佳软件工程实践：状态管理、抽象化、分解。
为什么不能给一个更简单的任务？为什么不给子代理一个简单的任务，因为你们传递的状态……
我提到这一点，是因为你传递的状态需要一种比用于读取该状态的智能更便宜的智能来在周围传递状态。为什么不能对此采取聪明的做法呢？我认为在这方面有很多非常有趣且好玩的研究可以做，比如不同的编程模式。你知道的，就像人们正在尝试递归语言模型一样。我觉得这里有很多很酷的东西。当你想到想要明确标记一切的状态，或者想象你有一个子任务时——比如编码智能体——我认为可以说它们从分解的角度来看，一次只处理一个子任务。为什么你需要将所有这些状态传回给父任务呢？
为什么不采取聪明的做法来处理它呢？而且，如果你有一个标记好的子任务层级结构，为什么不能在需要时在该子任务树中搜索相关的上下文呢？还有另一件事你可以做——哦，天哪，我忘了写关于这个的内容。我这里有一些很酷的食谱（技巧），希望发布它们。我很乐意深入探讨它，但这将是一份很长的文档。如果上下文变得廉价成为现实，比如为什么不能做一些很酷的模式呢？比如非常低成本地查看你的历史上下文。每次从头开始并需要解决一个叫作“持续学习”的问题，这有点奇怪吧？
那实际上是一个内存管理问题，因为你没有一种智能的方式来查找记忆。但是如果你可以一直这样做呢？或者如果你有并行子代理，它们能否读取彼此的状态，因为所有这些都在你的计算机内存中，你可以聪明地处理同时进行的读写操作？你的编码智能体群或其他什么东西可以对事物加锁，并以一种非常基础的锁（比如“我在做什么”、“你在做什么”）之外的方式智能地协调，例如杰夫应该先写什么之类的。我觉得那里的未来非常疯狂——让杰夫来解决锁的问题。
我的意思是，这对于多个代理协同工作来说可能会非常酷。或者如果你思考像智能体形式这样的状态……是的，你知道有些东西是只读过程。有些人喜欢获取关于代理正在做什么的摘要。为什么它们不能轻松共享状态呢？因为像只读代理这样的东西需要读取上下文的一部分，并找出什么与……比如实际正在写入的内容相关是重要的，因为探索不是超级重要；或者这里是子任务树。我觉得如果有一个真正聪明的人 dedicated 大量时间重新思考编码智能体体验，可以做很多不同的有趣事情，那将超级酷。
是的，那是我的梦想。如果你还没看过 Prime Agent 的话，我会向你推荐它。它与 RLM（递归语言模型）工作一起运作。我们刚刚和艾伦的朋友亚历克斯聊过，他坐在你之前的椅子上。很酷。是的，它正在被开发中，但还没有非常流行……好吧，是的，希望大家都去玩一玩那些奇怪的东西。我不能保证它会起作用，但从技术角度来看它似乎非常有趣。所以是的，一旦我们弄清楚如何分发积分，我很乐意给像这样的人发放积分。
是的，你肯定有能力资助研究。不管怎样，祝贺你的所有成功。从我第一次见到你和整个团队以来，你已经走了很长的路……同一个人也是。是的，我认为你以我从未见过的能量被激励着，因为你找到了你的使命。这是真的，这绝对是真实的。你阐述你的使命，因为多年来你抱怨这些问题但你还没有解决方案，对吧？你有大致的轮廓，然后你必须投入工作去做。
我要说这在某种程度上是因为我把自己描述为“零号”企业家。我不喜欢初创公司。我这辈子从未想过要当 CEO。我无法想象任何人会做两次这种事。这看起来很可怕，老实说，做一次已经很糟糕了。当我们最初进行融资时，一位投资者问我：“你崇拜哪些 CEO？”我说：“呃，我为什么要崇拜那些人呢？”无意冒犯任何人。
我正试图真诚且善良，我也见过很多很好的人，但那些名人似乎有很多秘密丑闻。我觉得我在 OpenAI 工作时真的感到无力，你知道的……说实话现在更容易坦诚了，因为至少我有证据证明这个方向是行得通的。我只是觉得在那个疯狂的房子里，每个人都在谈论 ChatGPT。“我们把 ChatGPT 放在哪里？”“我们如何让它对开发者等有用？”我在想，你们在说什么？函数调用接口太疯狂了。为什么要部署这个？这完全反开发者导向的。
这是一种在 hack 之上叠加 hack 的方式，而且不仅如此。我经常说的一句话是……我现在没时间展开讲这个——我总是想说，如果任何涉及函数调用的项目没有为每个函数获得合法的偏差（bias）……在我这边非常简单的要求是，比如某种置信度但未校准的概率。我们需要给用户控制的能力，比如说动作可以是拒绝或允许。迪士尼需要在 AI 地牢中设置不同的拒绝阈值，目前通过函数调用控制这一点的方式是说“拜托”，你知道的，这太疯狂了。
这对开发者来说是一个疯狂的接口，人们已经处理这个问题多年了。他们现在仍然在使用技能（skills）时面临这种情况……现有的编码智能体因为它们很粗糙而高度过拟合于其现有的工具链。由于过度拟合，它们往往不能很好地使用外部工具和 MCP（模型上下文协议）。为什么大公司不允许进行轻微的提示呢？比如“调用这个，它真的很有用”。
那个，解决方案是在系统消息中乞求？这太疯狂了。嗯，好吧，我想……我觉得我理解你的意思了。说实话，能讨论所有这些话题真的很令人兴奋。邀请你上播客真是太酷了。是的，你会做出很了不起的事情的，伙计。我很期待你接下来那些重大的发布。
哦，绝对没错。你就等着瞧吧。 比你想象的还要快。基础设施人员？我猜是吧。营销人员……这得看情况。如果问我的话，我觉得我是个相当不错的创始营销人。但如果问我团队里的任何人，他们会说：“闭嘴吧，Diogo（注：原音误识别为Yogo），你需要去做CEO该做的事。”[笑声] 所以是的，创始营销人。
这不仅仅是关于香料（注：此处可能为俚语或口误，结合上下文指代某种特质）。我觉得你非常注重细节（spice oriented），这就像是你独特的才能，但有时候你就是需要说……我知道营销的事情。是的。没有什么比面对一堆要做的事更能教会你如何授权了。
招聘数据人员，或者我们称之为模型能力专家……但他们本质上是做数据的。在这个行业里，“数据”这个词有点像是一种贬低，我想确保……所以我们在这一点上非常支持数据。 是的。但我希望他们拥有最高的地位，你知道的，那些真正在模型上工作的人。这听起来有点奇怪。我希望每个人都拥有平等的地位，但我想平衡这一点，并且希望让他们知道这是非常有价值的。
至少我比别人更平等一些。[笑声] 嗯，我不喜欢奇怪的等级制度。我想我在公司中最自豪的一点是，他们并没有那么尊重我，或者说他们没有表现出来。他们就只是拿我开玩笑，跟我嬉闹，有时候还对我很不好，诸如此类。我认为这是文化良好的一个标志。
我们正在招聘平台人员，也就是那些到处构建Jev的人。我们对地理位置非常敏感，因为光速成为了瓶颈，对吧？我对欧洲用户感到很难过，因为我们在那里只快了大约三倍，而不是像一百倍那样快，因为我们现在那里没有服务器。这太疯狂了，对吧？
没关系。欧洲的生活节奏也比较慢一点。没事的。 哇。[笑声] 我真不敢相信你说出了这句话，不是我说的。或者在任何地方，你知道的……如果每秒的智能产出是一个重要的指标，我们就希望它无处不在。我们关心的是那些在我们之上构建的开发者……我非常在意你（注：此处可能指代听众或特定对象）。
我们的目标不仅仅是成为一家Jev公司。目标是交付更多形态的智能，超越这一点。所以我们也在招聘人员来构建这些东西……我们不想仅仅做一个只会简单模型的“单面手”。我认为将会出现一个智能领域的AWS（亚马逊云服务）……
那将是你，顺便说一句。是的。 我的意思是，那是我想走的方向。如果说一定会是我，那就太傲慢了。我会尽一切努力确保那成为现实。我觉得那将会非常酷，你知道的？我们现在正在玩弄系统一智能（System One Intelligence）。想象一下这些层级……这就像是它的TCP协议。
是的。还有七层要走，谁知道还有什么别的呢。顺便提一下，我也推介了Temporal（注：一个工作流引擎）。我不知道……我们需要谈谈把Temporal作为这七层之上的第八层。 不过无论如何，我们可以聊个没完。你得回去工作或睡觉了。谢谢你过来。
哦，天哪。是的。酷。 不客气。很高兴认识你，伙计。非常兴奋。太激动了。这是我的第一次。