"全世界最无聊的机器人"，这是最近《纽约邮报》的一篇报道标题。而这家公司的创始人们却认为，这是"对一家机器人公司最高的赞美"。这家公司叫Dyna Robotics。Hi Jason你好！谢谢。看多了机器人跳舞、打拳、跳钢水等酷炫的视频，Dyna确实很"无聊"。发布的Dyna-1主攻叠毛巾、叠衣服；这次发布Dyna-2之后，新机器人Taku进了洗衣房，默默把脏衣服放进洗衣机、操作机器、把衣服拿出来送进烘干机，再拿出来折好放到架子上。联合创始人Jason Ma说，因为机器人如果真的开始工作了，它本来就应该是无聊的。
而在这份无聊的背后，真实部署是衡量机器人的"唯一评估"。不能落地的话，不是因为你没有腿或者你没有手，是因为模型不够好、整个系统不足够好吧？你们把Dyna-1的10个月的deployment（部署）称作是Bitter Lesson（苦涩的教训），可能是Bittersweet Lesson（苦乐参半的教训）。Bitter就是比我们想象的要难，但Sweet就是因为难你就必须要去解决。如果你解决了，那你就会领先其他公司很多。一个deployment（部署）上发现的问题，跟你在同时部署10台、100台、1000台发现的问题都是完全不一样的。你每次scale（扩大规模）就会发现新的问题，作为一个具身的公司，必须要有这个conviction（信念），就是我真的要把部署做下去、要scale下去。
而在机器人基模上，Dyna也在进行一系列前沿的探索。在一年多前硅谷101采访他们的时候，Dyna-1用的还是VLA（视觉语言动作模型）；而到了Dyna-2，他们决定重新做底层模型，用WAM（世界动作模型），同时把预训练数据扩大到了100万小时第一人称人类视频。他们发现，随着人类视频从一百小时、一千小时、一万小时、十万小时一路增加，模型不仅越来越会预测人的动作，连它从来没有在预训练里见过的机器人动作也预测得越来越好。Dyna将此称为跨本体迁移（cross-embodiment transfer）Scaling Law，100万小时的第一人称数据找到了机器人数据Scaling Law（规模定律）的端倪。从100小时、1000、1万到10万，每个阶段都发现说它数据越大就越好。每一次我们把数据10X，这个模型的prediction（预测）就变好。
如果换成第三人称视角的视频，会不会可能还会继续有这样的Scaling Law（规模定律）？应该会有Scaling Law（规模定律），但可能slope（斜率）就很不一样了。是不是现在快到了一个GPT-3的一个时刻了？Robotics有没有GPT moment，可能也没有那么重要。这一期视频播客我们时隔一年半再次回到Dyna Robotics，他们不仅换了新办公室，连对模型、数据和机器人的思考也很不一样了。上一期我们采访联合创始人York Yang，这一期我们对谈Jason Ma，从技术和部署角度去谈谈Dyna在过去两年发生的挫败、教训、反思、优化。以及我们更想通过Jason去理解这一轮硅谷具身智能正在发生的变化与趋势。那么以下就是我与Jason的视频播客。
Hello Jason，你好！欢迎做客《硅谷101》。你好，非常荣幸上你的podcast。这个采访我们也带了一个co-host来君武，他也是在机器人行业。这样待会儿我们可以就一些专业的问题……可以，好，可以有比较深度的探讨。君武要不要跟大家介绍一下你自己？我叫张君武，我是现在在Blue River Technology做机器人工程师。你好！Dyna最近是有一系列的发布？是的，同时我也知道硅谷这边其实最近机器人行业也很热闹，很多机器人公司都是有新的模型在发、新的demo在发。你觉得现在我们机器人是进入到什么样的一个新的里程碑了吗？为什么大家在最近有这么集中的发布？
对，我觉得这是个好问题。我觉得把通用机器人做下去还是需要至少一两个突破吧。很多公司这个大的路线都是差不多的，首先要scale data（扩大数据规模），把数据搞上去。然后模型里面有一些能力也想做出来，可能也就是暑假是个发东西的好时机，所以大家首先都把东西发出来。我觉得整个机器人领域现在是一个逐渐从demo到真正商业落地的一个阶段，我们公司肯定也在这方面做了很多的工作。我们等下肯定也会谈所有我觉得是做Robotics非常激动人心的时刻。从你的角度看，现在的这个时间点意味着机器人的这个行业进入到一个什么样的阶段？如果我们把它跟LLM（大语言模型）相比的时候，有些人说是不是现在快到了一个GPT-3的时刻了？可以这样对比吗？
我觉得可能现在还处在GPT-2和3中间的阶段。我就纯从数据规模这个角度来看的话，我觉得我们robotics的数据还是相对于GPT-3这个阶段的语言模型拥有的数据量还是要小一些的。但我觉得robotics又跟语言模型不一样，你可以有很强的robotics model（机器人模型）可以干一些指令下的任务就是一些specific setting（特定场景）的任务。但像语言模型的话，如果你不能跟它流利地去聊天的话其实没有什么能力可以真正用上。所以我觉得从产品形态来说Robotics有没有GPT moment，我觉得maybe not as（也许不像），可能也没有那么重要的感觉。
对，不过你讲到GPT moment现在有很多讲法就是说机器人行业可能就不一定会有GPT moment这样一个概念，因为大家机器人的形态也不一样包括他们处理的一些具体任务也不太一样。你觉得会有这样的一个GPT moment吗？还是说也要看情况？我觉得是要看情况的。我觉得在具身智能之前我们可以看无人车autonomous driving（自动驾驶），我觉得autonomous driving（自动驾驶）的话就没有人提过GPT moment这个概念。因为说实话Waymo特斯拉其实把一个demo做好10多年前已经就有了，但是我觉得从一个demo到真正落地能在旧金山（San Francisco）打个Waymo车的距离还是挺长的。所以我觉得在真实世界里做迭代其实这个过程还是比较长的，就算现在我们有很多跟无人车刚开始的话有很多更好的一些技术但我觉得这个过程还是必须要有的肯定不能像语言模型一样。
因为大家已经有了手机有电脑这些东西如果能上ChatGPT这个网站你就能用到这个intelligence（智能）。在具身的话我觉得如何把这个intelligence用上其实是个很难的问题。你刚才说最近数据上面有进展模型上面有进展所以也就是这两个方面有进展让机器人又可以往前面迈一步了是吗？对，我觉得这两个是其实最重要的两点之一。但我觉得还有一个东西其实也特别重要那就是硬件。如果没有硬件的话这个模型不管再怎么厉害你其实根本就感受不到它很厉害的。如果你这个硬件只能做比如说一个很小的机器人只有5个自由度那它也也只能做一些很简单的抓取。所以我觉得在具身的话模型数据和这个硬件必须要一起往前进步这样才能达到一个最终我们觉得达到一个产品真的能让很多不同的人千家万户都用上。
硬件你主要指的是本体还是它的供应链还是它的运控？我觉得首先是指本体，供应链就是能把本体scale（扩大规模）上去了有很大一部分。但我觉得本体的话现在有很多不同的机器人，但我觉得在设计这个机器人的过程中把一些机器学习AI里面的一些概念或者从把模型训练出来把它做部署的一些心得都放到这个硬件迭代的过程中我觉得最后做闭环是个很大的壁垒这一点其实挺有意思的。因为你们的联合创始人York他之前有说过他把行业分成三派，现在硅谷的机器人一类是这种model-first（模型优先）就是只做大脑的比如说Physical Intelligence π他们；还有就是这种hardware-first（硬件优先）只做本体的；还有就是这种integration（一体化集成）的就是说全做的。Dyna其实是第三派大脑跟本体都同时做，为什么你们选这个路线？
对因为我觉得最后如果把机器人智能部署下去大家付费的不是说你的模型，模型只是这整一个stack（技术栈）的一部分。其实比如说我们去跟一些客户聊他们根本就不在乎我们用VLA（视觉-语言-动作模型）还是什么world model（世界模型），他们根本就不知道这些是啥。他们最后就在乎在他们的这些场景里能不能把这些很复杂的任务很多样性的任务能完成。从这个角度出发我觉得必须要把这个大脑和本体放在一起去做这样才能达到最好的效果。从一个更技术的层面来说，我觉得很难把模型、大脑和本体两个都分开做一个非常general的东西。因为我觉得在real world（真实世界）真实世界这种物理的intelligence都是大脑跟你的本体连在一起才能达到很好的效果。就像我们人一样，我们的大脑就是adapt（适配）到了我们自己的本体上。
在我的印象中我觉得Dyna其实是一个偏务实的公司？是的，从你们的demo上面还有你们本体的设计上面也能够看出来。我觉得你们非常的克制不是去追求这种很fancy（炫酷）的demo或者动作反而你们是那种从叠毛巾、叠衣服这种非常落地的商业化的角度去设计你们路线的。这是为什么呢？对因为我觉得从纯学术角度来说在机器人领域里能做的事太多了，任何一个话题都是能你可以花好几年去纯做研究。但我觉得现在整个机器人学习就Robot Learning（机器人学习）这个技术已经达到了有可能商业化的地带了。所以现在就非常需要一个从产品、从product出发的这种角度去想哪一些问题是我们必须要解决的，哪些问题其实现在解决不解决都不是很重要了。这样就可以帮我们整个团队都做很好的prioritization（优先级排序），确保我们在技术研发、整个公司两年这个成长轨迹中哪一点我们都去做一些更正确的技术判断和一些选择。
然后从我们过去的demo里面可能也能感受到，我们做的一些demo、做的一些能力都是我们觉得真正落地就是必要的这些能力。而不是为了拍一个视频很fancy（炫酷）而去做的。可能因为我们这个领域也现在很火所以我觉得很多人的做法可能就是更demo-driven（以演示为导向），但我觉得那样的话可能是更本末倒置的。我们就从最终我们要开发或者生产、或者把几万个robot都要派出去，哪一些技术问题我们必须从今天就开始解决。从这种思考方式出发决定我们整个团队的技术路线。其实我也有个问题追问一下，包括像你前面讲hardware（硬件）的这个co-design（协同设计），包括像去了客户之后发现的一些经验。因为我之前自己也在比如说物流、挑拣这方面做过，我觉得客户他其实这个要求是很高的。
是！我就好奇就是说你们对于硬件自己做硬件的选择是一开始自己就想做硬件呢？还是说去了客户的customer site（客户现场）有一些什么样的经验教训然后让你们自己觉得不行我一定要自己来做硬件？对，我觉得两个都有。有一点就是从第一原则的话我觉得首先就是我们要做硬件、要做通用机器人那我们必须要从数据从哪里来用什么样的数据去做训练去引导这个硬件要怎么去设计。像我们现在已经发布了Dyna-2，我们现在预训练有大量海量的人第一视角的数据。如果我们预训练要从人学习那我觉得在做部署的时候你这个机器人的形态如果能跟人越像那个transfer（迁移）就会越好。但是在做人形机器人有一些要不要做腿、要不要做手这种trade-off（权衡）所以我们就从中间里挑了一个非常好的trade-off point（权衡点），就觉得我们现在做一些半人形加底盘的话可以从今天就开始部署然后也可以拿到从人数据去训练的很大的好处。这是我们的一些思路就从第一原则出发开始想硬件要怎么去设计。
因为你们现在不是做的一个全人形的就是humanoid（人形机器人）？对，你们是没有做双足也没有做灵巧手。但你们觉得现在的形态已经可以去落地做很多事情了？对，我觉得现在这个形态已经可以做很多事情。所以我觉得现在如果不能落地的话不是因为你没有腿或者你没有手，我们内部也做很多灵巧手的研究。现在就是纯fundamental research（基础研究）纯研究，而不是比如说有要把灵巧手落地的这个打算。因为我觉得现在的话这些灵巧手的硬件成熟程度其实还没有到能直接落地的状态。因为我刚才看你们demo其实都还挺顺的，但是我看有一些灵巧手的demo反而会把这个动作给降慢下来。这也是你们的一个考量吗？
对，我觉得灵巧手就现在做操作的话或者就做遥操的话其实比夹爪要难很多。要把这个灵巧手遥操的速度搞快也是很难的。所以就因为这些原因灵巧手的demo都会比较慢一些。你刚才说客户如果他不能落地的话不是因为手也不是因为脚是因为模型不够好吗？我觉得就是整个系统不足够好吧。因为我觉得一套系统能不能落地我们也在部署的blog post（博文）里也讲不仅仅是模型必须要百分百能做得好，你也必须要有很多observability（可观测性）。就是说你要知道在这一天你这个模型干了啥、你的robot（机器人）干了啥。还有这个在robot上的电脑有没有一些resource contention（资源争用）和其他的东西？所以我觉得这些都是对部署很重要的。所以我觉得每一次比如说我们更新机器然后更新模型的话我们把这些工作都做好，这样我们就有一个observability（可观测性）。在真正的用户的customer site（客户现场）上……
Jason讲到了很多很有意思的点，包括像机器人的形态对于Cross-embodiment transfer（跨本体迁移）的影响。包括像你前面讲到GPT moment和internet scale（互联网规模）这样的一个数据量，这些我们之后可能都会有的。对！好，我也对你们在deployment（部署）当中学到什么东西非常感兴趣。好，我们要不要从day 1给观众复盘一下？觉得可能跟你在整个的research当中的一些taste（研究品味）跟你自己的一些选择，可能也奠定了之后Dyna的一些技术路线。你是什么时候对机器人开始感兴趣的？我其实是从博士就是博一开始，因为我的导师他就是做机器人和强化学习的。宾大也有GRASP Laboratory就是一个很大的机器人研究中心。刚读PhD的时候其实我是本来想去学习强化学习的，因为你大学的时候其实都是在做强化学习那一块。
大学的时候我其实也没有做很多的研究，当初大学的时候就在探索很多不同的方向。但是我就觉得Reinforcement Learning（强化学习）非常的make sense（合乎逻辑），我就想继续读博去研究。因为其实更早的时候就是我在国内长大的时候，小时候就下了很多的围棋。所以AlphaGo刚出来的时候正好我高三在美国我就觉得这个东西很神奇能把这么难的游戏都给work（奏效）了。所以我就说那我上大学必须要研究一下这个东西，当时就觉得挺有趣的。所以我就继续去读了个博士。AlphaGo打败李世石的时候是你高中的时候吗？对，那一场比赛对你来说意味着什么？他们两个不仅仅下了一场下了五场。我就很惊讶AlphaGo可能是4比1打败李世石，因为我当初很小的时候就看李世石、古力下围棋。所以当初（AlphaGo）把李世石打败我就觉得这是不可思议的东西，特别是后来那个"神之一手"出来的时候第37步的时候有惊讶到你吗？
对，肯定是有的。因为我当时就觉得37步或者其他Reinforcement Learning（强化学习）能找出来一些方案就非常非常的神奇。但我觉得其实跟最近Language model（语言模型）能把一些很难的数学问题解决其实是同一个概念。在一些固定的场景里如果这个奖励函数比较确定的话AI它肯定能找到比人能想出来的方案好。这个原则我觉得10年过去都还是没有变的。当时就对比如说AI的这个大脑怎么做决策比较感兴趣，正好机器人是不是又是RL（强化学习）里面的一个？包括像我记得当时可能机器人自动驾驶都算是RL（强化学习）里面的一些比较主流的应用是吗？对，但我觉得在机器人这个领域……
强化学习必须更谨慎地使用，因为它是实体性的。我觉得强化学习能成功，最大的原因是这个领域需要有好的模拟器，比如游戏本身就是个模拟器；或者做语言模型时，其自身就能模拟语言的演进过程。现在在机器人学的许多应用场景中构建好的模拟器非常难，所以目前教机器人跑步、跳舞等大多是在仿真环境中通过强化学习实现的。但对于抓取或密集接触操作，我觉得目前的仿真技术还有一定差距，我不太鼓励直接在真机上运行强化学习。
我曾做过相关实验，但在真机上进行并行化的程度太低了，远远不如模拟器可以四千个环境一起跑。这也是为什么你们选择毛巾作为初始任务的原因吧？万一力度控制不精准，毛巾也不会被捏碎。不像之前包装维生素瓶子时，力气大一点整个瓶子就会压碎。所以公司在一开始想在商业化和技术同步推进的生态下，先从叠毛巾、衣服出发。因为很难把毛巾叠烂，容错率较高：机器人会出错，但不是致命错误；最差也就是撕烂毛巾或衣服。目前好像还没有发生过这种情况。
这挺有意思的，因为我认识的很多强化学习研究者都认为游戏非常适合做强化学习，包括DeepMind也是先训练了很多游戏模型，然后才转向大语言模型的。但你没有往那边走，反而选择了机器人领域的强化学习。这是因为你导师的建议吗？还是你自己的兴趣所在？
可能当初做博士时主要是出于我自己的兴趣。我在机器人领域开始做的几篇强化学习论文，我觉得做得还不错。当时导师也建议我继续在一个路线上深耕最顶尖的工作，这比做很多不同领域、每篇都马马虎虎的工作投资回报率更高。你是怎么寻找自己感兴趣的论文选题的？是喜欢挑战现有认知这样的方向吗？
对，因为从你的论文题目和选题都能看出来。其实我在博士的后几年都是这么想的：写论文时，问题必须很新颖，没有基线方法。因为我觉得机器人学目前未被解决的一大原因，就是问题定义其实大家还没有完全统一。如果在大家都没有共识的问题定义前提下，去写一篇已经设定好问题定义的论文并击败基线方法，我觉得意义不是很大。
机器人学习能做的东西空间其实很大。所以我在博士后几年，是从第一性原理去思考：如果要把强化学习在机器人上真正跑通，有哪些瓶颈？很容易发现最大的瓶颈就是奖励函数无法设定。如果你玩围棋，游戏规则本身就是奖励函数；但在机器人学中，无论是学走路、跑步、跳舞还是抓东西、切菜，没有人给你奖励函数。你无法用数学方法完全编程描述如何切菜这件事。
是的，我就觉得当时这个问题必须要解决，如果不解决这个问题就没法做强化学习。这种感觉也很有意思，因为在生活中完成一件事比如拿杯子没有标准答案：你可以走左边去拿，也可以走右边。这时候该怎么设计奖励函数？这是不是你前面聊到的一些观点？因为在很多操作任务上其实没有最优解。所以我有一篇论文叫VIP，是从人类视频里学习先验和大的奖励模型，用人的做法作为指导。
当时应该是2022年在Meta做的那篇论文吗？对，Meta内部一直有研究机器人的团队。之前更偏学术一点，因为当时FAIR在2022年可能是其做基础研究的最好时光。现在情况就很不一样了。所以你当时VIP那篇论文解决的问题是说，从人类视频的时间顺序里学习价值函数？
对。比如我去抓一个东西，从第一张图到最后一张图就是一个过程。把这个过程的顺序理好，就可以帮助判断：现在机器人做同样任务时这张图解决了百分之多少，下一张图又解决百分之多少。这对这种任务是种很可扩展的方法来学习奖励函数模型。2022年时机器人数据很少，现在我觉得还少，当初就更不用说了。所以当时这种做法很合理：你说的遥操数据也好，非遥操的机器人视频也罢，数量都很少。
所以当时觉得必须有一种不从机器人数据上学习奖励函数的方法，因为最后还是要解决人在物理世界中想完成的一些任务。所以从人类视频出发是很合理的。当时你的人类视频是用什么样的数据？是UMI或者其他来源吗？当初还没有UMI，2021年有一篇从FAIR出来的论文叫Ego4D，可能是第一篇大规模第一视角以人为中心的视频数据。
当初那个数据其实有3000小时，是戴着什么头盔采集的吗？这个细节我可能不知道了。当初我觉得3000小时很大，算挺多的了，当时就是很多数据了。但从现在的规模比来看，3000小时就太小了。你们刚训了一百万小时对吧？对。但我觉得很有意思，从你当时的研究一直到现在是有连续性的。感觉Dyna-2也是在讲如何通过更现成的、相对容易采集的互联网视频数据形态来实现连续性。
其实并没有特意想去用我之前的论文。说实话，做机器人必须要实际一点。我之前的一些论文可能有时候过于超前了。所以我们等一下可以讲一下Eureka这些工作。我觉得当初做研究可以，但如果想用这个技术去做产品，还不太合理。所以我们Dyna刚创立时，我其实很少用我之前的一些方法，而是把一些我觉得肯定能工作的方式先扩大规模。
你觉得你2023年在英伟达做的Eureka论文是太早了吗？其实我觉得当初做出来的效果就很惊艳了。当时就是第一个能不仅仅展示转笔这个Demo，大家可能都看过，但它是用AI自动生成奖励函数。我后来做功课才发现，你那个时候已经让GPT-4去写奖励代码了？对。其实跟现在Astra写很多东西相似，但唯一的区别是当时GPT-4是直接去写奖励代码。
它不是直接给策略，也不是直接驱动机器人的。对，当初就是用GPT-4先把奖励代码写了，然后我们就在仿真里跑强化学习。强化学习会有一个策略，你可以看这个策略的性能，然后告诉GPT-4一些反馈。这样基本上就是一个递归自我改进的过程，把奖励代码一直迭代下去。这是很早的RSI（Recursive Self-Improvement），现在大家都叫这个，当初名字没有这么花哨。
是的。所以你们用另一套方案是让当时应该是英国的Shadow灵巧手学会了转笔？对，是在这个模拟器上学的。但我觉得真机上按理来说也应该可以，只是工程任务会很大。当初灵巧手市场也没有很多选择，不像现在可能只有Shadow Hand可以做。但Shadow Hand其实挺贵的，当初几万美金一只，我们当时也没有这个资源。所以我们就先在仿真里做了研究。
我觉得一开始先把一个想法从模拟器中验证，是一个很好的做研究的方法。但我们接下来发了一篇论文叫DrEureka，就是教了一个机器狗在做瑜伽的那种球上保持平衡和走路。那个就是我们把Eureka放到真实世界的一个后续研究。我有一个跟进问题：最近GPT-6、Astra在机器人领域的一些影响，很多人都在讨论它现在对整个机器人的影响。跟你当时用GPT-4去写奖励代码带来的用途，有什么根本上的区别吗？
我觉得根本上的区别是：用GPT-6的话其实你直接跟它说你要啥，它就能一口气干很多事情给你完成。当初我们用GPT-4时Eureka也开源了我们自己的代码，你可以看我们是怎么让GPT-4自己写代码并融进仿真里的。像现在GPT-6它可以自己把仿真给你安装好，然后全都弄好。
对，但能力也肯定更高了。从前GPT-4还主要是做一个语言模型，所以它对视觉、对空间的理解其实不是很好。像现在的话GPT-6空间理解很好，所以它可以直接就完成一些对空间推理要求很高的机器人任务。所以我觉得这是一个本质的区别。在未来会有哪些领域更多会用到像GPT-6这样子的智能体驱动的机器人技术？
其实我觉得这两者之间在我看来没有很大本质的区别。最重要的就是我们得给这个模型或者智能体系统一个奖励函数。比如你训练一个模型，你有训练损失，你可以跟GPT-6说你就一直改参数直到达到比如2.3左右的训练损失。如果你要让它做智能体机器人技术也是同样的概念：一直写代码直到把这个任务能做出来。所以最终就是要给这个模型一个目标，奖励函数很重要。
你2023年在英伟达的那个路线其实非常英伟达，大量地依赖这个仿真。当时应该Jim Fan跟你在那篇论文上也有合作？对，Jim Fan是那篇论文的末位作者。我当初就是跟Jim和Yuke在NVIDIA里合作的。但当初我们做这个项目时候也没有说必须要用仿真，因为当初我先做了VIP从人的视频里学奖励函数。所以我们一开始想做转笔的时候思路是先用人的视频去学能不能把转笔的奖励函数这个功能学出来。
但当初我在尝试这个idea的时候我就发现，首先我没有一个真正的灵巧手可以在真机上验证转笔的策略。所以我说如果真机是瓶颈，我们必须要从仿真里开始。但从仿真开始这个问题就非常明显：在仿真环境里我都不知道这个模拟器能不能训练出一个模型可以转笔。因为模拟器的最大问题在于机器人学中有些任务你不知道这个模拟器能不能虚拟，就是连模拟都模拟不出来。
当初转笔因为没有人做过这个任务所以就是一个未知。然后我就觉得，好那这种情况我们就首先手搓一些奖励函数。但手搓奖励函数是没有出路的，就必须要用模型自己去开发一些奖励函数。所以这就变成了Eureka这个工作。你后来去了Google之后做了GVL，好像又是回到了之前VIP的一个延续的工作上是吗？
可以这么说吧。因为我当初博士大部分的工作就是解决在机器人领域奖励函数和一些其他的标注从哪里来的问题。我加入Google的时候当初正好Gemini 1.5刚出来，其实Gemini的多模态能力一直都不错。所以我就想有没有办法去把这些东西运用在机器人学上？所以我搞了一个算法可以用视觉语言模型直接做上下文学习去把奖励函数写出来。当时效果还很好，其实我当时还挺惊讶的：我就说为什么这东西会奏效？它应该不奏效，肯定不在预训练里。
然后现在也有很多创业公司就是做GVL这样的东西去做标注，标奖励函数、标子任务标注用视觉语言模型。所以现在这种说实话GVL可能比Eureka和VIP都更商业化一些了？对，今年我觉得出来了好多数据公司他们很大的一个落地方向就是卖给机器人公司最近超级赚钱。是的，然后标注就是一个大问题所以用视觉语言模型标注挺好。
你想要创业是在Google之后那你为什么没有加入你实习过的这三家公司反而是想要创业呢？可能是因为我当初做了很多研究然后我就觉得我其实想在真实世界上有更大的影响力。因为我就觉得写论文这件事对我当初来说已经没有太大的吸引力了。我觉得机器人具身的战场不是在实验室里写论文而是真正把机器人带到真正的应用场景里看看能不能奏效。
所以你当时就意识到部署很重要？对，因为我在学术界的时候不管是在这些企业研究实验室还是在学校做过很多论文然后做过很多Demo。我当初就觉得好像我个人感觉就是我是自己在评估自己的作业，没有一个真实的客户也没有一个真实的基准。因为在机器人学当初每一篇论文都有新的Demo想做得更酷炫一点但这些所有的任务都是研究员自己猜出来的。
就我自己设的任务，比如说我在DrEureka里教一个狗怎么在一个球上保持平衡这个没有人做过的在我之前但我当初想出来就是想验证算法我觉得这个很酷但我觉得跟实际应用场景那就是两码事。我就是想把我的研究做得影响力更大一点，我觉得去做个初创公司尤其是像我们这种产品和研究都在一起的创业公司学习率和影响力会更高一些。
我刚刚其实也好奇了你在三个不同的实验室都待过对你之后的影响是什么？是不是有哪些技术方面的影响？但是现在听下来反而更多是一种选择和非技术方面的会不会在商业化这方面对你的影响更多一点？我觉得我在这些大厂工作对我最有帮助的有几点：第一点首先就是人脉，之前的这些导师也是现在在机器人领域非常有影响力的人我跟他们其实关系一直都挺好。第二点我觉得就是
因为我在三个厂或者在PhD里，其实不是说我一种方法就一直写paper。就比如说我从人的视频里学，用VLM（视觉语言模型）直接来做推理，也用模拟器仿真去做一些reward function（奖励函数）。所以我觉得我之前因为我这个覆盖范围比较高，所以在创业的时候其实没有像刚刚说的，没有特定说我们必须要从一种技术路线来出发。所以我就更impartial（客观）一点，我每个时刻就看这个阶段用什么方法最好。这样我觉得让我们公司长期发展也会有帮助，不会只堵在一个技术路线上。
这里我其实还有一个跟进问题，因为其实你前面讲到你做很多东西，其实有些时候你不太期待这个模型能够work（奏效），但其实它最后反而actually work（真的奏效）了。那我相信现在可能有很多同学，包括现在在读PhD的同学，或者说准备想去博士深造的同学。你觉得现在模型已经能处理大部分的所有的任务吗？在模型方面还有新的research问题吗？还有没有必要读PhD？
对，我觉得新的问题还是有很多。因为我觉得做PhD最重要的就是要去探索新的问题，而不是在已有问题上比人家刷分高两三分这种。所以一开始讲我PhD这些工作的时候，我提的就是你要写的论文就是这种没有办法有baseline（基线方法）的论文。你去创新一个新的问题，如果这个问题make sense肯定自然会有很多人follow up（跟进）。
像我当初在Eureka的时候，其实也没有baseline（基线方法），我得自己想一些baseline（基线方法）。因为当初没有人从language model（语言模型）里搞reward（奖励），搞一些RSI（递归自我改进）这种东西。做VIP GVL也是相同的，要把problem statement（问题定义）想清楚。我觉得这是research最重要的。所以我觉得做PhD student的话，最重要就是要找一些新问题。
而不是要跟比如说GPT-6或者什么其他模型去比一些benchmark（基准测试），我觉得这样是没有太大意义的。你什么时候遇到York跟Lindon的？我是2024年3月份来的Google，当初刚来几周我其实就认识了Lindon和York。他们不在谷歌吧？他们Caper被收购了吗？
对，他们当初就被收购了。当初Lindon应该在迈阿密那边，York好像在国内被收购之后的休息期间吗？我觉得没有。我觉得我们三个都不是那种闲得下来的人。当初其实是Monica介绍的，刚加入Google的时候也其实在想接下来要做什么。因为我其实想把robot带到一些真正的环境里，而不是就在实验室里自己想任务。
所以我就觉得当初他们的想法跟我的想法其实是能走到一起的。所以那个时候可能是因为Lindon跟York他们是在上一个创业项目的时候两个人是已经互为co-founder（联合创始人）。所以他们项目被收购了退出了之后，他们在想下一个项目的时候想要开始做robotics。
然后这个时候可能Monica之前是投资人，现在已经肉身加入你们了。当时他们说我们需要一个做前沿模型这样的科学家，所以就找到了你对吗？对。我也好奇你当时有很多不管是research还是初创公司的方向你可能也有很多选择，Lindon和York身上有哪些特质跟你是特别一拍即合的？或者说为什么你选择了Dyna？
首先我觉得一点就是，我觉得要把robotics公司做好我个人感觉是不能只做学术。因为就算我是学术背景的，我最后还是想把一个模型本体做成一个产品出来。就是我们现在这个技术路线如果只跟比如说研究员一起去创业，那在这个founder team（创始团队）里就有很大的bias（偏差）。所以我觉得长期的话未必是最优的这种发展路线。
其次就是因为我也觉得他们也做过初创公司也做得挺好的，也是一个硬件的初创公司。所以我觉得他们会在某一些领域懂的东西跟我在技术上懂的东西很互补，所以我觉得这个其实挺重要的。Lindon、York跟你现在各负责什么？
Lindon更负责就是他是CEO（首席执行官），那就是executive（战略和管理）的东西，比如说对外找钱、找人、找方向。对，我主要管技术路线一点？对，就是研究员要做什么然后technical milestones（技术里程碑），整个公司technically（技术上）我们接下来要做一些什么样的东西。York其实是我目前见过做engineering（工程）最强的工程师之一，所以我觉得有啥特别难的东西他都可以做。
他也做engineering上的一些管理。你们三个会吵架吗？我觉得必须要有争议，我觉得如果没有争议那就是you don't talk enough（你说得还不够多）。但我不会说争议是吵架，我觉得争议是好事。这样我们大家就能尽早地发现问题然后解决问题。因为我们三个都是想把公司做好做大的。
比如说你们会在什么样的问题上有争议？可能比如说一些技术路线、商业路线大家有不同的想法，但我觉得最后都是能解决的东西。技术路线跟商业路线有的时候会有冲突吗？把Dyna这种公司做好其实最难的一点就是如何在商业和技术上能找到共鸣点。
你做这些任务既能推动我们商业的部署，也能让模型或者我们整个flywheel（飞轮）搭得更好。所以我们一开始学一些folding（折叠）就是这个原因，我觉得这是做Robot foundation model（机器人基础模型）的第一个任务。因为它容错你不会把这个东西撕坏，不像比如说洗盘子这种你打碎一个盘子那就很麻烦了。
我们就从这个角度出发找第一个任务、第二个任务，但现在公司做大了之后我们之后的这个策略也有可能有一些改变。我们回到Dyna day zero（创立刚刚起步）的时候，你们要发Dyna-1的时候，你们当时选择了叠毛巾、叠衣服作为你们的demo。那个时候我觉得还是蛮先驱性的，因为你们最开始也是叠毛巾的demo火起来的。
当然现在我们看到很多人公司都在叠毛巾、叠那个衣服，我之前去WAIC（世界人工智能大会）还有WRC（世界机器人大会）的时候发现每家公司都在叠衣服、叠毛巾了。但是那个场景是你们当时从商业化的考虑也从技术化的考虑觉得是一个很好的第一落地场景的这样的一个选择？
是，因为当初就觉得叠毛巾、叠餐巾这些模型应该是能做的。最大的问题不是模型能不能做这个任务，而是能不能100%去完成这个任务。我们第一个模型发布的一个重点就是说目前有这么多什么VLA（视觉语言动作模型）General model（通用模型），但都没有达到很高的成功率。如果成功率很低其实是没有任何商业价值的。
所以我们第一个技术突破就是能不能达到100%？接下来我们Dyna-1发布之后我觉得大部分其他公司都在那个方向有一些跟进，就发现很多公司都在发reliability（可靠性）的demo。说明我们当初发的东西其实是有很大的影响力的。对，你们三个开始创业之后有没有讨论过只做foundation model（基础模型）的layer（这一层）？
这件事情在你们那就没有任何的可能性吗？因为当时你看到比如说Physical Intelligence应该也成立了吧，他们其实从day one（最开始）就只想做这种intelligence layer（智能层），不想去碰硬件。但是你们从day one（最开始）就没有往那方面去考虑过是吧？
对，一开始的话没有硬件的情况下肯定就是首先买一些别人的臂去尝试先把模型做起来。但我们从一开始就有做硬件的打算，但把硬件要做好的话肯定是要花很长时间的。所以最近我们才把我们最新的硬件发出来，大家也可以看到。我觉得你们硬件还是能在一边部署的时候一边去改进硬件还是很厉害的。
我自己的共鸣是之前在做这种挑拣机器人的时候，可能有些时候因为这个线束它的设计得不当。包括像一些相机摆放的位置可能就导致你这个线受力过大或者影响你每一次重复的consistency（一致性）它的reliability（可靠性）。所以我也好奇是不是为了要达到很好的reliability（可靠性），你们在硬件上也要花很大的功夫在一开始？
对，那是肯定的。我觉得reliability（可靠性）就是真正不管你是intelligence layer（智能层）还是什么layer，我觉得最后都要做到。但这个reliability（可靠性）不仅仅是模型的reliability（可靠性），是整个system（系统）的稳定性。如果你只做模型不做硬件，这整个系统的稳定性很大一部分你根本就没有这个掌握。
所以我觉得这样做产品的话其实是会很吃亏的。你们最开始叠毛巾的时候其实都不是说一个现在一样的一个轮盘，也没有一个机器人的头好像那个时候也没有？其实就是两个夹爪。对，基本上是两个臂。你们当时在跟投资人聊的时候他们会觉得你们不够fancy吗？
我觉得有可能，我觉得是不够fancy。同时的时候你们看到很多公司已经有人形、双足、humanoid（人形机器人），但是你们没有觉得会干扰你们吗？是说做人形的公司有没有干扰我们？对，我们肯定是有想接下来硬件要怎么做。但我觉得我们公司一直都是非常务实的，不会说一步要做一个很fancy的东西没有落地的机会。
因为我们是非常相信这种用迭代去推进这个技术发展的这种理念，所以我们不会从零一步就做一个最终的硬件。这个中间出错率很高也没有这个商业落地闭环的feedback（反馈）。所以我觉得其实想把技术做好的话是很吃亏的一件事。
技术做好是很吃亏的一件事，这句话怎么理解？比如说你要把模型做好你就必须在你的硬件上做很多evals（评估）。但如果你的硬件很不稳定你连eval评估都做不了，你就无法知道这个模型如果工作或者不工作是什么原因。其实很多人形机器人都有这个问题就是这个系统太不稳了，就会对模型发展有很多不好的这种Negative feedback（负面反馈）。
但是像我们首先部署的话就用一些比较简单的系统，这样我们在现在目前的部署和模型可以达成一个飞轮。同步我们可以把自己的硬件做好，这样就有parallel（并行性）的这种概念？是不是除非这个任务本身涉及到比如说要跨越一些很复杂的地形，包括像需要有很大范围的移动否则不一定完全有需要做人形？
因为有一些人形的展示也是一个人形机器人但是它是在一个固定的地方。我个人感觉是没有什么必要。我觉得很多内部室内的工作很多其实不需要双腿，尤其是在比如说工厂或者商业的这种场景。但我觉得家用的话因为家用这个家都是给人设计的，人是有腿的。比如说你这个家里这个客厅有上下楼梯这种我觉得做轮式可能会有一些局限性。
但我觉得工业或者商业场景地都是很平的，尤其是在美国他们是有一些regulation（规定）就是必须把地做得很平。所以我觉得这对一开始部署的话是会有很大的优势。我们回到叠毛巾的案例上面来，叠毛巾的难点在哪里？
我们一开始觉得叠毛巾难但后来发现叠毛巾我们模型其实做得很好很快。最后难的就是把你叠完的毛巾能不能很整齐地一个一个往上叠，这个其实比较精准的要求比较高。尤其比如说你要叠10个毛巾在一起如果你第三个毛巾比较歪那你上面的毛巾就继续歪。这就是compound（累积放大）。
对，compound（累积放大）所以每个毛巾都要叠得非常整齐在很准确的位置上。对，所以把这些整齐度提升后来发现其实还比较难。中间最难的一点是什么？比如说夹爪它的难点在哪里呢？就是说我发现我叠错了我怎么把它给纠正过来。
这块是最难的吗？因为我看那个Dyna-1当中也是有三环，你的Foundation Reward Model（基础奖励模型）到Autonomous Exploration（自主探索）到Intentional Failure Recovery（有目的的失败恢复）。是不是这种Intentional Failure Recovery（有目的的失败恢复）也就是说我搞砸了我能够把它给掰回来？
这一步其实是模型最重要也是最难的一步。对，这种是肯定最难让模型学习的这种动作。所以我觉得是有一些难点的。但我觉得现在Dyna-1一年多之后了，我觉得这个在我们公司目前来说我们知道如何去解决能解决得很好。怎么去解决？这个就不能透露了，是通过RL（强化学习）的方式吗？
我觉得RL（强化学习）是一种但我们有多种秘密的recipe（独家秘诀）。对，其实我待会在那个World Model（世界模型）这方面我也挺好奇你们的一些技术路线的选择以及World Model（世界模型）的一些具体的应用方式。是不是能帮到这样的类似于这种的failure case（失败案例）？
要不要现在就问？好呀。对，其实我也好奇因为你说一开始的这个错误可能之后会compound（累积放大）。现在有了这个World Model（世界模型），我知道你们没有选择在inference time（推理阶段）去产生未来的video prediction（视频预测）。但是如果选择的话是不是可以理解为可以去预测未来的这个视频是什么样子？
那在inference time（推理阶段）的时候是不是就可以去预测可能的错误情形，从而在就像比如说你下围棋在inference time（推理阶段）就想了很多步哪一步可有可能有问题然后我再dynamically（动态地）再选择？因为跟这个相关的其实也是Dyna-2达到了比如说110毫秒可以生成未来3秒的这个视频，按理说应该也算比较快了。
你们为什么没有在inference time（推理阶段）的时候产生这个视频？我们在写那个blog post（博文）那几个模型是没有用到inference time（推理阶段）就是产生视频。但我们现在的模型是有这个能力的，但我觉得很多情况下有一些问题可以用更简单的方法去解决我们就用更简单的方法去解决。
像这个inference time（推理阶段）generate video（视频）其实是比较昂贵的东西，所以我们现在还在探索哪一些场景真正需要这个能力哪些其实不需要。对看来还是很部署聚焦，第一步想到的是部署包括像成本和性能的一个平衡？
对不仅仅是部署。我觉得就是在machine learning（机器学习）里总体来说更简单的方法它其实更work（奏效），更能scalable（可规模化）。所以我们经常从做研究的角度要选一些非常简单非常巧妙的东西去scale（扩大规模），因为我觉得太复杂的东西就很难真正运作。
就是说太多里面可能有几步就很容易出错或者调参的话要调得很惨。这一点是不是也是你从一开始到现在贯穿的一个不管是科研还是技术上面自己的一个taste（技术品味）就是要做得简单要做得比较精巧这样子？
对，越简单越好。太复杂的话我觉得就很难真正地去运作。其实现在你看一下比如说在语言模型里所有的一些big idea其实都不是很复杂，尤其是一开始的一些deep learning（深度学习）idea。越简单的东西更scalable（可规模化）。
好，那我们回到这个deployment（部署）上面来。我看你们当时Dyna-1是在6周之内最开始只能跑5分钟，然后变成1个小时、8小时、24个小时最后能够一天折800多条这个餐巾。过程当中发生了什么？为什么会要有最开始只能跑5分钟到后面能够ready的这个过程？
对，在这个5周过程中其实我们用模型自己的rollout（策略执行轨迹）或者我们继续去做targeted error recovery（针对性错误恢复），可以收集很多很高质量的数据。可以让模型每次重新跑的时候就会有大量的质量进步，所以这个就是Continual learning（持续学习）的一个过程。
但是这是不是说你们当时把模型或者你们的机器放在一个新环境当中或者放到一个新的客户那就需要那么长的时间去部署？其实不是的，我们这5周
其实就是讲我们当初做research的5周，真正部署像我们最近的话部署，其实有一些场景、有一些任务其实几天都不需要就能达到一个模型跟客户的要求是完全一致的。这种能力Dyna-1的时候，你们就已经找一些真实的客户，然后把机器人送到他们那个地方开始去给他们叠餐巾了是吧？对是的。当时有跟哪些客户合作呢？其实我们从Dyna-1的时候我们就跟鼎泰丰有一些合作，当初就是非常early pilot（试点），他们也很开放吗？让他们的厨房给你们开放。挺开放的，我们一开始都比较喜欢更开放的一些客户，因为我们一开始也不能保证我们的模型能work。所以如果能在这些应用场景里迭代、能收取一些教训，其实对我们公司发展帮助挺大的，尤其在早期。
当初我们就在鼎泰丰尝试去叠餐巾，这个任务其实特别特别难，所以现在真正能做出来其实我觉得也是一个Very big milestone（里程碑）。难的点是在把它叠整齐。对，其实叠餐巾比叠毛巾要难很多，叠毛巾其实你叠两下差不多就行了。但是如果你去看一下鼎泰丰或者其他餐厅的这些餐巾，它都是叠得很细致。所以这个客户的要求，比如说几毫米和一厘米这种差别就是及格和不及格的这种区别，所以这对模型的精准度要求很高。你能不能把叠好的餐巾放在一个盒子里摆得很整齐？如果摆得不整齐，有时候这些餐巾就算你一开始叠的时候叠好了，你放到这个盒子里它就会乱掉。
我看你们当时给他们有5个等级1、2、3、4、5，它分别对应它能做到多少的准确度或者做到什么样的任务？对，就是5和4或者5和3就是几毫米的区别那么细微。对所以能把模型做到在这几毫米这个容错率都能达到最高的等级其实是很难的事。我看Dyna-1当时你们说的实验室里面，实验室的成功率是做到了99.4%，但是只有75%的叠餐巾是达到了后来真实的客户标准，中间的差距是为了什么呢？
这个成功率就是按有没有把一个餐巾折好去算。所以如果它是等级3、等级2也算折好，但这个pass rate（合格率）就是你刚刚提的75%，这是按我们在所有折好的餐巾里有多少个是达到了等级4和5。客户他最后只接受等级4和5，等级3是不可以接受的。对internally（在内部）做评估还是有一个12345这样，我们就知道我们模型现在的进展在哪里。是的但不过我也好奇，在这么难的提高百分之零点几的这样一个成功率的要求下在当时是靠模型的进步来改进还是说尽量采集更多真实的客户数据来改进的？
我觉得都有，模型有很多的进步，数据也有很多的进步就是更高质量的数据。把这种一个任务做到百分百这个质量很高的这种训练你做几次就能感受到这个高质量的数据和低质量数据的差距和差别。我觉得真正做部署或者做产品的话是很重要的东西。Dyna-1的数据是怎么样的一个构成？我们当初所有的数据都是我们自己内部采的，但现在就很不一样了。因为现在有很多很多的数据，我们不仅仅是要利用我们自己采的数据而且利用所有我们觉得能用上的数据。所以其实有很多新的research课题要做，Dyna-1是全部用的遥操数据对采了多少小时这个我们就不用透露了。
但是都是在你们办公室所有自己的研究员去采的对用自己的研究员去采的因为我记得好像一年半（前）去你们办公室采访的时候看到有人现场在不停地采。对，采数据我觉得是必须一直做的工作。对我们待会可以聊聊Dyna-2的那个数据，我还有几个关于Dyna-1部署Deployment的问题。你觉得Dyna-1的部署给你们最大的教训是什么？
最大的教训就是我们在实验室里做的东西跟真正能deployment（部署）的东西其实差距是很大的。因为就像我们刚刚Dyna-1做出来的时候是业界里成功率最高的模型，但这个成功率最高的模型带到商业场景里真正的deployment（部署）其实gap（差距）还是很多的。就像我刚刚提的一些问题，比如说整齐度、Language following（语言指令遵循）或者速度。其实Dyna-1的速度也没有达到真正鼎泰丰可以接受的速度，所以我觉得就算把成功率堆上去了其实还是有很大的gap。
但幸好你们有一个听上去比较耐心的客户，我之前工作的公司叫Vicarious后来就被Intrinsic收购了。可能有些客户他对于cycle time（单次作业周期）的要求高或者他不一定那么耐心的话，可能你就要去花很多资源去做这样的一个客户。作为一个startup（初创公司）与此同时也要考虑到多个客户的这种pilot（试点）。像我们前面讲到技术和商业的结合和balance，你们怎么样在做好一个客户的前提下也要去覆盖到会不会有多个试点同时在进行？
我觉得这有两点，第一点就是如果这个base model（基础模型）越来越好就可以帮你把任何部署都做得更快一些更通用。第二点就是管理这个试点我觉得其实是挺重要的，因为不同的试点、不同的deployment（部署）有不同的问题。Deployment（部署）到足够数量的时候你就会同时排查出所有的问题，我觉得这样对把engineering做好其实是有很大帮助的。这就是scaling（规模扩展）的问题，你在一个deployment（部署）上面发现问题跟你在同时部署10台、100台、1000台发现的问题都是完全不一样的。
你每次scale（扩大规模）就会发现新的问题，所以我觉得作为一个具身的公司必须要有这个conviction（信念），就是我真正要把部署做下去要scale下去。要不你永远就在1到10台或者1到5台这种境界的话你是很难发现很多，你只有scale up（扩大规模）上去才能发现一些在运营和deployment（部署）的问题。对，大家提到成功率这件事情我也听说机器人行业中的成功率我们要怎么去看待它？虽然99%听上去是一个很高很高的成功率的数字了。
之前其实君武也跟我聊过Vicarious这个公司也是做到了百分之九十几的成功率但是还是没有办法很好地存活下来，所以后来就被收购。那就是因为99%的成功率当你去重复这个任务1000次的时候它是有10次是做不好的，那10次有可能就把整个生产线给弄混掉了。所以对客户来说可能是没有办法接受的，这就是为什么机器人公司必须对产品形态要有很多深刻的思考。像流水线这些任务就是conveyor belt（传送带）物流的这些任务，我觉得成功率就是致命的东西。
如果你成功率不是100%那就说明这整条线上会有一些物品你是没有把它做好，那就说明这个robot做完工作之后下游必须还有一些机器或者一些人去做QA（质量保证）把这个质量保证好。其实这样的话你的机器人其实没有autonomously（自主地）把整个线都包了，其实给人或者其他机器加了更多的工作。所以我们一开始就觉得做conveyor belt（传送带）这些其实不是做具身智能通用智能最好的出发点。
所以我们一开始追求的任务就是这个机器人能不能它就把自己这整一个任务全都包掉的这种workflow（工作流）。如果机器人它能把整个workflow（工作流）就不需要任何人去做QA（质量保证），不需要任何人去做intervention（人工干预）也能做好。就算这个机器人现在比较慢它同样也是能产生商业价值的，我们就觉得要从这里出发引导我们怎么去做技术、怎么去做模型、怎么去做硬件和其他所有的一些Technical decision（技术决策）。
我看你们把Dyna-1的10个月的deployment（部署）称作是Bitter Lesson（苦涩的教训）。Bitter的点在于你们发现这个东西即便99.4%的成功率也是不够的吗？对，我觉得从现在来看可能是Bittersweet Lesson（苦乐参半的教训）。Bitter就是比我们想象得要难，但sweet就是因为难你就必须要去解决。如果你解决了你就会领先其他公司很多，因为其实很多要解决的问题都不是那种就是很酷炫的比如说搞个新模型把模型搞大数据scale上去了这些问题。
所以我觉得我们团队是有这种问题我们必须要解决的这种conviction（信念）。可能有一些团队其实没有这种DNA他们就永远不会自己想把deployment（部署）做得好，但我觉得这个长期的话可能会是一个劣势。你觉得这些教训如果你们没有做deployment（部署）的话可能你们是没有办法学习到这些教训的？对是这样的，所以你们是有专门的deployment team（部署团队）是吗？可以这么说我们有个产品团队但deployment（部署）也需要很多research，所以我们做项目都是非常collaborative（协作的），不是说就是一个队在做大家都能帮上忙，硬件、软件、模型产品、部署运营都可以。
我看从Dyna-1到Dyna-2你们整个的模型上面其实变得挺多的。你们当时为什么不说Dyna-1做了之后发现deployment（部署）的问题不是针对当时Dyna-1的问题比如说把数据再做好一点把这个准确率再做高一点再把deployment（部署）做好一点，而是说回到模型foundation model（基础模型）上面对模型进行一些新的创新？这个决策或者这个过程是怎么发生的？
其实我们当初Dyna-1是一个VLA（视觉语言动作模型）模型，我们在VLA（视觉语言动作模型）模型做了很久的时候就发现其实这个模型从框架角度来说是有一些缺陷的。所以在VLA（视觉语言动作模型）上你可以做很多很多的补丁，但我觉得最后补丁做多了我就觉得很难继续在一个不是特别稳固的基础上继续把东西做大。所以我们当初又同时在deploy（部署）VLA（视觉语言动作模型），同时在fundamental research（基础研究）里开始做一些更我们觉得能scalable（可规模化）的一些架构，这就变成了我们现在做的Dyna-2 world-action model（世界动作模型）。
我们当初就觉得有很多性能都是一个质的提升，就比如说泛化性、Ability to follow language（遵循语言指令的能力）其他很多东西我们在blog post（博文）里也讲了。因为我们最后的目标不是说就在一个鼎泰丰或者在一些宾馆里折衣服，我最后还是要做一个通用的机器人智能平台。所以从这个目标里来讲的话换模型或者要做更scalable（可规模化）的东西其实是很本质我们愿意去做的东西。
这里能不能简单给我们听众拆解一下就是说什么是VLA（视觉语言动作模型）和world-action model（世界动作模型）的区别？以及Jason你前面讲到比如说VLA（视觉语言动作模型）会有一些缺陷这些缺陷主要是在哪里？我觉得World Model（世界模型）最重要的东西其实就是一点，就是我们去做模型它要推理一个东西。做VLA（视觉语言动作模型）的话你就是去算这个机器人的轨迹action（动作），做World Model（世界模型）的话不仅仅是机器人的轨迹你把整个世界未来要发生什么这个轨迹也去用来做训练。
这样的话就可以让这个模型学到更本质的一些Feature（特征）和information（信息），帮助这个模型去推理这个世界接下来会怎么发展。我觉得这个其实是对机器人泛化和其他一些能力都很重要的一些任务。你们当时在比如说一边在部署VLA（视觉语言动作模型）一边在探索别的Model Architecture（模型架构）的时候除了World Model（世界模型）以外还探索过别的框架吗？为什么选到了world-action model（世界动作模型）这样的一个框架？
因为我们当初的思路是我们想从video model（视频模型）里出发，因为视频模型它已经能预测视频这个对在真实世界上做一些physical manipulation（物理操作）是会有很大帮助的。我们就觉得视频模型它有很多property（属性）VLA（视觉语言动作模型）没有，所以我就觉得能利用上。所以我们就从那里开始出发，当初其实除了VLM（视觉语言模型）和video model（视频模型）也没有其他太多的模型可以去做探索。
还有一个小追问，比如说就算在World Model（世界模型）里面当然除了这个diffusion-based（基于扩散模型的）也有预测这个pixel（像素）本身的，可能也有像JEPA（联合嵌入预测架构）这样子的就是预测另外的一种representation（表征）。这算不算是一种可以选择可供探索的一个架构？以及你们当时为什么没有选JEPA（联合嵌入预测架构）这个道路？因为当初我们还是想从一些pre-trained video model（预训练视频模型）开始出发。
像大部分pre-trained video model（预训练视频模型）它们一开始的use case（应用场景）都是video generation（视频生成），所以它们就已经预测视频了。当初其实没有什么JEPA（联合嵌入预测架构）的checkpoint（模型检查点）可以用，明白。那要预训练的收益是不是说互联网上海量这样子的数据都可以来用？是的，这样就可以让你的迭代速度快很多。
所以你在做Dyna-1当时你们都是在用遥操数据的时候，当时你是不是就觉得说已经知道说这不是最终的解决方案有一天还是得需要用大量的互联网数据去做？这个可能又回到你的VIP还有比较早期的一些其实也不是说遥操是不正确的方案。我觉得robotics我们现在还是要分预训练和后训练，在预训练的时候那就是什么东西能给你最大的覆盖范围、能最广给你最多的数据你就应该用那个数据里弄明白怎么让这个模型generalize（泛化）。
但是如果你要做后训练要真正把模型部署到一些商业场景就是这个稳定性和质量要求特别高那就是后训练要干的事。遥操是能收集最高质量数据的唯一方法，我觉得其他任何数采的方案都会对质量有一些差距的。所以在Dyna-2当中后训练当中也是还会用到遥操的数据对，要用的遥操数据会比从前要少很多。像我们在Dyna-2.1就是我们接下来要发的东西或者在Dyna-2里我们都有就是用几十分钟数据就能学一个新任务的这些结果。从前的话我觉得几十分钟是肯定不行的，我们再深挖一下Dyna-2你们的这个发布。
我觉得你们最惊艳的一个结论就是用了100万小时的第一人称数据对，找到了机器人数据Scaling Law（规模定律）的端倪。能不能给我们解释一下这个research过程是什么样子的？其实我们当初就在尝试egocentric data（第一视角数据），我们当初就已经尝试了1000小时、1万小时和10万个小时这种级别的预训练。然后在这三个级别我们就发现了scaling（规模扩展），这个scaling（规模扩展）到1000小时的时候就发现了不是就从100小时、1000、1万到10万，所以就是4个阶梯每个阶段都发现说它数据越大就越好。
对就每一次我们把数据10X这个模型的prediction（预测）就变好，这个变好不仅仅是在预测这个人的运动。因为预训练我们只用了人的数据所以如果你更多人的数据让这个模型预测人的运动更好其实也可能不是特别的surprising。但是我觉得特别惊喜的就是在人的数据多了之后这个模型在预测robot action（机器人动作）就是机器人这个轨迹也会变得更好。但就是这个模型它当初做推理的时候它根本就没有见过这些robots，所以我觉得这个是非常惊喜的一点。
所以这个我们在blog post（博文）里也讲叫cross-embodiment transfer scaling law （跨本体迁移的规模定律），就是我们在想做cross-embodiment transfer（跨本体迁移）有没有Scaling Law（规模定律）。然后我觉得这个其实是非常重要的东西，因为就像我刚刚我们一开始谈Scaling
关于规模定律，如果数据总量不够，其实没有太大意义。但在机器人领域，遥操作很难达到100万小时的数据量。因此要做规模定律，必须从更可扩展或直接最可扩展的数据源开始。我们首先选择了人类数据，但在机器人领域，越可扩展的数据源与最终部署的机器人形态（如夹爪）差异越大。如果能从这种关联性较弱但可扩展的数据中获取机器人的规模定律，将是巨大突破，能让具身模型更聪明且减少对机器人数据的依赖。
那100万小时的第一人称数据是指从机器人视角看双手做事吗？其实是从人类视角，比如人头上戴相机拍摄。不同合作伙伴或内部设备的采集方式不一致，导致视角很广，加上衣着、手臂形态各异，这赋予了模型泛化能力。这些大部分是合作伙伴购买的，内部也有第一视角设备采集，但单靠公司内部很难达到如此大的规模。
这100万小时在现有机器人数据中属于什么量级？从公开信息看，这是最大的预训练规模。成本很高吗？确实有些贵，数据越多花钱越多，具体数字不便透露。但人类数据的成本远低于遥操作或其他采集方案，因为不需要教人如何操控机器人，只需给相机记录日常活动。
如果体量更大，互联网上第三人称或非第一视角的数据占比会更高吗？跨本体迁移有多少依赖于视频中人的形态与机械臂的相似性？如果换成第三人称视角，规模定律是否依然成立？应该会有规模定律，但斜率可能不同。从与操作无关的视频中学习能改善对世界的整体知识，但要直接迁移到操作任务难度更大。
Dyna-2中如果只扩大视频数据规模会怎样？我们主要扩展的是人类执行任务的视频，而非随机视频。我认为随机视频对机器人有帮助的可能性存在但目前证据不足。下一步是否会验证从100万小时到几百万甚至千万小时的规模定律是否依然成立？我们肯定会尝试，因为目的是找到可扩展的方法扩大数据规模。
有没有可能越大规模后才发现这不是真正的规模定律？这种概率较小，因为目前机器人模型普遍较小。大多数扩展结果并未同时扩大数据、模型大小和算力这三个维度，通常只扩一个轴。如果三个轴都做得很好，一定能发现不错的规模定律，但这工程量巨大。
数据显示从10万到100万小时的数据改善速度相比之前有所下降，这是否意味着数据量越大越难扩展？Dyna-2发布时发现斜率变低，原因是行业缺乏100万小时的高质量数据。在早期阶段我们使用的都是高质量标注数据，但到百万级时很多视频没有标注，导致效果提升放缓。
如果拥有真正高质量的100万小时数据，我们对规模定律非常有信心，它不会被放缓。博客中提到的World-Action Model不仅涉及视频预测，还加入了无动作标签的视频训练效果更佳。如何拆解这一实验结果？区别在于联合视频与动作建模需要所有数据都有动作轨迹标注，限制了可用数据量。
如果在纯视频预测上也发现规模扩展效应，就能让模型使用更多无标注数据。在人类活动视频中，标注动作、手部及关节标记非常费力。如果能用纯视频训练，将对模型泛化能力有很大帮助。这些无动作标签的视频主要用于训练世界模型吗？是如何预测未来状态的？
如何知道预测的未来状态真的学到了背后的物理规律？例如透明水杯是否有水、轻重门的区别，从视频上很难判断。这对实践重要吗？很重要，但确实有些任务难以通过视觉区分。世界模型的一个问题是缺乏触觉数据，导致无法感知真实世界的物理确定性。
目前大部分机器人世界模型从视频开始学习，但这对于某些任务是不够的，这是现有框架的本质缺陷。因为缺乏力觉等数据，采集难度大。之前采访Andrew Dai时提到视觉推理旨在让模型理解视频中的物理规则，但这仍处于早期阶段。
这些问题未必必须通过预训练解决。例如触觉数据在人身上没有，但机器人若有传感器，可在后训练中用少量数据学习。视频或图片重复性高、信息密度低；而触觉和音频每比特信息量更高。或许不需要百万小时触觉数据就能学好有触觉输入的机器人基础模型。
接下来会考虑加入触觉吗？我们在观察，但触觉在机器人学习领域争议很大，有人觉得不需要也有人认为需要。我们的看法是从实践中发现什么有效及在何种场景下有效。如果World-Action Model有缺陷，机器人研究的下一步方向是什么？是新的模型架构还是后训练中加入更多形态数据如力觉？
后训练一直是大方向，因为很难有一个模型零样本无需任何训练数据就能完成所有任务。每个客户需求不同，一个模型无法猜中所有人需求。因此如何用少量数据后训练以适配特定模型是长期工作。预训练则关键在于能否用可扩展方法采集高质量数据。
除了数据采集和质量，大家容易忽略的是数据的摄取（Ingestion）和基础设施（Infra）。如何读取并转化为可用数据，背后的工程量巨大。做百万小时规模训练不仅是模型问题，更是基础设施问题。没有好的基建连任务都跑不起来或频繁崩溃。
大规模实验一开始必须搭好基础设施，它们像幕后英雄一样重要且在LLM领域也是如此。虽然不被看见却至关重要，我们写博文专门讲基建让幕后英雄被看见。关于跨本体迁移，人类视频中什么真正被机器人学到了？首先是利用世界动作模型从视频判断物理规律并预测后续发生。
其次是对解决任务的大致策略，无论末端执行器是夹爪还是灵巧手，基本逻辑如移动手臂去抓取物体是可以学到的。这种概念完全可以从人类视频中习得，手腕等关键点也类似。但对于非常精细的动作，如果标注质量不高会有漂移，对灵巧手训练帮助未必大。
从100万小时到千万小时的路线中，数据缺口会多大？如果继续合作需要大量标注和高质量数据，市场供应是否足够？这是个好问题。供应是挑战之一，其次是基础设施能否处理千万级数据及标注质检工作仍需大量投入。
Dyna-2后的结论是不再把模型当产品，而是将模型、硬件、部署、数据基础设施、可教性和物理智能体一起扩展。这六根柱子共同支撑才是真正的规模定律，才能做出真正产品。机器人技术栈很长，只做中间部分很难做好，需遵循木桶原理每块都要强。
与鼎泰丰的合作相比上次优化不少，最终达到可当产品的程度并公开发布。数据提升显著：Dyna-1每小时叠35个纸巾，每天约480个；客户要求每天1500个（18小时班次）。Dyna-2每小时叠95张，每天达1590张，满足客户标准。
这其中有模型的大幅改进，但数据和其他持续学习环节也很重要。当达到每天1400个餐巾后，如何提升到1500个？此时没有太多容易取得的进展（low-hanging fruit），不是多采数据就能大幅提升，需要更精细的优化。
其实不是这样的，所以我觉得越离你的目标近，难度就越来越高。像一开始你没有模型，出来一个能叠30个餐巾的模型一小时完成，其实不是很难。从我们目前所知来看也不是很难了，但如果要进一步提升，可能又要在模型和数据上再进一步。对，我觉得是这样的。如果在一个任务上的提升都这么难，大家现在很多在讲通用机器人，一个机器人可以做所有任务。那你觉得真正要达到那一天是不是还有一些距离？
对，我觉得这个差距就是通用机器人。我不可能一个模型就所有任务都100%做到像zero-shot（零样本）那样难的东西，很难猜到人家的要求是什么。所以我觉得通用的话，如果能达到任何任务就是百分之七八十，用很少的数据就能fine-tuning（微调）这个模型去做customer task（客户任务），我觉得是个不错的里程碑。
会不会有一个风险，就是说你们的模型因为采集的数据都是跟客户的场景相关的？比如说叠毛巾、叠衣服这些，大部分的production data（生产环境数据）都是来自于这几个任务的话，会不会你们的模型就会越来越擅长做这些任务？反而它的就像君武说的general-purpose（通用的）之后的任务的泛化性可能就不会那么强？
我觉得其实未必是这样的。因为在预训练的时候，我们大部分的数据都是human video（人类活动视频），对吧？这些数据是非常多样的。我们内部的数据跟我们的人的数据比，是会小很多很多的。所以预训练我们是追求就是generality（通用性）。那肯定会有一些bias（偏差），比如说在我们的本体上有一些偏差，但我觉得这些都是好的偏差。
就像你要做语言模型，你想让它coding（编程）很好，预训练就必须把编程的数据这个百分比放大一点。我觉得做具身的话也是同样的。我觉得就是做general（通用），这是一个很虚的概念，我觉得大家最后都是有constraint（约束）的。就是你care什么东西，或者你更care什么？
比如说你更care灵巧手，那你预训练就把灵巧手的数据这个百分比放大一点。如果你不care，那你完全就可以做预训练没有灵巧手数据。所以我觉得这些最后都是根据你最后的目标来决定，你预训练的data mixture（数据混合配比）是什么？
你们刚才还提到一个概念，就是说机器人它最后要落地的话，它必须要怎么说替代一个人力？就是它要做这样的一个完整的任务，而不是一个任务中间的某一个动作。对，不然的话它是替代不了一个人力的，它也没有办法最终的被客户接受。那么在Dyna-2当中你们的这个落地还选择了比如说洗衣房的一些任务，对不对？
就比如说你们Dyna-2找的一些应用场景或者是想要进一步验证落地的方向有哪些？对，我们一开始还是先从洗衣房开始。因为我们之前叠毛巾的话就像你说的还是需要一个人过来把毛巾全拿过来，就是已经烘干好的毛巾拿过来。然后我们的robot叠完之后一个人必须要拿走其实这个是很繁琐的任务。
有一点比较非常有意思的就是，如果是一个固定的stationary robot（固定式机器人），这个模型越好那这个人的intervention（人工干预）率就越高。因为如果你robot模型更好那你叠得更快，你叠得越快那这个桌子上有很多毛巾人就必须要拿走因为就没地了。对所以就是你模型越好那人参与度就要越高，但如果你模型不好那就根本就没人买所以就比较尴尬的一个点。
从这一点我们就觉得那我们必须接下来要做一个像physical agent（物理智能体）一样的东西。就像agent，我们做physical agent这个agent它就把整个任务全包了不需要人去intervene（介入干预）。我觉得就是现在做coding agent（编程智能体）跟几年前我们那个可以做auto-complete（自动补全）的那些模型的区别。
当初做auto-complete的模型你过几秒我就要按tab键一下那我就一直看着它去写代码。现在的话就是把一个任务交给coding agent它就直接一口气就全做完了。我们想在这个physical world（物理世界）里也达到这种效果。接下来自然的一步会不会就是说你指的这个physical agent是不是多个机器人协同？
或者比如说你的毛巾就直接放在你们的一个可以移动这样的一个平台上自动的一个机械车就可以推走？对说不定我们会探索那样的路线。但我们现在的physical agent就是一个robot，我们这个robot是一个semi-humanoid（半人形机器人）。它就可以把一个洗衣房里所有的东西比如说洗、烘、叠然后把叠好的毛巾放在一个柜子上。
这些都能一口气端到端就是很长程的任务全部完成中间也需要很多reasoning（推理）就是推理。对我看你们demo其实就很make sense自己把毛巾送进去洗拿出来去烘干然后去按按钮还会扭它的那个转盘温度多高多低这些都可以做到。对是接下来要发布的东西就是在这里这就是我们周二要发布的Dyna-2.1自己开发的一个robot叫Taku。
在日文有一个词叫Takumi就是craftsmanship（工匠精神）就是指这个工作做得很好。然后我们给我们自己的robot也起了一个匠心的名字对匠心的对。
我们来说一下Skild这个公司，它们最近也是发了S1。理念就是一个brain（大脑）要学会adaptation（适应），他们说“任何任务、任何机器人，只需要一个大脑”的这种omni-bodied intelligence（全本体智能）概念。你同意吗？我觉得这是值得去探索的一个问题，觉得可能会比较困难吧。我个人看法是，最有价值的大脑就是人的大脑。我们的大脑只控制自己的身体，但这个已经足够好了。如果我们能达到人脑这种能力，那我觉得在某种程度上算Physical AGI（物理通用人工智能）。
所以我觉得我更care的是如何能在一个身体上，用一个大脑就能做任何任务。我觉得这个可能是更能行的路径吧。但从纯学术角度来说，如何能用一个模型去控制很多不同的robot（机器人），我觉得也有很多paper在看。对，但我觉得目前还没有一个突破，就是真正你在别的robot上学完，然后在一个新的robot上能做得很好这样。
说一下Figure这家公司，争议很大。它们最近好像是也发了新的demo（演示），反正我觉得它们每次发demo就会有机器人行业里面的人会喷一喷他们。对，我觉得它们其实硬件做得挺好的，很精致；然后它们的运控这个视频拍得都很丝滑。我觉得这些是我们公司也还在学习的一些点，因为Figure也没有做很多公开demo，所以你很难知道这个模型到底好不好。
我觉得大部分公司都是这样的，你很难亲眼肉眼看见它们的模型真的在做事。对，所以很难做一些比较客观的一些评估。行业里面有批评说它们的demo放得有点太激进：Demo放出来说，你有十次可能成功了那么两三次，然后你把成功的拼在一起。好像给大众一种印象说我的robot非常的fancy（花哨），它可以做好多好多事情，可以走进千家万户帮我叠被子、弄枕头、浇花。
还有很多的这种demo都可以出来，在机器人行业我知道有些公司是蛮鄙视人这样的一个行为的。对，你们觉得这种demo是对行业来说有害呢还是也能理解这种行为？我觉得都有吧。我觉得hype（炒作）那就是带动整个行业，就像Elon Musk那样；但我觉得不好的地方就是可能人们对我们机器人现在技术到达什么点有些mis-expectation（预期偏差），或者大家觉得通用机器人应该到了，但说实话现在还没有到。
对、对，所以可能是这方面会有一些negative impact（消极影响）。你觉得反而对那种很扎实的像你们踏踏实实做deployment（部署）的公司来说，会对你们带来一些噪声吗？我相信很多的投资人肯定会问你们说：它们可以做这些东西为什么你们不行？我们现在robotics（机器人领域）我觉得噪声很多。
所以这也是为什么我觉得做公司的话需要一个mission（使命），就不能就是别人这个公司发个demo，那个公司发个demo然后就非常被sway（带偏）。我觉得是要找本质上就必须要做的东西，然后把这些东西做好。我看你们联创York它有个bubble（泡沫）公式我觉得还挺有意思，他说它的泡沫等于“当前能力”和“公众期待”之间的gap（差距）乘以“需要补上这个gap的时间”。我觉得这做得挺好的，挺对的。
对你也认为是这样？对我挺认同的。York发这些观念的时候其实大部分都对，在业界很多人都很赞同这些。你觉得现在整个机器人行业的泡沫肯定是有泡沫的，但是这个泡沫现在大吗？我个人感觉还好吧。因为我觉得就算有一些hype（炒作），但也是真有很多的进展，现在一些进展已经足够能在某些场景里落地了。
就像我们做了别的公司也肯定做了一些，所以我觉得接下来这个进展肯定会越来越快。对，所以不好说现在是不是个纯泡沫就是没有东西然后炒作到很高那种泡沫。你说这个进展是，真的我们会看到一些工厂里面的应用场景开始运转起来？我希望是这样的。
像你说没有达到大家的这个期望，那这当中的gap具体到底是在哪？当然我知道我们刚刚也聊了很多这些gap了。如果一定让你说，比如说Top3的最大的原因有哪些？对我觉得最大的原因还是数据和硬件。如果硬件没有很多台那就很难scale（规模化），数据就是没有足够的数据，那这个模型智能不在。
我觉得做后训练的话就会更吃力，所以这两者永远都是瓶颈。觉得模型什么架构这些其实我觉得会每时每刻就会经常变，过几个月这个火过几个月那个火。我觉得这些都不是最本质的东西。如果这样说硬件足够重要并且它的产量足够重要的话，在美国硅谷市场那特斯拉会是一个非常强劲的领先者吗？
我觉得有可能吧。对但我觉得大厂的话，robotics这种事其实也比较难做。因为robotics是你必须要所有人一起合作，大厂不管是哪个厂它们都会有团队的这种概念：就是这个团队跟那个团队。所以我觉得很多时候这个信息、这个交流就不足够多，有时候尤其是做硬件的话有一些决定就很难改。
你做了你就必须首先把这几百台都生产出来然后再做下一代，这样的话我觉得迭代速度就会比较慢。我觉得在硅谷现在大厂大家有一个共识就是说intelligence（智能）它之后如果真的是要发挥到它最大的效益一定是要够physical（物理）的。所以我们看到OpenAI其实也是在非常快速地招非常多的顶尖人才去组建它们的机器人团队，而且它们跑得也非常地快。
对你会担心这样的竞争吗？我说实话不是特别地担心，因为我觉得我们做初创公司其实最大的moat（护城河）就是我们这整个flywheel（飞轮）。就我们会做部署，我们有大量在部署的数据，我们也对数据质量的要求。我觉得我们的见解会比只做大脑但是没有达到百分百成功率压力的公司要高很多，其次我们还有硬件。
我们把整个硬件模型都做成一个平台。如果别的公司有更好的模型或者它们有个模型可以帮助我们整stack（技术栈）每个部分或者某一些部分，我们都是非常欢迎地去用。对这也是我觉得从我角度来说我们公司这个架构上来说别的公司把模型做好都是对我们有帮助的东西而不是跟我们直接竞争。
不过我觉得我们刚刚两个问题都是讲初创公司和更大的公司的这些区别，我在两种环境都工作过。我是对你刚刚说的这个团队和交流是很有感触的，但是我也好奇在公司扩大规模的这个路上这个初创公司总有一天也会变成更大的公司。是的对你们是怎么看待这个问题的？
我觉得是个好问题，在早期的话如果能想办法就没有这么多障碍是最好的。然后我觉得公司scale up（扩大规模）最重要的就是公司文化能不能继续拥有，所以我觉得我们现在的规模还是足够可以管理的。就刚才我们说的特斯拉我也比较好奇就是说自动驾驶给特斯拉带来的一些经验，比如说它们的video（视频）、fleet（车队）然后它们的simulation（仿真）、policy learning（策略学习）。
这些东西其实会对它们的Optimus团队带来一些正向的帮助吗？自动驾驶当中有很多经验教训它是能够迁移到机器人公司里面去的，我觉得很多是可以迁移。就比如说data infrastructure（数据基础设施）这是肯定我觉得是能直接迁移的，但我觉得有一些其他的经验因为自动驾驶这个数据数量不是问题。
所以我觉得有很多机器人最本质的问题就是有没有足够多的数据，这个是个很不同的一点。但我觉得其他一些模型上的一些概念都是有一部分是可以迁移的。比如说在做智驾的时候就是你这个模型要推理这个车接下来的轨迹，比如接下来一秒、两秒钟要做什么。这其实在做无人车里是个非常standard practice（标准做法），这个已经做了很多年了。
但在robotics直到三年前左右人们才有像ALOHA这种paper说我们必须不仅仅要预测下一步的动作而是把下整个一秒或者两秒的动作全都预测出来。所以我觉得像这种想法是迁移得很好的。是的我也在想，我觉得自动驾驶很有意思因为它本来人就是在开这个车所以它数据采集可能比较自然。
但是对于如果大家要做通用机器人来说在数据这方面自己采egocentric data（第一视角数据）就是主要的路径吗？Ego目前最scalable（可规模化）的数据，唯一一个能更scalable的我想就是simulation了。是对因为simulation就是因为不管你是Ego、遥操还是比如说UMI（通用操作接口）这种夹爪都是operation很大的问题，人力的问题。
然后像UMI、Ego的话你需要很多的设备这设备也要维修所以其实是很繁琐的一件事。但如果是simulation那就是所有东西就是一个compute problem（算力问题），你有足够多的算力你就可以生成很多的数据有足够多的智能。所以我觉得这是The next frontiers（未来重要的前沿方向），也是其中之一。
那是不是也是一个鸡生蛋、蛋生鸡的问题？就是如果你有更好的Ground truth data（真实标注数据）你simulation里面生成的也会更加好一点。对所以我觉得这是一个开放性问题还需要很多的工作。我们刚才也讲到在整个硅谷我们看到有非常多这种顶尖的startup（初创公司）出来，包括像你们还有像比如说Sunday Robotics它们其实都做得非常好。
同时我们看到OpenAI、Meta、NVIDIA，我相信Anthropic也许有一天也会自己做robotics。因为确实是Physical AI是一个太大太大的蛋糕了。你觉得以后的终局会是什么样子的？是蛋糕足够大让很多的机器人公司可以共同存在，还是说它之后会有一个Winner takes all（赢家通吃）的寡头或者双寡头的这样的一个形式存在？
为什么是初创公司能够超越这种巨头能够跑出来？我觉得应该会有很多赢家，因为我觉得在物理世界里这个switching cost（切换成本）其实是非常高的。就比如说你是一个客户你有一套机器人系统已经用得很好你是很难把这个系统换出去的，因为这个原因我觉得distribution（分发渠道）做得越早其实是会帮助越大的。
那就是看哪几家能distribute更多early on（更早触达），我觉得这个优势会compound（累积放大）。但我觉得从model layer（模型层）来说switching cost那就非常低了，比如说哪一家出了更好的模型我们就用。但我觉得最后这个具身的价值还是在service（服务），你最终给客户提供的服务带来的价值，所以我觉得如果把那一层掌握得很好。
If there's many people（如果有很多人参与的话），就是很多不同的公司做不同的行业我觉得都是能做得不错的。如果模型可以切换Jason前面也讲到一般来说模型控制自己的这样的一个硬件或者说硬件和模型一起设计会比较有助于模型的效果。但是如果大公司比如说OpenAI或者Anthropic它们的模型用的机器人本体和你们的不一样，那这样的情况下这个switching cost还能够很方便地去切换模型吗？
我觉得如果要切换hardware（硬件）那就是真正的switch cost很高，但如果最终在某一个本体上最好的模型不是针对本体做的那个模型那我觉得其实对做这个本体的公司影响不是特别大，因为它们就可以换个模型。就比如说我觉得宇树它们现在能做很多跳舞的东西但很多跳舞的这些模型也未必是它们自己训练出来的。
但如果你有这个platform（平台）我觉得你的存活率就高很多。那看起来distribution和硬件设计其实至少目前看来还是比较紧密地联系在一起？对我觉得是这样，非常重要。你们选择把这个拿在自己的手里面，我们从战略角度上是觉得这个必须也要自己去做自己去用。
我觉得这个问题很有意思因为现在large language model（大语言模型）里面还是OpenAI和Anthropic或者就那么几家独大，可能有很多做agent application（智能体应用）的公司说这个是不是会不会大公司做出来类似的东西我们就会被替代。但是现在看来在硬件上因为它的switching cost比较高所以说可能不一定会有那样子的情况。
对所以我觉得distribution其实是最重要然后非常容易被忽略的一个东西。就比如说Muse从Meta，其实Meta在AI落后了很久一年多，然后因为它有distribution所以Muse一出来就很火。所以它们其实就算模型落后但人家有distribution，所以人家可以落后一阵子没关系。苹果也是所谓distribution就真正大家用的场景你抓住了可能就会和用户和付费和商业模式会更近一点。
对手机就是distribution嘛iPhone，现在你在iPhone上做任何软件你都要给苹果钱都要分红。对所以它都不需要自己做AI。我看硅谷大家其实在选择落地上面也是蛮分裂的，比如说特斯拉、Figure还有1X它们其实就非常地明显说要做home robot（家用机器人）。
我理解说可能它们觉得home robot听起来更fancy估值也更高其实是一个更大的市场因为全世界有几十亿的人口。但是另外一派就包括你们就是非常的旗帜鲜明地说要先去做工业的进工厂、进ToB（面向企业）的落地化。你觉得这种分裂就是会一直地并行地往前走？
其实我个人感觉是首先进工厂做ToB的话首先就是能进一个厂远比进一个家容易。你要考虑安全但是你不需要把这包装成一个完整的产品，一开始部署时候其次你也不需要担心比如说隐私这些问题或者有小孩这些问题。所以一开始就让你部署你就可以专注你就会很专注把这个模型和必要的闭环做好。
要做家用的话一开始做deployment你就要做成一个产品，有很多东西其实跟robotics本身没有太大关系或者就是跟具身智能没有关系。就是你做一个robotic产品就说做一个扫地机器人跟做一个家用你的一些考量都要做，所以我觉得一开始会让你进家更难。
所以我往往觉得就是如果能把ToB做好说不定接下来做ToC可能还会更快一点，因为我觉得一开始的话很多问题比如说模型要泛化、模型做东西要足够快这些大同小异。但我觉得ToB的话就可以让你的机器人进deployment setting much faster（部署场景更快），我觉得这个其实对做迭代挺重要的。
因为就像machine learning一样有个train set（训练集）和test set（测试集）。做home robot你就永远都看到不了test set，因为就算你去租几个Airbnb或者你在你自己家里去部署这跟比如说一个美国家庭去Best Buy买一个home robot这个家肯定长得很不一样。
做home robot这个test set比较难，但我觉得做ToB的话test set You know the test set（你是知道测试集的）。但是Dyna有一天可能也会做home robot我觉得这个不好说，目前没有做的打算。因为我觉得ToB的机会依然很多。
对你来说觉得做机器人的意义在哪里？做机器人的意义你是说对社会的意义还是对我个人的？对你个人的也对社会的。我个人的话我一直就很喜欢做research（研究）。
我觉得这是一个很好的机会，把我之前热爱的东西真能带到全世界的一个平台。做出影响力、做出影响力，然后把事情做成。所以关于世界的话，那我就觉得提高实体生产力、降低体力劳动，人可以更多地有自由时间去做他们想做的事。然后我觉得现在人工也挺缺的在很多国家，像美国、日本都是很缺人工这样。所以如果机器人能真正把整个工作流都做好，我觉得商业价值会很大的。无限富足这个概念比较大的，对对是的是的对确实是。
我觉得在想如果要讲未来的话，不管是Dyna-3还是比如说别的一些模型，我可能自己有一个比较好奇的一个点。就是说词元化，因为现在很本来从Transformer（变换器模型），大家都是把很多东西去tokenize（词元化）。那这样子的一个方式对于机器人来说真的work吗？机器人动作不像词语，它是可以这个就是它是有单个的，它可以是不连贯的。但机器人很多时候是连续的，不是离散的这样的一个token（词元）。我就好奇可能从科研角度你对未来有什么展望？
包括也可以聊一聊之后的Dyna-3的一些我觉得tokenization（词元化），因为tokenization（词元化）就是把一个连续的东西做离散的，那你肯定会丢失一些信息。所以如果就是精准度要求很高的任务可能会做得没有就直接预测连续的要好。然后Dyna-3我觉得这个现在还很难说我们会具体发布什么，对但我觉得现在我觉得是most exciting time（最激动人心的时刻），就是做机器人最激动人心的时刻。
所以我觉得有很多东西可以做，我们也在不同的方向也有一些探索。你希望Dyna-3能够证明什么？Scaling law（规模定律）真的1000万小时能成。我觉得Scaling law（规模定律）肯定是一个非常exciting的东西，但我们公司一直的看法就是模型技术只是整个stack（技术栈）的一部分。Dyna-3或者我们可能会care很多，把我们的半人形、我们刚发布的这个机器人和模型真正部署到很多应用场景去展现ROI（投资回报率）这样的。
技术上我觉得，我也提到了比如说人的数据、后训练、强化学习、simulation（仿真），我觉得这些还有就是突破的机会。所以Dyna觉得最开始成立的时候，它的RL（强化学习）的印记还挺强的。但是慢慢地我觉得它已经转型了，对。我觉得RL（强化学习）最重要的问题就是做决定要不要做RL（强化学习），这件事是个非常重要的决定。因为我觉得从历史这个RL（强化学习）发展的角度来看，你会发现RL（强化学习）最work的场景都是我一开始说必须要有一个模拟器。
然后这个奖励函数必须非常明确，对所以我觉得robotics说实话没有这些属性。所以一开始就用RL（强化学习）去做的话就是问题都没有看清楚就直接用一个解决方案。但是我们是更追求从一个问题出发去想解决方案，而不是我有这一个解决方案不管啥问题我都尝试去应用这样。这还挺有意思的因为Dyna这个名字其实是一个很RL（强化学习）的名字，对是的对。
因为我在一年半之前采访你们的时候其实并不知道Dyna跟RL（强化学习）的关系，是。然后采访完你们之后有一天我正在做强化学习的一个稿子，然后看到是强化学习之父Richard S. Sutton他写了一个Dyna。其实是他当时的一个框架的一个paper的名字，我说原来这个是Dyna Robotics名字的来源那是动力之一。对然后他那篇Richard的那篇paper其实不是只讲RL（强化学习），它那是讲一个world model（世界模型）去做RL（强化学习）。
所以其实跟我们现在技术路线也有一些相似，这个dots又连起来了。对我觉得RL（强化学习）没有world model（世界模型）或者没有simulator（模拟器），我就觉得是很难做的事。所以从技术路线角度来说你也可以看到，我们首先把这个基础base model（基础模型）、World model（世界模型）先做好然后再考虑要不要RL（强化学习）这种东西。对我是很喜欢Jason前面聊到的就是说要先有问题再找解决方案，就可能你们现在的问题最核心的还是说怎么样帮客户创造更多的价值。
或者我觉得预训练或者数据还是最大的问题，而不是要不要走RL（强化学习）。对先把数据的这个预训练的基础打起来。对让模型的这个泛化，是的。泛化能力先提上来，是的好的那以上就是我所有问题了有没有什么问题我没有覆盖到的你还想补充的。我觉得都覆盖到了，对因为我觉得我们聊了很多很多不同的问题我觉得挺好的谢谢Jason好不用谢。
非常感谢你们也来做这个podcast，非常期待之后Dyna-3是什么样子的好期待敬请期待。所以这是你们的新办公室对这是我们的新的办公室而这一层都是我们很多机器人和很多做研发的main office（主办公区）。我们就在这里跑很多model eval（模型评估），今天这个就是一个Conveyor belt（传送带）这种任务，就是把不同的这些比如说手套针都处理到不同的箱子里。像这个任务就是在餐厅里需要用不同的铲子把这些食物都放在这个餐盘里然后把这个箱子也关上。
这全都是autonomous（自主运行的），最后就会把这个关上我特别喜欢这个Pressing action（按压动作）对做得很精细这样。往这边我们就有一些更工业一点的任务在一个车工厂一些任务就要做一些精准度要求很高的这种组装。像这里就是要把这些不同的东西一个一个放上去我觉得这其实是我们现在做eval（评估）其中最难的任务之一。像这个就是另外一种精准任务这是一个冰箱，冰箱后面其实有很多要这种把一些管子要插进去的这种任务也是精准度很高。
对然后这个模型它就会尝试好几次像现在它就成功把这个已经给插入进去了。这个demo我上次见过是吗？对其实我们所有的demo都是从我们自己的这个Dyna-2 base model（基础模型）里做一些post-training（后训练）训练出来的。这个其实就是鲁棒性特别高我觉得它切得还比较均匀这个是拣药品对这个是拣药品把这些药片一个一个拿起来。其实对这个夹爪的精准度要求挺高因为它很滑对比较滑或者就是你用力太大就会把这个药挤出去。
这里就是更多研究员、工程师做研发也是做一些更多的数采3D打印机的房间现在什么东西是3D打印的？就是很多那种我们的夹爪或者是一些不同的部分大家都在努力地工作大家好忙。你们现在一共有多少人了？在美国这边应该有70到80人了然后我们办公室是……你们办公室是pet-friendly（宠物友好）吗？Pet-friendly（是的宠物友好）。这是萨摩耶吗我们家也有一只好可爱长得有点像你们的新机器人。
对能放机器人的地方我们都放了机器人我记得像Sunday Robotics的Tony他就说现在机器人公司都是搬办公室越搬越大。对我觉得很make sense我们现在也需要更多的空间我们的厨房也做一些实验我们今天有一个demo就是用这个机器人可以在冰箱里拿不同的饮料。做这个机器人也有一点想让这个机器人在我们的办公室里帮我们做一些事很好的feedback cycle（反馈循环）在办公室。好我选了这个气泡水对所以选了气泡水这个robot就会开始它既有视觉的识别能力也有语言的理解。
开冰箱其实也比较难是，对所以也需要全身的coordination（协调）。它这种任务会不会灵巧手会更好一点？对开冰箱很多这些东西都是给人用的所以我觉得用灵巧手其实会更容易点握住然后它就会松开谢谢挺好玩的对谢谢大家。
“Deployment”（部署）是这场采访中Jason提得最多的词他说客户不在乎你用的是VLA还是WAM抑或是GPT-6 Astra之后可能带来的机器人新模型范式。“机器人能不能稳定地把工作做完”才是唯一的指标。聊完这期我对Dyna最大的感受是这家公司过去两年一直在通过部署被真实世界纠正而他们选择很坦诚地把这些经验教训分享给外界。我们也很期待Dyna-2在接下来几个月的部署中会学到什么样的Bittersweet Lesson以及Dyna-3会是什么样子的。
接下来在模型和数据这两个硅谷最发力的方向会有什么新进展我们也会为大家持续关注感谢大家看到这里你们的点赞留言和转发是支持我们硅谷101做好深度科技和商业内容的最佳动力。我是陈茜，我们下期再见啦bye～