大家好,这里是最佳拍档,我是大飞。九月一日,李飞飞的World Labs发布了新一代的世界模型Atlas。这个模型可以同时处理文字、图片、视频和3D数据,我们先来看官方发布的演示视频。
先来说说Atlas最直观的能力:相机控制生成。传统的生成模型,你输入一段文字描述,模型会根据文字来决定画面内容。比如你说镜头向左移动,模型就在像素空间里猜下一帧该长什么样。但是Atlas不一样,它可以直接接收相机在三维空间中的位置和角度。你给它一张或多张参考图片,然后指定新的相机位置,Atlas就会根据输入内容生成对应视角的画面。
这个能力说起来简单,但是做起来差别还是很大的。让镜头向左移动是一句意图描述,模型得猜你想要什么;而指定相机在空间中的位置和朝向,是一组可检验的约束。你可以精确检查镜头到底有没有到达指定位置。对于需要反复修改、衔接不同镜头的制作流程来说,这不只是控制更细的问题,而是你能不能把同一个环境当作可重复使用的场景,而非每次重新抽取一段视频。
相机路径也可以直接进入生成过程。你可以为镜头设计具体的运动轨迹,比如前进、旋转、转向,而不是只用文字描述“向左移动”、“从高处俯拍”这种模糊的要求。Atlas会按照这些路径生成连续的画面。
这种控制还可以进一步扩展到多个参考图片。如果两张图片分别对应空间中的不同位置,Atlas可以把它们放入同一个空间上下文,再生成两张图片之间缺失的内容。在World Labs展示的案例中,两张没有直接关联的场景图片被放在不同位置,Atlas生成了连接两者的门、走廊和其他过渡空间。所以参考图片不再只是决定最终画面的视觉风格,也可以成为生成空间的一部分。
视频生成方面,Atlas可以使用一到六张输入图片,配合人工设计的相机路径,生成最长一分钟、1440p分辨率的视频。你先确定场景和镜头怎么移动,Atlas再根据这些条件生成整个过程。同样的空间控制,也可以用于生成多条不同的镜头路径:输入少量图片后,可以在同一个场景中设计不同路线,让镜头经过不同区域,或者改变运动速度、长度和复杂程度。无论镜头怎么变化,场景中的空间关系都需要保持一致。
当然,Atlas也能做图像生成,但是这不是World Labs强调的主要方向。它可以根据文字生成图片和360度全景图,处理复杂提示词、生成图片中的文字,并且覆盖多种视觉风格。World Labs展示的案例包括电影画面、室内设计、游戏场景以及根据文字生成的童话村庄全景图。Atlas真正的区别,在于这些生成结果都建立在空间关系之上。
说完了生成,再来说说空间重建。如果说相机控制生成解决的是从已有信息生成新的画面,那么空间重建解决的就是把真实世界恢复出来。Atlas可以从一张或多张真实世界图片重建场景,输入图片越少,模型需要自行补充的区域越多;输入图片增加后,模型获得更多真实空间信息,需要推测的部分也就越少。
World Labs用花园、房屋和小屋展示了这一过程:只有一张花园照片时,Atlas能够重建照片中的花园,但是其他区域仍需要模型推测;增加第二张小屋照片后,花园和小屋都与输入图片对应,但其他部分仍存在推测;增加第三张房屋照片后,场景能够得到更加完整的还原。World Labs把这套机制概括为一句话:“模型看到得越多,需要想象的就越少。”
通常两三张图片就可以得到较为忠实的重建结果,而Atlas最多也能利用超过一百张图片作为空间上下文。这里有一个细节值得注意:生成得合理,不代表它就是现实中原本的样子。Atlas的空间重建中,相机拍到的部分是真实信息的还原,没拍到的部分是模型根据常识补全的。用户甚至可以选择关闭想象模式,只进行精确重建。
World Labs还展示了一个更有冲击力的案例:斯坦福大学主方庭的重建。整个过程Atlas只接收了二十五张从地面拍摄的图像,就能直接生成从校园上空远距离俯瞰的飞行路径画面。从正门入口的草坪一直到纪念教堂外墙上的马赛克装饰,都被组织进了同一个空间里。
重建结果不只是一组新的图片,Atlas还可以输出点云和3D高斯泼溅。输入一张图片时,模型可以同时生成新的视角和对应的3D几何结构;输入真实空间视频时,则可以预测每一帧的深度,再将这些信息组合成3D重建结果。对于摄像机没有拍到的区域,Atlas仍可以进行补全,将点云中的空缺填补起来,转化为完整的高斯泼溅场景。
World Labs称,这些高斯泼溅可以在设备端以较高分辨率和帧率进行渲染。这也和公司的Marble产品保持一致。有了3D空间之后,Atlas进一步处理的是时间变化。World Labs展示了一个类似《黑客帝国》里子弹时间的案例:传统的多视角自由视点视频通常需要大量同步摄像机和专门的拍摄系统,但是World Labs的研究人员只使用三到五台普通手机或运动相机从几个方向同时拍摄动态事件。
Atlas将这些视角重新对齐,并且建立空间模型后,你可以在事件已经发生以后,再从现实中根本不存在的摄影机位置观看同一个瞬间。这个过程不需要专业设备,工程师和研究人员用普通手机、三脚架和可以放进背包的小型夹具就完成了拍摄。
同样的能力还可以用于机器人仿真。在Real-to-Sim的流程中,Atlas首先从真实环境的视频重建空间;随后当模拟机器人在这个环境中移动时,Atlas可以生成机器人机身摄像头可能看到的RGB图像和深度数据。World Labs展示的两个大型环境,每个环境都只使用手机视频中的二十四帧画面进行重建。
完成重建后,可以模拟不同机器人沿不同路径移动,并且生成机器人视角下的画面。机器人操作任务还需要模拟物体之间的变化:Atlas可以从少量真实环境记录辅助建立机器人操作仿真,并且处理刚性物体、带关节物体和可变形物体。
建立模拟环境后,可以改变物体位置、机器人运动、光照和背景,从同一个真实场景生成不同条件用于机器人训练和测试。说到这里,一个自然的问题就来了:一个模型为什么能同时处理生成、重建和模拟这么多任务?
答案在于Atlas的底层架构。World Labs称,Atlas是从头开始训练的多模态自回归扩散Transformer。它目前可以处理文字、图片、视频、相机位姿和3D深度图。和普通视频模型不同,文本、图像、相机位姿和3D深度图等不同信息都会被放进同一个序列中。每一张图像和深度图还会与明确的相机位置绑定,由此组成一个共享的空间上下文。
简单理解就是:模型不仅知道这张照片里有什么,还知道这张照片是从空间中的哪里拍出来的。模型生成新内容时就可以同时参考输入内容以及这些内容在空间中的位置。视频在Atlas中可以表示为连续的图片序列,不同任务则可以被组织成不同的数据序列:输入之后接输出。模型会根据之前的信息逐个生成新的元素,这就是Atlas的自回归部分。
扩散部分采用的是整流流(rectified flow)模型,通过调整去噪步骤可以在生成速度和质量之间进行取舍。Transformer则作为模型的基础架构。World Labs认为,这套架构可以同时利用大语言模型、图像模型和视频模型中的技术:自回归Transformer可以使用KV缓存、缓存感知路由和分离式服务等技术;扩散部分则可以使用扩散蒸馏、无分类器引导、偏移噪声调度和变分自编码器(VAE)等方法。
World Labs公布了两项量化测试的结果。第一项测试是相机控制生成:测试给模型一张输入图片,再要求它完成一到三种电影式相机运动(包括平移、推轨和升降)。Atlas直接接收相机路径,其他模型则通过文字描述相机运动。第三方人工评测者随后判断生成结果是否更符合指定的相机路径。
结果是:Atlas与MiniMax H3对比时获得百分之七十五的得票率,与Gemini Omni Flash对比为百分之八十一,与Happy Horse 1.1对比为百分之八十六,与FLUX 3对比为百分之九十三,与Seedance 2.5对比为百分之九十四。World Labs称,相机轨迹越复杂Atlas的优势越明显。
不过这里也需要补充一点说明:这组测试中,Atlas可以直接读取精确的相机轨迹,而其他视频模型并不支持这种输入。所以World Labs只能把相同的镜头运动转换成文字提示。这实际上既体现了Atlas的优势,也意味着它并不是完全同条件的纯视频质量比较。
第二项测试是3D重建:测试向模型提供一组带有相机位姿的图片,要求模型预测每个输入像素对应的3D点。对比对象包括Pi3X、π立方、VGGT-Ω 1B、Depth Anything 3和MapAnything。按照统一测试协议,Atlas的平均点图重建误差为千分之二十五点三,在这组测试中最低(这个指标越低越好)。
World Labs没有使用单一指标来评价Atlas的全部能力,公司表示世界模型同时涉及生成、重建和模拟,很难用一个测试完整衡量。因此目前重点公布了相机控制生成和3D重建两项结果。除了测试成绩,World Labs还强调了Atlas的扩展能力:在开发过程中,团队训练了不同规模和不同训练计算量的Atlas模型,并且观察到随着训练计算量增加,模型获得了新的能力。也就是说,Atlas遵循Scaling Law。World Labs预计继续扩大训练规模后,未来的世界模型仍然会沿着这个方向提升。
聊完了技术细节,我们来聊一个更有意思的话题:Atlas和Seedance这类视频生成模型到底有什么不一样?虽然Atlas也用了Transformer架构,但它和Seedance之类生成模型的模式完全不同,能力也几乎垂直。打个比方:Seedance是导演,关心的是一段画面怎样往下演;Atlas则更像搭景师,它先要造出一个从不同角度看都说得通的空间。
Seedance类的视频生成模型通过大量连续画面,学的是人怎样转身、水怎样飞溅、镜头怎样移动以及前后几帧怎么接得自然。它们关注的是物理交互和物理实体随时间的变化。但是World Labs在2024年展示的初代模型正好相反:它从一张图片出发,把图片扩成可以走进去的3D场景。你换一个位置,模型会补出原图没有拍到的墙面、走廊和物体背面。它不关心下一秒发生什么,只关心走到没拍到的那里会看见什么。
初代World Labs模型生成的世界因此更像一套搭好的布景:空间存在,时间却没有真正启动。公开演示里也没有物体碰撞或用户动作改变未来的例子。而Atlas比初代强了不少,但是主线其实没有变化:初代主要是一张图变成一个世界;Atlas则能同时接收文字、多张图片、视频、相机位置和深度信息,再生成新视角、深度图和3D场景。它不再只凭一张图猜世界,而是把不同来源的线索放在一起逐步补全同一个空间。
这不是把旧模型简单放大,而是重做了一套更通用的底座。但是从Atlas给出的所有展示中,我们仍然看不到生成而非拍摄的时间性变化和物理交互:子弹时间依赖的是已经拍好的多机位视频,扩展空间时还要暂停。这也说明Atlas更像生成一块再把这一块接进场景,而不是让世界一直在后台运行。
机器人部分也只是Atlas帮助构建仿真世界,而非预测碰撞后的世界会怎样变化。而自回归Transformer框架在这个系统里可能主要是用作下一个相机位置的画面预测,而非时间性和物理性的预测。所以这两条路线就像2024年时一样依然是从两边修同一座桥:Seedance能让画面随时间变化,Atlas则是能把空间搭得更稳。至少当下从时间出发和从空间出发暂时还没有走到一起。
Atlas不是过去一年出现的第一个世界模型:2025年8月Google DeepMind发布Genie 3,可以从文本实时生成720p、二十到二十四帧的交互式环境并在几分钟内维持基本的一致性;去年11月World Labs自己推出的Marble已经可以接受文本、图片、视频和粗略3D布局生成可自由探索和导出的3D世界;今年6月英伟达又推出Cosmos 3,用统一架构处理语言、图像、视频、声音和机器人动作将世界模拟进一步延伸到物理AI。
所以,如果严格按照行业定义来看,“全球首个多模态世界模型”其实并不是一个没有争议的说法。World Labs自己此前就将Marble称为多模态世界模型,英伟达也将Cosmos 3称为全模态世界模型。今年6月李飞飞和World Labs曾经把现阶段的世界模型分成三类:负责产生视觉画面的渲染器、负责建立几何结构和物理环境的模拟器,以及负责决定智能体下一步行动的规划器。
他们当时提出最终目标应该是让这三个方向重新汇合到一个统一的世界模型中。Atlas显然是朝这个方向迈出的一步,它已经开始同时承担渲染器和模拟器的部分工作。但是距离真正能够模拟现实世界,它仍然有明显距离:目前Atlas公布的机器人案例主要证明了空间重建、视觉观测生成和简单物体交互能力。
World Labs还没有公布它在碰撞、摩擦、材料特性、复杂动力学以及长时间物理演化上的系统性测试,也没有证明由Atlas生成的模拟环境能够稳定提高机器人策略在真实世界中的成功率。世界模型用来做机器人训练的时候,最危险的问题恰恰是一个视觉上完全合理的世界在物理上却可能是错误的。相关研究者也一直将仿真到现实的差距视为这类技术必须解决的核心问题:一段视频看上去符合现实,不代表它能充当可靠的训练环境。
以机器人拿杯子为例,影视镜头只需要让手与杯子的接触看起来自然;训练环境却要回答:抓取位置偏移后是否会滑落、动作改变后结果是否一致,以及模拟中的改进能否迁移到真实机器上等等问题。同时Atlas目前还没有公开模型参数规模、训练数据量和训练算力,也没有发布权重;它刚刚进入少量合作伙伴的早期测试阶段。
目前的能力和测试基准主要来自World Labs自己公布的结果,还缺少独立测试。因此Atlas现在还不能被简单理解成一个已经能够预测现实的物理世界模拟器,但它展现出了一条越来越明确的技术路线:过去的生成模型学习如何根据已有像素预测下一帧,而世界模型正在尝试回答一个更复杂的问题:如果摄像机移动到世界中的另一个位置会看到什么?如果一个物体或机器人在这个世界里开始运动,接下来又会发生什么?
2024年初李飞飞与贾斯汀·约翰逊(Justin Johnson)、本·米尔登霍尔(Ben Mildenhall)、克里斯托夫·拉斯纳(Christoph Lassner)共同创办了Worldlabs。几人的积累集中在视觉、图形学和三维表示,而不只是语言建模:其中本·米尔登霍尔是NeRF论文的共同第一作者之一(这项研究利用神经网络表示场景并从已有照片合成新视角,是理解这支团队技术背景的重要线索);贾斯汀·约翰逊的研究涉及视觉推理、视觉与语言、图像生成和三维推理。
克里斯托夫·拉斯纳则长期研究高效的场景表示和渲染,开发过后来成为PyTorch3D球体渲染后端的Pulsar。目前拉斯纳已经公开宣布退出日常职位,继续担任顾问。回看公开的研发节点World Labs也并不是一开始就拿出了今天这套完整能力:2024年9月早期投资方Radical Ventures披露,公司从起步阶段就将目标设定为感知、生成和交互三维世界并计划先从创作者能够使用的虚拟空间切入再扩展能力。
2024年12月公司首先展示可在浏览器中探索、具有持续性的三维世界;2025年9月展示重点转向更大更精细的环境,Marble也进入早期测试;到2025年11月12日Marble正式向所有用户开放。Marble的意义是把研究结果变成能够继续加工的资产:用户不仅可以从文本、图像、视频和粗略三维布局生成世界,还能编辑、扩展、合并场景并导出高斯泼溅、网格或视频。对于创作者来说,这比一次性生成结果更接近工作流:生成之后还能修改和交付。
与此同时团队在2025年10月公开了另一条研究线RTFM(即实时帧模型Real-Time Frame Model)。RTFM的设计围绕三个关键原则:探索的是学习出来的渲染器。传统图形系统先建立几何、材质、光照再计算画面;RTFM则从已有画面预测新视角,不必先建立显式三维模型。官方当时将目标定为在单张H100上实现交互式帧率,并通过优化架构、蒸馏和推理系统达到这一目标。
这里最难的不仅是速度而是记忆:假如用户先进入客厅再走到厨房最后回到客厅,模型不能重新发明一间客厅;但如果把用户看过的所有画面都放进上下文计算与存储开销又会不断增加。RTFM的解决思路是给画面绑定空间位置,生成新视角时检索附近的相关帧而不是始终处理全部历史。这种空间化的记忆组织
是其保持场景持续性的关键设计,从公开技术路线看,Atlas与这一思路存在连续性。上下文不仅是按时间排列的信息,还包含从哪里看到什么。2026年1月,World Labs进一步推出World API,让开发者以程序方式调用Marble的世界生成能力。至此,公司的公开路线已经包括模型、创作产品和开发接口,而不仅是研究演示了。
所以Atlas的出现呢?更适合被理解。因此,Atlas的出现在更合适地被理解为沿着这些路线向统一模型推进。今年7月,World Labs又宣布收购机器人公司SceniX,将学习式仿真与真实机器人闭环作为重点方向。
一周后,公司发布Real-to-Sim-to-Real的技术进展,把现实任务转换成可控仿真环境。在其中训练或评估策略,再到真实机器人上验证。官方展示涵盖线缆操作、试管转移和杂乱物体抓取等任务,部分演示报告了连续一小时无需人工干预的运行结果。
从产业角度看,这条路线争夺的不只是机器人的大脑,还包括机器人反复练习和接受考试的环境。现实中的失败需要重置设备、恢复场景,有时还伴随损坏风险。如果仿真能够有效预测真实系统的表现,研发团队就可以把更多方案筛选移到虚拟环境中,再用有限的实机时间验证最有希望的结果。
但前提依然是有效预测。生成一万个看起来真实的房间,并不自动等于获得一万个有用的机器人训练环境。无论如何,Atlas的发布都标志着World Labs在空间智能领域又迈出了实质性的一步。
与过往侧重单一模态或特定任务的模型不同,Atlas从设计之初便以空间为核心。将多模态理解、三维重建、时空模拟与生成能力融于一体,构建了一个可扩展的世界模型底座。
从技术路径来看,这种统一架构不仅降低了多任务部署的复杂度,也为后续与机器人、视觉特效、游戏等行业的结合预留了接口。当然,我们也需要保持清醒:Atlas目前还在早期访问阶段,很多能力还需要独立验证。
物理模拟的准确性更是世界模型领域共同的难题。世界模型从生成画面走向建立空间,再走向真正的物理仿真,这条路还很长。
那大家是如何看待世界模型的发展呢?是更看好从时间出发的视频生成路线,还是从空间出发的世界模型路线?你觉得哪一条会先抵达那个真正统一的世界模型呢?欢迎在评论区留言讨论。感谢收看,我们下期再见。