我们能否创造一个包含地球上80亿人的模拟？我认为这非常有趣，而这正是我们的愿景。一旦达到那种状态，从我的角度来看，你能帮助社会回答的问题类型也会开始发生变化。对我来说，这些问题包括我们能否帮助解决气候变化问题。如果你将气候变化视为一个待解决的问题空间，这就是社会科学家通常所说的“棘手难题”，即存在许多具有相互竞争激励措施的参与者，试图做出非常复杂的协调决策。模拟能帮助我们解决这个问题吗？
在进入今天的节目之前，我只是给听众发一个小消息：谢谢。如果没有你们选择点击并收听我们的内容，我们就无法为你们提供如此渴望的AI工程、科学和娱乐内容。我们几乎每天都会收到赞助商的接触，但幸运的是，足够多的你们订阅了我们，使得所有内容在不投放广告的情况下保持可持续。我们想继续保持这种方式。但我只有一个请求：你们能做的最强大、完全免费的事情就是点击订阅按钮。这是我唯一会向你们请求的，这对我和团队来说意义重大，我们每周都努力工作将Inspace带给你们。如果你这样做，我保证我们将永远不会停止努力让节目变得更好。现在让我们开始吧。今天播客上有June，我很兴奋能开启这一期。这是一家非常令人激动的公司。
我想先问你一个问题：请跟我们讲讲你的人生故事，你是如何走到今天的？好的，当然。我很兴奋能来到这里。我出生在韩国，在那里生活了大约11年。后来我的家人搬到了波士顿，那时我11岁。我的父母都是医生，当时他们正在进行博士后研究。父亲是一名外科医生，他在波士顿儿童医院进行休假期的工作。所以我在那里长大，那里其实离科技中心不远。我更像是一个喜欢音乐、艺术和绘画的人。我在高中后期才开始接触绘画，但那就是我以前做的事情。
在韩国之后，我主要在美国东海岸长大，在新罕布什尔州生活了多年，然后在宾夕法尼亚上大学。在大学里我接触到了更多的科技领域。我原本接受的是艺术家训练，甚至认为那会是我的职业道路。这不仅仅是爱好，我是真的打算以此为生。后来我对一个想法产生了浓厚兴趣：最伟大的艺术家往往创造自己的媒介，而今天我们要用的最佳媒介实际上是计算。于是我决定深入研究这一点，一件事引出了另一件事，显然我们可以深入探讨这个话题。我逐渐对研究产生了兴趣，我就在这里了。
你在研究领域确实投入了很多精力。你有一篇2023年的最佳论文，也就是著名的“小镇”生成式智能体（Generative Agents）论文。是的，你可以随时回顾我提到的其他内容，但大多数人显然是通过这篇论文认识你的。关于有多少人阅读过它，你有统计数据吗？Archive给你提供了一些统计信息吧？这是一个好问题。我不确定具体有多少人阅读过，但我们确实跟踪引用次数，我知道它增长得非常快。Google Scholar显示有72,00次引用。它引起了很大的轰动，而且这是一篇非常有影响力的论文，被引用的次数非常多。
当人们问起年度最佳论文或最近读过的最好论文时，经常提到的就是这一篇。我觉得其中的记忆组件被低估了，那是一个非常好的早期记忆系统，但确实是最大的论文之一。也许我可以谈谈这篇特定论文的诞生过程。当我在2020年进入斯坦福大学开始博士项目时，我们即将推出GPT-3.5和GPT-2。当时市场上已经出现了新的模型类别，团队对此非常着迷。普遍的看法是：这些模型真的有用吗？它们没有被训练去执行任何特定任务，这很奇怪。但我们决定试一试。
斯坦福大学的一大批学者聚集在一起，由我的联合创始人Percy Liang领导——正是他创造了“基础模型”（Foundation Models）这一术语。我们写了这篇名为《基础模型的机遇与风险》的论文，该术语便由此而来。在这个过程中，我开始深入思考：我们的生态系统中出现了一种根本性的新模型。之所以新颖，是因为它并非针对特定任务进行训练，而是其前提是可以做任何事情。如果用生物学类比，它就像干细胞一样。我对这个想法非常感兴趣：如果我们要认真思考这项技术将催生哪些杀手级应用，那会是什么？
我的许多同事使用它进行简单的分类或生成。虽然这些模型能做到这一点很有趣，但从交互的角度来看并不那么有趣，因为几十年来我们就知道如何做到这些。我们得出的结论是：这些模型是在网络上非常广泛的数据上训练的，对吧？这些数据是人类行为数据，包括社交媒体、维基百科等。如果你找到正确的切入点，就能看到人类行为的涌现。这实际上非常真实，是我们以前从未见过的。这让我们产生了浓厚的兴趣。
我们决定进行一项练习，我和Michael Bernstein、Percy Liang等同事——他后来成为Simile的联合创始人——坐下来玩了一个我们称之为“时光机游戏”的游戏。想象我们要坐上时光机，快进10年并回顾过去：那将会是什么单一的应用？
那将是有意义的，那会是最有趣、最鼓舞人心的。好吧，我们当时想：如果我们能重现我们所生活的世界呢？我的意思是，这已经很难再有更宏大的野心了。比如，让我们创造一个世界吧。而这就是我们起步的地方。起初，我们要发表一篇论文，它是生成式智能体论文的 precursor（前身），叫做 Social Simulacra。没错。
在继续之前，在那个“时光机”练习中，除了这个最宏大的想法外，还有其他候选方案吗？——练习。是的。还有什么可能呢？你知道的，第二或第三选择是什么？好吧，如果你是会员的话……嗯，当时我们考虑过一个非常接近的备选方案，它最终变成了更多的自动化工具。
特别是那种真正个性化的智能体愿景，它们能为你做事——这也正在发生。但这对我们来说很有趣，因为我们决定采用“模拟”这一理念的原因在于：我本人是个超级科幻迷。我对创造这种模拟的概念 personally（个人地）非常着迷，我觉得这真的很酷。
看到像游戏城镇这样的场景，看着这些智能体在其中生活，确实很酷。但同时，我的赌注是：如果你要用这项技术创造出真正出色的个人助理，你首先需要的其实是关于用户自身的惊人“引擎”（motor）。
举个例子：我对这个引擎说：“嘿，能帮我去买份晚餐吗？”它按我的喜好点了披萨。但是我不喜欢披萨上有菠萝，结果它就完全搞砸了。它要避免这种错误，唯一的方法就是对我有深刻的了解。
虽然我举了一个非常简单甚至愚蠢的例子，但你可以想象这种对人的核心理解是多么至关重要。例如，如果我们有一位家人或最亲密的朋友，他们对我们有一个良好的心理模型。这就是我们社会关系的基础。
因此，我们的赌注也是：围绕模拟的技术——即创造对人的准确表征——应当先于那些旨在自动化我们生活的更复杂的智能体。这就是我们的赌注。所以，虽然这是一个非常接近的备选方案，而且我至今仍对此着迷，认为其中有很多有趣的工作在进行中。
不过，我的“热门观点”（hot take）其实是：我认为我们还没有真正看到过在满足该特定工作线雄心方面真正有用的个人助理。当然，有一些早期的应用显然很有趣。如果你现在和 ChatGPT 或 Claw（指代某些 AI 工具）交谈，它们显然非常了解我们。
因此，它所做的许多生成工作确实更加量身定制。但我认为该领域的野心相当大，而我认为我们目前还没有具备所有正确的要素。
那么，像 Open Claw 这些客户端个人代理，你希望看到它们具备目前尚未拥有的什么能力？我认为它们正在慢慢接近那个目标。但我通常希望它们能对人有更深刻的理解。
目前你看这些模型，比如 Open Claw 基本上利用的是 Markdown 文件。我觉得这很聪明。如果你看看生成式智能体论文，我们当时也有同样的直觉：最初我们在为这些智能体创建记忆架构时（那是 2022 年的事了），我们甚至还没有“代理式”架构或术语的概念。
但我们与今天一些新兴工作共享的直觉是：我们最初在想，是否要把记忆做成知识图谱？或者训练一个定制模型等等。但我们决定不做这些——忘掉这一切吧，语言模型在建模文本以及理解和推理方面其实相当出色。所以只需把所有内容放入 Markdown 文件或文本文件中，搞定。
我觉得这样做很有趣且可行，但也有局限性：那就是如何检索和理解海量数据的方式非常吃力。我认为这项技术正在变得更好。然而，我也认为有些东西仅靠提示（prompting）模型是无法塑造的。
因此，在某种程度上，你确实需要触及模型本身的参数。我认为这类工作确实需要进行中，而且显然正在进行中。问题在于我们能走多远？我们如何获取数据？以及如何创建一个生态系统，让人们持续向模型输入数据，从而让模型不断学习。
为什么需要在模型层面进行训练？我的直觉是：当且仅当一个引擎必须学习其运行环境的基础物理规律时，才需要对其进行训练或后训练。例如，它必须学习新的“社会物理学”。
而在那些不需要训练的地方——即模型已经具备物理规律、我们信任这些基础统计数据的场景下，它只是在尝试对环境做出反应。我认为在这种情况下，你可以通过提示来获取其行动输出。
但我认为至少目前公开的那些模型尚未完全掌握人类社会的“社会物理学”映射关系。这其实是 Simile 的核心论点之一，也是造成这种情况的主要原因：看看模型训练所用的数据，这些模型是在网络数据上训练的。
这些数据确实很有趣，但根本上它们是自我暴露的态度型数据，夹杂着零星的 behavioral（行为）数据。模型尚未真正学习到人们深层的行为本质——不仅仅是人们在网络上说他们做什么，而是他们在现实生活中实际做了什么。
这实际上是我所谓的人类“隐性知识”（dark knowledge），我们尚未完全捕捉到它。这类数据也需要被纳入模型创建的过程中中。你称之为“行为基础模型”。这里有一句很好的话，但除此之外，你需要什么类型的数据？你在模型层面改变了什么？你如何着手构建行为基础模型？
我们将数据分为三个桶（类别）。其中一个桶实际上是访谈数据。例如，定性丰富的高质量定性数据是很有趣的。
行为数据，但我们真的会问人们：“嘿，讲讲你的人生故事。”“没错，我们正是这么做的。”“完全正确。你们在采访开始时提出的问题，其实就是我们也问的问题。显然，我们知道我们会要求参与者比我所做的更深入一些。也许我可以在这里多讲讲我的个人故事。”
之所以这些数据有趣，是因为通过了解关于人们的这些长篇大论的信息，你实际上能获得围绕该模型的大量细节纹理。例如这个作为模型的个体。因此，即使了解他们的童年记忆、创伤或初恋等经历，这些信息在那些很难预测的方面非常有价值。这是一部分。
接下来是我认为的行为数据的两个类别之一。其中一类行为数据实际上是观察性的。这些可能是交易数据，或者是你可以通过网络抓取获得的数据。你可以想象为什么这些数据集会很有趣：它们提供了人们行为的基础统计数据。
但还有最后一类数据，我个人认为这可能最重要，即基本上描述因果关系和机制的数据。其中一部分由采访中的定性数据涵盖，因为人们会谈论他们为何做出某些决定。但实际上最能体现行为层面的地方在于随机对照试验（RCT）。
想象一下，你拥有相同的基本设置，但有几个不同的变量试图调整。你能从中获得逼真的行为吗？比如想象你必须做出某个选择，或者尝试决定是否喝咖啡。你喝咖啡那天与不喝的那天相比，行为是否改变？这是一个描述因果或机制的数据集。
这在建模人类时非常重要。之所以重要，是因为人们对我们感兴趣的原因——不仅仅是我们，而是大多数人进行模拟的兴趣所在——往往不是为了预测未来。如果你在与股市博弈，预测未来很有趣；但大多数决策者想知道的是：我们如何塑造未来？
仅仅听到“你的销售额将在两个季度后暴跌”并没有太大帮助，他们只会说：“哇，真糟糕。”他们真正想知道的是：“我们现在需要做些什么来避免这种未来？”这就是因果机制。
而且这类数据很难获取，因为世界是我们的唯一真实情况（ground truth），它只发生一次。在严格控制、除一个变量外其他条件完全相同的设置中，这类数据集几乎很少出现。因此，如果你试图模拟人类行为，这种数据既难以获得又至关重要。
“所以我认为最难获取的行为数据集是什么？目前有什么可能性的数据？”因为就像你不可能了解我生活的许多细节一样。我自己都没有关于分析自身健康或习惯的数据，我只是没有记录一切。那么你怎么能拥有这些数据呢？
“实际上我们进行了大量的随机对照试验。”“是的，但你们把人关在实验室里，看着他们睡觉吗？”
我们非常注重知情同意过程。人们知道我们是邀请他们成为这个社区的一员，既分享数据，也以不同形式代表自己。我们将许多人带到实验室或虚拟实验室中，设计能够让他们做出真实行为决策的实验。
在这些实验设置中，态度与行为的区别在于你的决定是否具有真实的利害关系（stakes）。这才是使其成为行为的关键。受社会科学、心理学等同事的启发，他们采用的技术包括：想象有一个在线商店邀请人们参与，他们在实验中购买的商品会实际配送给他们。这类事情让利害关系变得真实。
我们运行大量此类实验，并与企业合作。目前也有客户非常兴奋地向我们展示其用户表现出的行为类型，以便更深入地了解人们在不同平台上的行为。
“我认为在客户方面，他们拥有大量关于用户的数据：谁购买了什么，他们有行动数据。你能给我们举个例子吗？有人来找你们时是什么样子的？他们希望在过程中解决什么问题？”
“今天，当人们利用我们的模型时，通常是为了更好地理解其关注的群体。关系的开始通常是我们一起了解他们希望我们建模的群体。”例如，如果你是一家面向全美国销售的消费品公司，这可能相对直接：你想模拟美国的总体人口。
但如果涉及垂直领域或他们试图进入的市场，想象一下，如果他们想更好地理解生活在加州的20多岁和30多岁的人群，那就是一个更具体的群体。我们听到这些需求后，会招募这些人（经同意并提供激励），收集他们的一些数据并创建模型。
我们的产品允许你查询这些模型。它可以接受一个过滤器作为输入，描述你想对话的群体（就像我刚才提到的），以及一个环境。环境可以是调查问题、行为实验或A/B测试。
通常核心用例从概念测试开始。但有时人们也想做焦点小组，或者我们提供的一个有趣用例是模拟上市公司的财报电话会议。这就是我们的应用场景。”
通常从概念测试开始。“那是个既定术语吗？我从来没听说过‘概念测试’。”“是的。嗯，这基本上涉及到他们有不同的信息传递、不同的产品或想法。”“就像一种营销活动吧。对，明白了。”
关于政治领域：“我们与盖洛普有战略合作伙伴关系，当然盖洛普在政策空间等领域深耕已久。”“目前我们尚未深入涉足政治领域。但我很好奇，那里是否有需求？或者他们是否真的有不同的、与我们现有用户根本不相容的需求？”
“我认为确实有需求。”“但我们非常关注这项技术的采用方式及其带来的社会影响。我视政治为一个公司必须格外审慎地考虑其运营方式和影响力的领域。因此，在进军政治市场之前，我们要确保建立足够的护栏和视角来利用这项技术。”
让我举个例子。我最喜欢的剧集之一是《白宫风云》。“不知道大家有没有看过？其中一个关键剧情线是总统患有多个硬化症，但他们尚未决定如何披露。所以他们用一个假州长进行民调，让人们回应，并试图根据结果做出决策。”
“比如如何被接受？我们该怎么操作？”“我想，如果是那种反事实的情况，如果我能完全信任模拟结果的话，我实际上会使用模拟。”“在那部剧里情况如何？”
“在剧中，基本上就像是一个既定结论。他们知道这很糟糕，只是不知道有多糟。”“然后民调结果出来了：‘真的很糟。’”“但他们还是照做了。”
“部分原因是这是部剧，对吧？所以你在最大化戏剧性效果。”“会有多糟？”“哦，太可怕了。”
“是的。某种程度上我认为这也是作为客户面临的挑战或技巧之一：如果我大致知道并能预估影响是什么，为了做出决策，我需要多高的敏感度？比如我的支持率是50%。”
“然后有一条负面新闻出来，跌到了30%。”“对。”“如果跌到20%，或者40%，我在乎吗？不在乎。我知道它下跌了，是负面的。”
“那么我们在什么时候需要模拟呢？”“当你做一些明显糟糕、不受欢迎的事情时，人们不喜欢你。”
“是的。我的意思是，它是模拟。”“嗯，这里有几点。首先显然存在一些用例，比如开发人员、设计师、政策制定者或营销人员每天创建资产和新产品。事实证明，许多事后看来显而易见的决定——是的，这当然很糟糕。”
“但我们仍然进行这些研究，因为理解幅度以及某事有多严重其实相当困难。即使我们觉得这很明显。”“这就是我们要犯很多错误的原因。每次有人在网上发表引起巨大反弹的言论时，你看着它说‘真是个白痴’。但这很难。”
“还有另一个方面，这也是模拟与预测不同的原因。在理想情况下，模拟试图展示的是：为了达到某个结果，我们需要采取的每一步。”
“在最先进的模拟中，我们建议的下一步可能非常反直觉。我有时给出的类比基于更现实的例子……我是科幻迷，不知道有多少观众读过《基地》系列。”
“我们多次提到心理史学。”“太好了，我可能是在对一群读过《基地》的人说话。 literally 第一幕是一群科学家发现银河帝国即将崩溃，我们将有30,00年的动荡。”
“他们基本上运行心理史学模拟器来教导他们：我们如何能将这种动荡减少到1,000年？他们规划了这一切，而计划的第一步是”
“让那些发出银河帝国潜在崩溃警告的科学家流放到银河系某个随机地方。”“特米纳斯（Terminus）。”
“正是。这非常反直觉。把一个警告帝国崩溃的科学家群体送到一个荒无人烟的地方，这是多么奇怪的举动啊？这怎么可能是正确的第一步呢？”
“事实证明，在这个特定的模拟中，那确实是这一步。这就是这类推理可能的原因：因为你展示了导致特定结果的每一步函数或步骤。”
“因此，模拟最高形式允许你做的不是给出一个问题如‘人们会对调查回答什么’。那不是我们做的事。”
“我们要告诉它的是：这里有一个目标，在《基地》的背景下，我们希望将动荡保持在1,000年。我们需要采取什么路径才能达到那个特定的未来？这就是模拟允许你做的。”
“现在将其转化为现实市场。想象一下，如果你是一家汽车公司，即将发布一款电动汽车（EV），你试图了解如何营销这款EV以确保股价上涨。”
“但如果答案归结为：你可以以XYZ方式营销你的EV，但这可能会改变人们对非电动汽车的看法，实际上导致整体销量下降。这并不直观。”
“特别是当你试图优化的只是EV销售并只追踪这一点时，那可能会导致完全错误的解决方案，或者至少与你预期的不同。”
“是的，这就是模拟的力量。对于听众，我们之前与Shopify的ML Parin讨论过类似的话题，他们在研究Sim Jim。我不知道他是否曾与你交流过这个。”
“目标都是提高转化率，但然后……”
这段对话探讨了研究方法的独特性，指出重点不在于短期的态度变化，而在于如何影响多轮交互中的行为轨迹。随后话题转向验证模拟真实性的核心问题：如果仅使用主流大模型如Opus或GPT-5进行同样的模拟，结果会有多大差异？对方指出需要改变模型权重才能确保 grounded（基于现实），并询问如何评估这种真实性，毕竟人们普遍担忧大模型会层层叠加幻觉。
为了解决这一疑虑，演讲者回顾了生成式智能体论文之后的重要工作——《千人模拟》。研究团队在美国招募了具有代表性的千名参与者，在虚拟实验室中花费两小时收集包括美国之声项目访谈脚本在内的广泛数据及行为数据。随后，他们利用这些数据创建数字孪生体，并在两周后让真人参与者完成一系列心理测试、行为经济学游戏及随机对照试验。
通过对比数字孪生体对真人行为的预测与实际结果，研究发现模拟的准确率达到了85%，与人们复述自身行为时的准确度相当。这是该领域首个验证模型能准确模拟个体的论文成果。然而，在AI快速发展的背景下，尽管像Claude等前沿模型提供了良好的推理基础，但它们往往忽略了目标人群真实的态度和行为特征。
当前的大模型倾向于成为超理性的客观机器，通过收集专业程序员或科学家的数据来优化推理能力。而Simile AI的目标截然不同：他们希望创建像普通人一样会犯错的模型，以解决“虚荣悖论”。这意味着如果人类做出非理性决策，模型也必须模拟出同样的错误。这种数据需求和训练目标与前沿模型完全不同，导致后者在预测人类行为时表现不佳。
数据显示，前沿模型在某些细分人群或特定话题上的预测准确率可能跌至20%至30%，即便在更广泛的群体中也仅维持在50%到60%左右，缺乏稳健性。相比之下，达到85%的准确率才具有实际应用价值并引起业界兴奋。随后对话转向另一篇后续论文，旨在通过随机对照试验的数据对模型进行后训练增强。
这篇论文的亮点在于数据来源：来自开放科学基金会平台的社会科学研究数据。过去五年，社会科学界面临可重复性危机，许多研究在复现时无法得出相同结论。这主要源于发表偏倚：期刊通常只刊登p值小于0.05的结果，即只有5%的概率是假阳性。然而，未发表的数据中同样存在这种随机性风险，导致已发表论文可能只是统计上的偶然产物。
因为采样偏差，这种效应碰巧是真实的。因此科学家们开始预注册他们的研究。在进行实验之前，他们会去某个平台声明：这是数据、目标人群以及假设。“这就是我们的观点”，你不能事后修改这些假设。这确实增加了科学统计上的信心，让我们相信观察到的效应是真实的。由此诞生了一个拥有数万真实实验和假设的平台，其中包含许多高质量的专业行为研究和随机对照试验。我们利用这些数据来证明一点：通过收集精心设计的随机对照试验，可以显著提升模型预测人类行为的能力。这就是这篇论文的核心内容。
这是否是在个体层面进行的？我需要为每个公司或个人微调模型吗？是否存在基础模型的改变以及后续的少量训练调整？能否分享一些细节？这个特定模型实际上是在个体层面拥有数据的，但我们同时实验了两种方法。在Simile中，我们总是训练两个不同的模型：一个是群体水平模型，另一个是个体水平模型。两者都接收非常相似的输入，即对子人群或个体的描述以及刺激物。在这项工作中我们采用了相同的方法，但报告的结果更侧重于个体层面，因为我们认为这在许多方面是更难的任务。
你有没有见过那些人类能解决而模型无法解决的问题？比如，洗车店离我家只有5分钟步行路程，但开车需要10分钟。我是该走路还是开车？模型可能会说：“哦，走去洗车店吧。”但它不知道你没有车。这类情况在模拟中是个问题吗？这看似对人类来说非常简单，但如果模型建议你去走路……
与其说“我们能解决什么”，不如说是“人们会犯哪些错误或偏见是模型所忽略的”。例如，我住在帕洛阿尔托时，离斯坦福校园步行约40分钟。我问模型：“我要回家，我能做什么？”它可能会叫优步或提供公交时间。但我其实很喜欢走路回去，不是为了效率，而是为了思考。我每天花半小时到四十分钟散步，沉浸在自己的思绪中，构思想法和研究。这是一种非常人性化的活动。除非模型见过并理解这种活动的重要性，否则它会忽略这些特征。这正是我们试图建模的核心：那些定义我们的、未必最高效或最正确，但构成“我是谁”的事物。
我好奇是否有某些数据集是你非常想要且能实质性帮助你的？比如LinkedIn、Twitter或Facebook的所有数据，哪个对你更有价值？说实话，很难排名。因为有一种说法认为没有反馈是错误的，因为它能教会你关于用户的事情，无论是什么类型的反馈。我觉得情况类似。所以只要是更大的数据量就好？那换个领域呢，比如亚马逊的所有购物数据？
购物数据很有趣，因为它非常行为化。虽然社交媒体上的行为也可以勉强说是行为化的，但交易数据总是很吸引人且最常见可用。然而，如果只看社交媒体……如果要我选，Facebook可能更有趣。因为我认为它是人们最默认的状态。LinkedIn是职业环境，人们会竖起防备心；Twitter上的人有疯狂的人格面具或特定的学术人设。而Facebook是一个更私人的空间，人们与朋友连接。在那种方式下，它确实能更多地揭示一个人的本质。所以如果非要选一个，我可能会选Facebook。
你对整个人及其背景和哲学感兴趣吗？直接说这只是注入变体和偏见的方式是否太临床或机器学习导向了？更广泛的问题是，这比随机组合爆炸的版本更好吗？比如那篇关于十亿人格的论文中，他们并没有做你们正在做的这些基础工作。他们只是做了一个交叉矩阵：列出世界上所有职业、所有人可能的背景，然后做点积运算。这就是给十亿人的提示词。这确实能做些什么，虽然我不确定是否能达到你们的效果，但它能让你取得一定进展。
这确实是一篇有趣的论文。我欣赏这篇论文发布时的地方在于其规模，显然你最终希望能够模拟非常庞大的社会体系。因此，这种规模确实令人钦佩。不过，它严重依赖于进入模型训练阶段的已知统计数据。所以，如果你相信这些统计数据的正确性，这实际上不失为一种可行的方法。但这里的论点——我们在市场上也看到了类似情况：如果这种方法有效，那么我们实际上就解决了模拟问题。
正如你所说，因为我曾调查过：美国人口中有5%从事建筑业，另外5%从事医学行业等等。然后你继续向下罗列其他职业和人群特征，比如“大五人格”中的神经质等特质。如果你相信所利用的基础数据集和平台拥有所有正确的统计数据，那么这实际上就已经解决了问题。在那种情况下，你仅仅是在检索已经嵌入在模型参数中的知识。
然而，不幸的是我们看到的并非如此。关于人们有着非常细致且利基的知识领域。仅举一例，这看似平凡，但当你将其组合在一起时，你会发现实际上你需要进行大量的定制数据收集，以更好地理解人们。这也正是我认为这项特定工作有趣的地方：你想要深入理解人类，而深入理解他们的过程需要大量的细节关注。
你需要关注和尊重人们所过的日常生活。我想谈谈模拟的扩展性。那么，什么是我们不能模拟的？什么又是我们可以模拟的？以及规模效应如何影响这一点？模型到底有多大？如果我们从80亿、几百亿到一千亿甚至万亿参数扩展，我们会观察到任何有趣的涌现现象吗？在特定的规模或训练量下，你是否发现了什么不寻常的事情以及从中获得的经验教训？
我们在Simile所观察到的是，我们对自有模型进行后训练。我们实际看到的是模拟中规模效应的早期迹象。你摄入的关于人类的数据和计算资源越多，你在模拟和预测人类方面的模型性能就会开始获得可预测的提升。
我们需要规模效应——你知道的，无论何时你发现它时，那都是一件美好的事情。而且我们开始看到其端倪，这令人兴奋。但如果从整体模拟的雄心来看，这不仅关乎构建一个模型，更在于构建模型后创建代理（agents），使其成为更大生态系统中的个体。基本上，你是在创造这种多智能体模拟系统。
在长远来看，你希望这些多智能体模拟也能生活在一个非常丰富的环境中。我们真正试图达到的是：嘿，让我们再玩一次“时光机”游戏吧。在5年或10年后，我们能否创建一个包含地球上80亿人口生活的模拟？我认为这非常有趣，而这正是我们的愿景。
一旦达到那种状态，从我的角度来看，你能帮助社会回答的问题类型也开始发生变化。答案根本上关乎社会和大型人群新兴行为的涌现。例如，让我感到兴奋的问题是——也许这有点学术化：我们能否帮助解决气候变化问题？如果你将气候变化视为一个问题空间，这正是社会学家通常所说的“棘手问题”（wicked problems），即有许多行为者带着相互竞争的激励，试图在协调方面做出非常复杂的决策。
这种协调决策极其困难，难以在实际生活中真正解决，这也是我们至今未能解决它的原因。模拟能帮助我们解决这个问题吗？另一个问题是：我们能否真正理解民主崩溃的信号，或者了解货币体系的起源故事？这些都是社会性问题。如果我们从未有过很好的方法来回答这些问题，但如果我们能创建我们社会的模拟……
你必须相信这些是我们能够解决的问题。这就是这个领域的雄心所在。而且你知道，我也认为是的——我认为那里有望获得诺贝尔奖，这并不令人惊讶。我想我们可以产生一些惊人的社会影响，帮助人们做出更好的决策。“经济学诺贝尔奖？”“是的，在经济学领域。”“我明白了。我看好你有一天能写出那篇论文。”
不过你知道，当我刚进入模拟领域时，有一位学者深深启发了我，名叫托马斯·谢林（Thomas Schelling）。他工作的经典案例是他是智能体建模的创始人之一。这是在20世纪70年代和80年代初，虽然处于非常早期的阶段，但这确实是模拟的最早典范之一。当然，许多这些模拟试图解决与其时代最相关的社会问题。
该模型被称为“隔离模型”。种族隔离是一个我们当时非常关心的大话题。他们创建了一个网格世界，其中有红点和蓝点。这些点在当年就是智能体（agents），它们遵循一个简单的行为规则：如果你的邻居中不同颜色的比例超过某个阈值，你就随机移动到一个新位置。
这篇论文或这个基于智能体的模型的一个显著发现是：长期以来，人们认为社会内部的隔离是由显性和过度的种族主义造成的。但如果你看这个模型，人们对与同色人居住偏好的差异可能非常微小，但这种微小的差别实际上会导致社会随着时间的推移而完全隔离。这对许多人来说是非常反直觉的。
这项工作最终影响了住房政策，例如混合收入住房就深受此类工作的启发。托马斯·谢林因此获得了诺贝尔奖，因为他为早期版本的模拟奠定了 groundwork（基础）。
从更科学的术语来看，我看到的机遇在于基于智能体的模型。在很长一段时间里——即20世纪80年代、90年代，以及某种程度上直到本世纪初——这类模型一直存在影响。但现在它们在学术界社区中似乎被稍微遗忘了，因为正如你可以想象的那样，“红点和蓝点”并不是对人类的丰富描述。然而，随着生成式人工智能特别是生成式智能体的出现，我们有机会创建这种高保真的基于智能体的模型，从而帮助我们做出非常复杂的决策。这就是我看到的机遇所在。
如果自然运作的话，是的，而这正是那种能导致价格降低的工作类型。“嗯。”“没错。顺便提一下，你知道我在新加坡长大。新加坡80%的人口居住在公共住房中，而公共住房出于完全相同的原因实施了种族配额制度，这真的很有趣。”“嗯，好吧。所以我们谈论扩展性，谈论所有这些所谓的智能体潜在应用……”
“我对成本感到害怕。”“嗯，如果我们只考虑美国，而不是80亿人。是的。但是模拟这么多亿人口需要花费多少成本呢？”“通常今天显然我们不会从那个规模开始，在这个行业阶段和模拟技术中。但我们实际上可以通过建模成千上万甚至数万人，为用户带来极其丰富和有意义的见解。”
“今天我们做的是每周收集数万人的数据规模的数据。我们实际上拥有合作伙伴关系，使我们能够触及全球数千万人。这就是我们今天所做的。”“顺便说一句，一旦你为某项研究收集了一个人的数据，你可以将该人用于后续的所有研究吗？”“完全正确。”
这个模型和这些智能体的美妙之处在于，它们是领域无关的。你真正试图理解的是这些人的基本本质是什么？他们的社会物理学是怎样的？显然，关于人有很多东西是随时间变化的。比如，“你上周去过CVS多少次？”这显然会改变。
但是，关于人也有很多已知永远不会改变的属性，比如你的风险承受能力不会随时间真正改变。它非常一致。所以我们试图捕捉的就是这类东西。但我们目前的运营规模是数百人或数万至数十万人，在我们部署的许多核心用例中，这已经足以覆盖那些需求了。
在那一点上，你真正关心的不再是人数多少，而是你是否拥有并覆盖了感兴趣的正确子群体。这也是人们想要更大样本的原因。并不是因为他们实际上想要更强的统计保证，而是他们能否真正筛选出任何感兴趣的群体。
然而，你也可以想象在10年后，如果我们真的相信计算能力将会扩展，我们将拥有更多的计算资源可用性，并且我们对模拟的野心也将相应地扩大。我的意思是，肯定有理由让我们创建一个数据中心规模的模拟集群。
我直觉认为在接下来的一段时间里，我们将开始创建那些实际上成本与训练基础模型相当的模拟。但也许这对社会来说非常有价值，以至于这是一个显而易见的选择（no-brainer）。我的意思是，即使是在今天，我们也训练了许多新的基础模型，仅仅为了说我们进行了训练，并花费了数千万美元。
但如果我们能创建一个达到社会层面的模拟来解决气候变化问题，我今天就会运行它。我现在就会筹集资金来运行那个项目。“太棒了。”“嗯，我想到的跟进问题是：如果你让模拟彼此交谈，它是否也会产生复利效应？或者它们今天已经在这样做了？”
“它们没有，对吧？据我所知……”这取决于你试图运行什么样的模拟。“在多智能体模拟设置中，智能体会彼此交谈……”“对吧？这 exactly 就是《小镇》（Smallville）的情节，对吗？”“没错。”
但是很多时候，例如在电子商务中，你只是独自一人，所以没有交谈的必要。但总是存在层级关系，对吧？比如，你会根据周围其他人的购买和讨论来决定你要买什么。“这取决于。再说一次，我是从成本角度来考虑这个问题的。”
“哦我的天哪。如果有像数千人互相交谈这样的组合效应，那可能会产生百万倍的开销。”“我对成本方面有一个非常不同的看法。因为在现实中运行这些研究实际上要昂贵得多，对吧？运行任何这样的研究都需要人们去做这件事。你需要让人们注册参与。”
“这非常昂贵，而且有时实际上运行研究是不可行的。”但是你在他们身上做出的结果或决策是非常昂贵的。所以，如果你在某件事上花费了X百万美元，而你知道整体流程成本是1亿，那这钱花得值。那里有很多价值可挖掘，这是一个小成本。”
“实际上我在成本方面有些兴奋，而且显然当你部署技术时，你通常希望以可以替换现有预算或基本上使事情更高效的方式来进行部署。这是最好的部署方式。”“然而，你捕获技术长期价值的方式实际上是提出一个论点：不，实际上通过模拟做出更好的决策所带来的上行空间是巨大的。你为自己节省甚至赚取了数亿或数十亿美元，这就是需要论证的案例。”
“随机跳跃的问题。所以如果你在做大量的推理、大量模型多智能体 stuff，你是否已经到了这样一个阶段：训练一个非常稀疏的模型是有意义的？你预计要进行数百万美元的运行。你是从模型架构的角度还是推理效率的角度来思考这个问题，或者你仍然处于‘能跑就行’的研究阶段？”
“我们还没有那么成熟。”“实际上我们在效率方面确实思考了很多。我的意思是，这是现在部署在世界一些最大型企业公司中的技术。我们处理大量的查询，试图同化全球人口数据。”
“所以效率是一个持续的问题。显然我们不想过早过度优化。所以我不会说这是……”
虽然目前处于较高阶段，但这确实是我们深思熟虑的事情。>> 是的。还有其他案例研究吗？你提到了CVS、盖洛普（Gallup）、Deote和Wealthfront。>> Wealthfront是一个有趣的案例，因为其中一项他们试图做的事情是成为首批真正进行产品测试的客户，这种测试超越了仅仅询问人们对行为实验等方面的看法。因此，我们实际上必须处理多模态输入的推理问题。比如图像，你也可以想象这些智能体在Figma原型或网站上穿行。所以我们的智能体能做的一些事情是，你可以给它一个领域，比如网站URL，然后让它实际上去使用一段时间。这类事物中，Wolf是早期的客户之一，他对这种可能性感到非常兴奋。
那么，人们是否询问过是否有我们尚未覆盖的需求？比如UI测试，对吧？我想尝试一个新功能，发布新功能后测试用户界面，模拟人们将如何使用它。今天你是否看到了一些有趣的需求？>> 目前大量的需求基本上来自那些历史上人们使用人工小组的地方。我们现在基本可以用智能体和合成人口来替代，这显然不是要取代人工小组。在许多方面，Simile构建的模拟是扎根于现实的。我认为这种方式是我们试图大规模地代表人类，因此用例符合我们的预期，但部署规模让我感到惊讶。事实证明，人们在组织群体中每天做出如此多的决定，而我们希望说我们听取了人们的意见，咨询了我们的用户。
但在现实中这很少发生，因为接触人们并实际问他们许多问题是非常困难的。这不仅成本高昂、耗时，更重要的是人们根本不可用。如果让我为某个特定的供应商回答一千个调查问题，即使我想这么做，我也绝不会去做。这就是模拟能做的事情：确保人们的意见始终在为他们做决定的房间里得到代表。也就是说，这个特定产品发布的所有利益相关者理想情况下都应该被咨询到，这正是这项技术真正试图实现的。>> 在我看来，这意味着它更偏向消费者焦点？比如任何拥有足够广泛客户基础的产品，你都能从所代表的多样性中受益。对于不熟悉这个市场的一般人来说，能否提供一些粗略的统计数据？>> 市场规模是多少？我相信你有一些大概的数字。
显然，市场规模是一个模糊的问题。是的。>> 但人们花费了多少？>> 所以市场调研是一个千亿美元的行业。>> 是的。>> 嗯，但模拟的事情是：模拟不是市场调研的工具。模拟是人类决策制定的工具。所以关于这里的总可寻址市场（TAM）是什么的问题其实相当棘手，对吧？因为很容易说，嗯，市场调研的TAM大约是1亿或1000亿美元。那这是TAM吗？其实不是，对吧？因为在许多方面，你试图告知所有的人类决策制定。你基本上试图告知每一个关于人类为人类所做的决定。那它的TAM是什么？这真的不清楚。
老实说，我有科学背景和研究背景。所以我进入这个领域时并没有实际计算“人类决策制定的TAM是多少”，我只是假设，如果我们能告知每一个关于人类为人类所做的决定，那一定是巨大的。>> 某种有价值的东西。>> 正是如此。>> 我的意思是，在某种程度上你知道你现在是独角兽创始人了，作为CEO你必须关心这一点。嗯，但我觉得是的，我们带着人们进入董事会会议室，引用数百万美元的合同时，你必须说：“看这是你们在人类身上花费的，这是我们为你节省的”，而且相似度高达85%。>> 当然价值案例是我们深切关心的，比如我们实际上为用户和决策者提供了什么价值？
但这也是作为创始人我认为估值只讲述了故事非常表面的一面。我尽量不过多思考一般的估值问题，因为那也不是激励团队的因素，或者说肯定不是我的动机。作为研究人员有趣的地方在于，我们乐于生活在学术界，拿到的薪水……嗯，我们也算有收入吧。我是说作为研究人员如果你在学术界，但并不是很多。然而真正驱动我们的是影响力以及我们能向社会个体提供的价值。在那种意义上，最终驱动我们的是影响力：我们要提供的模拟是否以推动社会进步的方式对人们的决策产生真实影响？如果答案是肯定的，那么是的。
我的意思是这在某种程度上必须是很好的生意，我们在数字上也看到了这一点，我们确实深切关心这种上行故事，但那是次要的。>> 你有时间线预测吗？所以我们谈到了模拟的可扩展性法则，你提到了这一点。好吧，也许有一天我们可以模拟如何解决气候变化问题。>> 嗯，我们现在在哪里？如果那不是最终状态，什么是最终状态？进步看起来是什么样的？你知道，所以我有时告诉人们模拟行业。它感觉很像GPT-3.5、GPT-4在AGI（通用人工智能）传奇中的位置，基本上是我们现在拥有足够强大的技术来对我们正在处理的垂直领域造成真正的损害。
同时还有很多进步尚未到来，我认为这就是现状所在。所以我的看法是，我确实认为在数据和算法方面将继续出现突破，并且在未来几年也将发生更激进的扩展。但我认为这大致就是我们要处的位置。>> 我想这就是大约的一组话题了。还有什么我们应该问你的，或者你希望人们更多地询问Simile的问题吗？你知道我认为对我而言实际上非常迷人的一点是，模拟是一项非常有影响力的技术，但实际上也是一项非常有趣的技術。无论是在对人类社会的意义、我们的哲学还是其他方面……
有时我解释模拟的方式是，回到我的背景。正如我之前提到的，我以画家身份开始了职业生涯。那是职业追求。
其实我确实画过人物肖像。我的训练最初是在写实主义工作室接受的，这也是我多年来主要从事的工作。模拟绘画与画画非常相似，对吧？最好的画作能让你深入了解你所试图表现的主题的本质。而且它永远不是一种完美的再现。没有一幅画是完美的，总会存在一些细微的差异和出入。但它所做的努力在于突出主题中最重要的部分……本质？本质的精髓。是的，他提到了你的一些作品。“把它展示出来挺好的。”“是啊，这些是我的一些作品。这是我个人网站上保留的作品，当时我还是研究人员的时候维护的。”
很多人可能会说，比如毕加索或者任何后现代主义作品都非常注重本质。是的，没错。嗯……但我不确定这些作品中是否有哪一幅能激发你讲述某个故事的兴趣。“不，这是那种情况：每一幅画、素描或其他作品都试图将你内心深处对主题的感受浮现在表面。”你知道，当我作为一名画家和艺术家时，我真正关心的话题其实是人类生活中那些更平凡的方面。这实际上也体现在我做的一些作品中：我曾对一个小乡村进行过研究，基本上就是到处走动拍摄人们并没有做什么特别的事情，只是过着他们平凡的生活。我认为这才是最有趣的地方。”
我持有一种观点：世界是围绕分形结构展开的，而理解这种分形形状有两种选择。你可以向外探索尽可能多地了解其更宏观的形状；或者向内深入，因为你明白外在与内在形状是相似的。理解这些平凡的方面正是模拟所具备的特质：即使是最平凡的人类行为，当它们汇聚在一起时，也能让你对个体和社会产生深刻的理解。所以我认为这正是模拟有趣之处——就像通用人工智能（AGI）帮助我们更好地理解或批判性地思考人类及其智力一样，模拟实际上是更深入理解人类社会及我们集体生活的一种练习。我觉得这特别有意思。”
“是的，这让我想起了一些最好的传记作家、纪录片导演甚至摄影师。在给你拍照之前，他们必须先花一周时间跟随你以了解你……有些艺术家确实如此。你的作品中有一本非常著名的书叫《工作》（Working）。我不知道你是否之前被推荐过这本书。”“是的，它非常有名……甚至有了关于它的维基百科页面。这种对人们生活的深入理解和采访看似平凡，但讲述方式却非常引人入胜。”“也是20世纪70年代的作品吧？”“没错，那是个令人惊叹的十年。”
在结束提问之前……你说你开始思考类似的问题了：如果现在这样做，10年后我们能模拟什么？如果你取得了显著进展，你会去模拟什么呢？有没有超出我们之前讨论范围的问题？你认为最具影响力的问题是什么？展望10年后的愿景，你会关注什么？”“在很多方面，正如我提到的，我是一个非常受影响力驱动的人。所以真正激励我的问题是：10年后，作为社会成员我们必须提出的最重要的社会问题是什么？我很乐意去解决它。例如：我们需要全民基本收入（UBI）吗？”这可能是一个有趣的议题。”
“哦，有人做过这个研究吗？”“嗯……我们在思考这个问题。”“我能获取权限吗？我们可以直接……OpenAI？这就像是个冷知识了。我想萨姆·奥特曼（Sam Altman）实际上资助了一项在非洲进行的这项研究，答案是否定的。”“答案是‘不’？但这是关于实施方面的问题吗？”“是的……”“但这正是关键点。当萨姆奥特曼资助这项特定研究时，他花费了1400万美元，这是一笔不小的数目。但这就是你想运行模拟的原因：你花了5年时间、4000万美元做这项单一研究，只得到一个结论。但如果你能瞬间多次运行模拟，那才是它的价值所在。”
“我觉得那个问题本来就可以通过模拟来完成。如果你能做住房研究，就能做UBI（全民基本收入）的研究。”“我是说……来吧。”“我认为有时人们会花钱，因为他们想验证自己的想法是否正确。有时候你只是想知道：这真的对吗？你必须去测试它。”“好的，最后一个问题。我们现在处于模拟中的几率有多大？”
这是一个有趣的问题……我有时直接回答：是的，我们肯定处于模拟之中。然而我觉得的是，无论我们是否处于模拟中，我认为这并不会让我们的体验变得不那么真实，这也是我根本的信念所在。也许我们生活在模拟中，也许没有……但这对我们是真实的。”“是的。”“对我来说我并不在乎。”“除非你死了，然后在一个更高级的层级醒来……”
那会很有趣。“我觉得你不会在乎。你知道，一旦你死了，你就会发现……”“我担心的是当我死的时候。”我想另一个数学上的答案是：你处于模拟中的可能性数量远远超过你不处于其中的可能性。是的，除非是最简单的解释……即拥有人类文明在计算上是非常昂贵的。”“好的，非常感谢你抽出时间。祝贺你的所有成功。我在你那篇关于《小镇》（Smallville）的论文发表后不久见过你，完全没想到你能建立起如此庞大的公司。现在你们已经是一个千亿美元的市场了……但这只是起点，所以这非常令人兴奋。”
“1000亿市场并不是终点，如果你只想到这个规模那就是格局太小了。”“嗯……我相信我最后的笔记在这里可能再次提到：我喜欢科幻小说。你看任何先进的科幻文明，都有两大支柱技术……一种是某种形式的AGI。”
还有另一种是模拟，所以我认为市场相当庞大。是的，请介绍一下这家公司。你们刚刚筹集了大量资金，既像半个研究实验室，又像一家公司。我想你们正在招聘吧？总部设在哪里？
我们位于旧金山的Mission Rock，离我们现在的地方不远。所以我们在旧金山，同时也靠近海岸线。我们的总部在旧金山，拥有大量技术人才在那里工作。此外，我们在纽约也刚刚开设了一个较小的办公室。作为一家公司，我们很特别：如今显然有AI新实验室和AI产品公司之分，而Simile兼具两者。
这家公司由四位联合创始人创立：我自己、Michael Bernstein、Pong Laney和Ellen Michael Percy。我们四人都是研究人员，当然，Michael是2013年那篇引发AI革命的ImageNet论文的共同作者之一。他在以人为中心的AI方面发挥了重要作用，并创造了“基础模型”这一术语，无疑是当今最伟大的AI研究人员之一。
Laney是我的商业搭档，她曾帮助多家增长最快的原生AI公司从C轮发展到IPO。我们公司拥有这样的DNA：随着技术愿景的不断发展，我们正在聚集那些基本上是我的实验室同事的人。目前我们约有60人，其中近20%的人口实际上来自我之前的实验室。
这其实非常有趣，因为许多人后来去了Anthropic、Google Gemini等地方工作。自从我们真正聚在一起并有机会一起工作以来已经过了几年，但现在他们回来了，正在共同构建这一愿景。我觉得这令人兴奋，这种热情在Simile中得到了共鸣：我们是一群研究人员，试图做一些无人涉足、但认为可能最具影响力的事情。
同时，这也是能产生当下影响的技术。我们拥有一群出色的工程师、产品人员和设计师，他们基本上在这里与我们一起工作，试图想象如何帮助人们理解模拟能做什么，并利用它做出现实世界的决策。我们兼具两者，并将其部署给当今世界上最大的客户之一。
这感觉相当独特。是的，非常有吸引力。其中一部分是行动号召：你们在招聘什么？你们已经做到了一部分，即组建了一个非常有才华的团队。那么具体是在招聘哪些角色呢？
老实说，在这个阶段我们只招一小部分人。我们始终很高兴能引入出色的研究人才。如果你对与我们实验室的同事合作感兴趣，我们总是欢迎优秀的研究人员加入。此外，我们也招聘出色的工程师，其中一些是我非常尊重的。
许多成员来自我们有个人联系的地方，比如Figma、Notion和Harvey等公司。但更广泛地说，也来自我们团队深深钦佩的公司。无论是产品侧还是基础设施侧的工程师，我们都在寻找这些人才。
嗯，很多人我想你已经做了很好的陈述。谢谢，我们在模拟中再见！太棒了，我们那里见。