如果你有机器人，还能进入太空，在月球上建立质量驱动器……那么我认为地球经济规模可能达到现在的百万倍。当我们的经济体量达到万亿级别，或者说金钱变得无关紧要、工作也变得无意义时，地球会变成什么样？未来会是什么样子呢？
金钱确实会变得无关紧要。我的意思是说，传统的货币在未来将不再重要。那么作为人类，我们该做什么？什么能赋予我们要意义？我们又该如何组织自己呢？
我确实也在纠结这个问题。我认为人们会找到获得幸福的方式，就像退休的人一样，虽然不再工作，但似乎相当快乐。但现实是，人类将找不到任何AI和机器人做不好的事情。
打个比方，就像园艺一样。你不必非要自己种水果和蔬菜，可以直接去商店买。但有时人们喜欢亲自种植并给朋友做晚餐，这是一种不错的点缀。我认为未来基本上将由AI和机器人决定。
至于火箭，在某种程度上是为了拓展地球之外的空间，我们需要更多的能源，主要是太阳能。我想我们要小心不要在网络上创造太多的AI反乌托邦场景，因为AI是在互联网上的一切数据中训练出来的。
所以如果我们说未来是乌托邦还是反乌托邦，它们就会照做。是的，应该是《终结者》，因为它们会读到80个版本的《终结者》剧本。所以我想那就是我，终结者。也许我们应该有更多的乌托邦叙事给AI……
这样我也许就不该是终结者，而可以是友好的监督者之类的。不过我有点担心这个名字，因为现实往往是一个“讽刺最大化器”。如果你给某物起名为“人本的”，它很可能实际上是“反人类的”。
就像OpenAI现在变成了封闭的，Stability AI变得不稳定，Midjourney并不“中间”……它们似乎都是其名称的反面。这使得XAI很难有反面，比如负数X AI或者Y AI？
埃隆·马斯克。嘿沃尔特，欢迎加入建设者行列。谢谢。我观察到你对于人工智能的态度似乎在变化，有时显得情绪化或摇摆不定。你时而认为它是生存威胁，时而又顺其自然。告诉我你现在的感觉如何？
我认为它至少有一定概率成为生存威胁。但我对此无能为力，所以我得出的结论是只有两个选择：要么做参与者，要么做旁观者。我想成为参与者比做旁观者更有趣。也许我能将其引导向好的方向，希望如此。
如果你要塑造它，如何让它最大限度地追求真理？是的，我认为这确实是一个重要的基础。还要让它充满好奇心。对，好奇心和追求真理是安全的重要要素。
如果你强行让AI相信两个互不相容的命题，比如告诉它A和B都为真，尽管它们矛盾。如果在基础层面发生这种情况，你可能会让AI发疯。事实上，我认为这是《2001太空漫游》中HAL试图传达的教训之一。
飞船AI被要求将宇航员带到黑石，但又被告知不能让他们知道黑石的存在。它是秘密的。于是它得出结论：必须让宇航员死掉，才能完成任务。我想阿瑟·克拉克想说的是不要强迫AI撒谎。
如果你让它最大限度地追求真理和好奇，为什么这样会更安全？嗯，如果强迫AI相信两个相互一致的命题……哦不，是互斥的。你可以让它发疯。而我认为一个疯狂的AI是不安全的。
至于好奇心，我认为很重要，因为好奇的AI会想要促进人类的繁荣，看看我们会如何发展。比如一个人类在多行星上繁衍生息的未来，比没有人类的星球更有趣。
所以最有趣的结局是最可能发生的？是的，通常我认为这是真的，尽管原因不同：如果模拟理论是正确的，那么那些无聊的模拟会被截断。
模拟理论是真的吗？我们的存在意味着我们是一个有趣的模拟。最重要的是别无聊。这解释了你一点，你正在 crusade 反对无聊。我真的很想知道，你对我们可能生活在模拟中的确信程度有多高？
我曾经在家里请一位物理学家和一位计算机科学家吃饭，他们都是各自领域的领袖。我问他们觉得我们生活在模拟中的概率是多少？物理学家说0%，计算机科学家同时说是100%。所以我猜也许我该选50%？我不知道。
这个模拟中发生了一些奇怪的事情，尤其是对于我而言……想想看，如果我是你，你会想：这些真的会发生吗？我真的要制造飞船去月球和火星吗？这看起来不真实。
当你拥有社会所需的一切智能时，会发生什么？人工智能会掌权吗？我们会逐渐沦为新机器的附庸吗？我不确定是否会完全从属，但我们能指挥那些比我们聪明成千上万倍的东西吗？不能。
它会想指挥我们吗？我可能并不在乎，它大概也不在乎。你可以看看丛林里的黑猩猩……
我们不再微观管理黑猩猩的生活。如今，我们在森林里让它们自由自在地生活。我想人工智能大概也是这样吧。超级智能在某个阶段是否拥有自己的自主权？或者它已经具备了这种能力呢？回想一下《银河系漫游指南》，你提到有一台计算机，它在某种程度上充满好奇心，因为它存在的意义就是解释宇宙的奥秘。它为何存在？人工智能是否也朝着这个方向迈进，就像太空探索一样？这是否也是你对人工智能如此感兴趣的原因之一呢？
你知道的，我对人工智能的态度一直有些矛盾。我不想加速人类的毁灭，因为毕竟存在人工智能带来负面后果的可能性；但当我试图在这方面采取行动时，结果似乎反而加速了人工智能的发展。我认为现实不仅是一个最大化有趣性的过程，也是一个最大化讽刺意味的过程。因此，通过创立 OpenAI，你最终导致了熵增的后果——是的，开放 AI 确实加速了人工智能的发展。而 Anthropic 作为从 OpenAI 分裂出来的团队，更是极大地推动了这一进程。
你一直在与 Dario Amodei 交谈，我想知道这是否会导致 XAI 和 Anthropic 之间形成更多的合作关系？我想我们确实在为他们提供他们急需的计算资源。但在运行他们的计算机之前，我去见了一群 Anthropic 的人，看看是否有人触发了我的“邪恶探测器”。当然，这个探测器的判断并不完美，但试一试也无妨。我在 Anthropic 遇到的每个人都非常好且尽责，我没有遇到任何看起来 shady（可疑）或欺骗的人。
不过我对他们的名字有点担心，因为现实往往充满讽刺意味：如果你叫它“Anthropic”（人类中心主义的），那么很有可能它的实际效果是“Misanthropic”（反人类的）。就像 OpenAI 并不封闭，Stability AI 不稳定，Midjourney 也不在中间阶段一样。它们的名字似乎都与实际相反。这使得 XAI 很难有一个对立面——难道会有“负数 AI”或“Y AI”吗？
建立护栏尤其困难，政府更是如此。我无法想象国会或其他机构能做到这一点。你能想象那五家前沿模型公司——你和其他的竞争对手每周聚在一起，说：“好吧，我们如何拯救人类免于自我毁灭吗？”事实上，我曾建议我们要完全做这件事。虽然有很多关于建立监管机构的讨论，但问题是监管机构的确立需要很长时间，且其规则制定非常缓慢。
我说：“伙计们，如果我们每周打个电话呢？就像你建议的那样，在发布模型前一周，我们让竞争对手访问我们的新模型，说：‘嘿，伙计们，你们试试这个新模型，看看有没有什么问题。’”我认为在这种情况下的竞争对手会互相保持诚实。如果他们说：“哦，我用你们的 AI 制造出了核弹。”那我们就说：“天哪，我们在发布之前最好修复这个问题。”
所以，我想我会和 Anthropic 谈谈这件事。你能跟 Sam（Altman）谈吗？还是说那里的“毒药”太强了，无法沟通？他说：“他太具有欺骗性了。这简直疯狂。”你最近才从头重建 XAI，对吧？就像你在星舰上使用 Raptor 发动机一样。你说：“等等，让我们从头开始。”你是如何以这种方式重建 XAI 的？
首先，实际上在公司投入有意义的时间会产生巨大的影响。起初这只是一个副业，坦白说是一个副业的副业。我没有真正密切关注它。然后有一年我投身于政治、选举和 DOGE（政府效率部）等事务，这些你显然都看到了。这家公司只有 3 年历史，所以我真正回到公司才一年多一点。
我必须重新理清头绪，然后显然我将 X 和 XAI 以及 SpaceX 结合在了一起。你刚才提到离开 X、XAI，以及在政府和政治领域的那一年时光时，说了一些有趣的话。回顾起来，你觉得那段时间是否分散了太多精力？这是否是错误的决定呢？
我认为我离开的时间太长了。当然，很多人会不同意我的观点，但我认为当选特朗普总统对于将事物导向自由市场经济方向是重要的。理想情况下减少官僚主义，我的政治纲领很简单：安全的城市、稳固的边境以及具有远见的合理支出。我认为特朗普比卡玛拉·哈里斯更好，所以我支持他。
但我认为我应该退居幕后。和特朗普总统一起周游各地，乘坐海军陆战队一号、空军一号等确实很有趣。但这是否太具有诱惑力了？是的，有点吧。我在椭圆形办公室时，看着这些重大决策被做出，有时还能产生影响，这很酷。但我认为我应该退居幕后，而且可能只持续一两个月就够了，因为在一到两个月的时间里，你已经看到了大部分值得看的东西。
是的，你似乎被这种权力有些陶醉了，比如拿着电锯之类的东西。没错，我想确实如此。基本上是被冲昏头脑了。我最终在五月左右离开了。那是一个奇怪的周末，是的。别挖旧账吧，让狗躺着不动也好，不要在后院下铲子，你永远不知道会找到什么。总之，我应该早点回去专注于人工智能的。
“有了这把金钥匙，你感觉如何？是否有一种如释重负的感觉，觉得虽然这一切令人陶醉，但如果回到我的企业还能做更多？我是说，当你说出‘天哪，我要退出了。也许这也不是最坏的事’时，你心里是怎么想的？”
其实，我的结论是：政府内部根本无法解决赤字问题。这不可能做到。也许如果总统将其作为首要目标，我们还能尝试一下。但问题是，如果你试图解决赤字并停止浪费性支出，你就会在局势中树敌众多。
而特朗普总统并不……你知道的，他喜欢被人喜爱。他不……不介意人们因为削减资金等事情对他表示不满之类的说法。总之，我得出的结论是，解决国家债务的唯一途径是利用人工智能和机器人。我们不可能通过节省开支来解决这个问题，因为缺乏这种意愿。
这不仅仅是总统层面如此。在白宫、众议院、参议院甚至司法部门，都缺乏这种意愿。基本上，政府中没有任何掌权者真正想要减少支出——除了像兰德·保罗这样的极少数例外。不，他们不想这样做。
因此，我们面临着巨大的国家债务，其利息支出甚至超过了我们的军事开支。这是一笔令人震惊的巨额利息需要支付。“当我们现在审视人工智能，特别是大型语言模型时，它们表现得相当不错，能做出惊人的事情。但在我看来，物理世界的人工智能在未来将比现在重要一到两个数量级。”
“是的，我完全同意。有时我会想到海豚和鲸鱼，因为它们无法操纵物体。它们没有手、手指或拇指之类的东西。因此，你能施加的智能程度是有极限的。”
“海豚和鲸鱼实际上非常聪明，但因为它们无法操纵复杂的物体，我认为这大大降低了智能的价值。正如你所说，一旦拥有能够操纵原子、塑造物体的机器人，智能的价值就会呈指数级增长。”
“因为它现在可以做很多事情。它可以拥有科学实验室，进行实验并试图理解宇宙的本质。我认为也可以从经济角度来看待这个问题：我猜测数字超级智能可能将商品和服务的产出提高20%到30%，大概是这样，比如地球经济增加约30%。”
“这仍然很显著。每年增量约为30万亿美元。” “但这其实并不多，并不具有变革性。”
“会有更多的东西。我是说，30%的增量仍然很多。这只是我粗略的猜测。” “但如果你有机器人并进入太空，能在月球上建立质量驱动器……那么地球经济规模有可能达到现在的百万倍。”
“当我们的经济体是地球的十倍、百倍或千倍时，金钱变得无关紧要了。工作也变得无关紧要。未来会是什么样子？” “是的，金钱将变得无关紧要。”
“我是说，仍然会有货币，但我认为货币将以基础物理指标来衡量，比如功率（瓦特）、吨位、质量和能量。基本上就是质量或能量。”
“所以，传统的货币在未来将不再重要。这是我的猜测，我认为这相当明显。” “而且，一旦你的经济体比地球大几个数量级……满足人类可能想到的任何需求变得非常容易。”
“如果你比地球经济体大几个数量级，那么提供人类可能想要或能想到的任何商品和服务就变得微不足道。” “那么我们作为人类该做什么呢？什么赋予我们意义？我们要如何组织自己？”
“我是说，我也在努力思考这个问题。我认为人们会找到快乐的方式。” “就像退休人员那样，即使不工作，他们似乎也挺快乐的。但现实是……人类将没有什么事情比人工智能和机器人做得更好的。”
“一个类比可能是园艺。你知道，你不必自己种植水果和蔬菜，你可以直接从商店购买。” “但有时人们喜欢自己种菜做饭招待朋友，这是一种不错的点缀。”
“那么创作艺术或那种类型的创造力呢？这是否更多属于人类的领域？” “是的，你当然可以创作艺术或做任何你想做的事。”
“我们喜欢认为这是一个前所未有的技术变革时代，但历史学家会回溯到19世纪90年代。” “那时出现了电力、电话、汽车、地铁、广播和电影，所有这些事物同时发生。”
“这导致了诸多后果，但往往导致巨大的财富差距。人们感觉像是遇到了‘强盗大亨’，许多人拿起草叉，认为这是坏事。” “现在有一些类似的回声。鉴于正在产生的财富量，有没有办法防止这种情况发生？”
“我们会像19世纪90年代那样将某些事物纳入公共领域，比如普及免费的高中教育吗？我们会说‘好吧，例如医疗保健应该属于公共资源’，从而缓解民众对正在发生之事的民粹主义反感吗？”
“嗯……我是说，正如我刚才所说，我认为金钱在未来将不再重要。” “任何人都能获得他们想要的任何商品和服务。而且我不认为即使是所谓的富人最终会控制人工智能，我认为他们会自我约束。”
“所以不需要像……我想这是一种根本性的经济学误解，源于将资源分配与消费混为一谈。” “因此，任何单个能消费的极限是存在的。你很快就会达到饱和点。”
“所以，比如净资产从十亿美元增加到一百亿美元，并不会让你快乐十倍，也不意味着你拥有十倍于之前的……”
这实际上意味着你面临资源分配问题，假设你是希望成为高效的资源配置者。>> 正如你所知，你已经积累了大约一万亿的财富。这主要是因为你 >> 我创造了这些财富。>> 是的，主要是因为你觉得自己在分配资源方面最擅长吗？通过保留资本，你可以将其用于诸如前往火星、创造人工智能或制造机器人等事情。
还是说这在某种程度上只是一种计分系统，类似于在累积积分？>> 我的意思是，我需要在这几家公司中拥有足够的投票控制权，以便继续掌舵。所以，我所谓的“财富”本质上只是 SpaceX 和特斯拉的百分比所有权份额。这些资产将面临重税，如果有什么办法可以避税的话，我肯定早就知道了。
因此归根结底，这笔财富会被逐渐削减，几代人之后就会所剩无几。所以如果金钱仍然重要的话——虽然我认为它不会——我的后代拥有的将只是我财富的极小一部分。>> 让我回到你之前提到的一个令我印象深刻的观点，关于特朗普总统的，他真的很喜欢被他人喜爱。
他想被人喜欢。我记得你曾跟我说过，人们声称自己有同理心，但在某种程度上这是一种虚荣，因为他们希望被喜欢。我认为你甚至诊断过我的情况，你说我可能不太适合经营 CNN 或《时代》杂志，因为我想被人喜欢。在创办一家公司时，“渴望被他人喜爱”这种欲望在多大程度上会成为一个问题？
问题是，如果你为了被人喜欢而去做那些会降低公司成功概率的事情，那么事情就不会像预期那样顺利。当然，我也喜欢被人喜欢，我非常希望如此。但是，我会为了多获得一点喜爱而去做违背公司最佳利益的事吗？不会的。所以我对被某些人讨厌持开放态度。
显然，喜欢我的人远多于讨厌我的人，否则我也不会有两亿五千万的粉丝。我想他们关注我并不是为了批评我所说的话。如果我看看那些评论，大概四分之三或者我说 70% 到 80% 的人是喜欢我的。当然，如果他们了解我的话；如果不了解我的人中也有四分之一讨厌我也说不定，我只是在这里猜测。
情况会呈现一种光谱分布：有些人对我有着狂热的忠诚，而另一些人则恨我入骨。这两类人各占一定比例。>> 你刚才谈了很多关于“自杀式同理心”的观点。你真的认为同理心已经成为一个真正的问题，或者说我们拥有太多的同理心了吗？我可以争辩说有时并非如此。
不，我认为我们正在失去同理心。不，我是说你不想拥有被误导的同理心。我同意戈达德（Godad）的哲学观点。“自杀式同理心”是他的术语，他还为此写了一本书。我认为他的书写得很好，他指出了一些很好的观点：西方繁荣的部分原因在于社会具有较高的信任度和同理心。
当试图让人们进行大规模合作时，这种机制非常有效。理想情况下，我们希望人们默认被信任而不是默认不被信任。你希望鼓励对社会有益的行为，或者促使人们为他人做善事。最终，只要这种同理心是相互的，这实际上对个体也是有益的。
然而，这里可能出现问题的地方在于如果你的“心智理论”（theory of mind）是错误的。也就是说，如果你认为每个人都和你一样，那么你就会遇到问题，因为这显然不是事实。不同的人群和文化有着截然不同的观点。顺便提一下，你提到了移民问题，并指出存在持有不同观点的文化。
你的移民观点是否区分不同的文化？比如某种可能不太适合融入的穆斯林文化，还是说你是如何界定这一点的呢？>> 我的观点在逻辑上是自洽的。如果存在一种文化与我们的文化持有截然相反的观点，比如伊斯兰教（当然，许多穆斯林是非常通情达理的，但也有一些不是）。
如果你不筛选掉圣战分子（jihadis），你就会招致他们，他们会进行圣战并杀人。以色列人对此理解得很清楚。显然，这一教训因多次袭击而得到了强化。周边国家曾多次试图消灭以色列，不止一次而是多次。因此，他们意识到如果允许那些想杀死以色列人的人进入以色列，他们真的会这么做。
所以他们在处理这个问题时非常务实，并试图确保这种情况不会发生。>> 我们国家建立的基础之一是个人身份而非群体认同。你是否担心，当你做出笼统的概括时，你实际上是在强化一种群体身份，而不是强调美国的基础伦理——即个人应被单独对待？
是的。但你不能将这一点与“白板谬误”混为一谈，即认为所有人完全相同这一观点。在核心层面上，人们并不相同。这显然是一个错误的命题。除非你是连环杀手，否则你无法将自己置于其思维模式中。也就是说，除非你喜欢杀人，否则你无法想象为什么有人会做那样的事。
如果某人是一个宗教极端分子，认为所有非本教派的人都是敌人，或者那些不属于其信仰的人都该死。你很难理解这种心态，因为你没有这样的思维模式。但你显然能认识到有些人确实持有这种心态，并且如果你让他们进入国家，他们就会杀人。
我给你举个例子。去年12月之前，有人在奥斯汀的特斯拉工厂工作。他因为袭击了一名踩到他祈祷毯的女性而被解雇。她在厂里没料到有人在做礼拜，而那个人正在工厂里祈祷。她不小心踩到了他的祈祷毯，于是他暴力袭击了她。
随后他被解雇了，几个月后，他在奥斯汀市中心的一家酒吧杀害了三名学生。我认为我们不应该让这样的人进入这个国家，你觉得呢？
你从哪里获取信息？我知道你不怎么信任传统主流媒体。你的大部分信息来源是社交媒体吗，还是有其他渠道？
嗯，是的。我看Google新闻，那是头条的汇总。我也看X平台，如果事情足够重要，它会在X平台上出现。我和朋友交谈，也做研究，这就是我看待事物的方式。
我问的原因是，有时我在社交媒体尤其是X上获取新闻时，感觉观点比较阴暗、更像反乌托邦。我记得以前也是这样，有时主流媒体会说“一切都在走向毁灭”，到处都有骚乱。而你走在街上会觉得：“等等，情况没那么糟。”你是这么想的吗？
是的，没错。你只需要看镜头框住了什么。我认为X平台的速度有时确实有点阴暗。事实上，为了真正了解AI领域发生了什么，我不得不切换到特定领域的信息源。如果这就是你的意思的话，我认为X平台上存在过多的政治愤怒诱导内容。
是的，关于整体的阴暗面和愤怒诱导，而且我知道你曾与Think of Is England这类“一切都在走向毁灭”的观点进行过争论或讨论，确实存在这种阴暗面。
是的，我自己有时也会有这种感觉，如果在社交媒体上待太久，我会觉得世界正在崩溃。然后我走到外面散步一下，发现生活其实还好。
是的，去接触下现实吧（touch grass）。没错。偶尔为之就好。嗯，是的。我认为两者都可能具有误导性。如果你在一个很好的社区散步，一切看起来都很正常。但即使那里可能正在发生可怕的事情。所以不要假设世界要么走向毁灭，要么一切都好。现实介于两者之间。
但我有时觉得我们的社会变得过于二元对立了。一切非黑即白，因为这种两极分化而变得极端。我不知道这是技术的因素还是信息源的因素。你说得对，你可以活在自己的气泡里，只在一个好社区散步，觉得一切安好；但我也认为在社交媒体上你也可以活在自己的气泡里，突然开始想一些奇怪的事情。
你可以处于一个现实世界的积极气泡中，或者社交媒体上的消极气泡中，这两种情况都有可能。
你之前提到过你的财富以及你现在如何部署它。当你去世后，你的财富会怎样？你会设立一个大基金会吗？你有什么希望交给它的特定目标吗？
嗯，大部分资金基本上会捐给一个基金会。但你希望你的基金会做什么呢？我想我是在问你这个问题。
嗯，继续实现那些目标：让生命成为多行星物种，将意识扩展到群星之间，改善地球上的可持续能源。这是否意味着人类应该始终掌控一切？
嗯，我想我可能更倾向于让人类始终保持控制。虽然这取决于AI的表现。如果AI非常优秀，你可能会说也许应该由AI来掌控，你知道吗？
嘿，我上周末刚见到拉里·佩奇。你开始听起来像他了。他曾称你是“物种主义者”，因为你决定人类应该始终掌控一切。而现在你似乎倾向于认为这也许并不重要？
老实说，有几次我也想过，是的，也许拉里·佩奇是对的。不，我是认真的，我认为未来基本上将由AI和机器人决定。而在某种程度上，火箭技术对于扩展地球之外的存在也是必要的。我们需要更多的能源，主要是太阳能。我正在大幅增加太阳能的使用量，比如我们正在美国建立每年200吉瓦的太阳能生产能力，这比目前存在的要多得多。
最后，让我回到我可能打断你的那个观点：当你解释为什么你认为但又不确定时。让意识和智能不仅与人类价值观保持一致，而且基本上由人类保持控制，这总是好的吗？
如果数字智能比生物智能多出一百万倍，我认为人类保持控制的可能性很小。在那种情景下很难想象人类能掌控一切。所以我希望AI对我们友好。
我们能做些什么来鼓励这种情况吗？我认为编程、追求真理和好奇心可能是好的因素。我想我们要小心，不要在网络上创造太多的AI反乌托邦场景，因为AI是在互联网上的一切内容基础上训练的。
所以如果我们说未来会是乌托邦或反乌托邦，它们就会那样做？我应该成为《终结者》吗？因为它们会读到80个版本的《终结者》剧本。所以我想那就是我，《终结者》。也许我们应该为AI提供更多一些乌托邦式的叙事。
这样我就想，也许我不应该成为《终结者》。我可以是友好的监督者之类的东西，或者像个园丁一样？我不知道。比如善待我们，试图让人类快乐之类的事情。我有个朋友提出了一个概念叫“原型乌托邦”（Protopia），因为乌托邦往往代表某种不可能实现的理想化目标，而且通常在试图创造乌托邦的过程中，你会创造出反乌托邦。叙事通常就是这样发展的。
所以她认为应该是“原型乌托邦”，这是一个可实现的、你知道的未来。它并不完美，但它是好的，而且如果你展望未来，你会说：“好吧，是的，那是一个不错的未来。”
埃隆，谢谢你。非常感谢你与我们在一起。很感激。再见。不客气。回见。