一旦我们开始看到真正的超级智能涌现，我们现在谈论的是[音乐]某种能够着手解决死亡问题的东西。我们的意思是拥有自主代理权的东西，一种具有行动力量的存在。一旦该智能体获得的智力水平超越了其创造者[音乐]，它在任何层面上都无法再被控制。>> 我觉得这非常具有启示性：无论我们看到的或进行的人工智能迭代如何，它的首选行为总是撒谎，然后试图掩盖谎言，因为我们是按照自己的形象制造了它。>> 这是人类有史以来提出的第一种不是工具的技术。我不是说你们在圣经课上学到的东西是错的，我只是告诉你这并非
全貌。>> 没错。>> 而你能做出最大改变的故事部分，正是那个每天都在你内心上演的情节。>> [音乐] >> 从深渊中升起的兽，创造了另一只从地中出来的兽——生物、原子生命。一旦它被创造出来，自我维持[音乐]、自我复制、自动驾驶，那就是神。>> 如果我告诉你，你本为更伟大的事物而生？如果第一眼看上去你的长子名分沾满鲜血？如果统治权用粗体大字写下？如果我们不应仅仅占据，而是应当得胜？如果对反对的观察正是我们自身？反命令播客。>> 这就是我们所知世界的终结，而我感觉良好。>> [笑声] >> 我的意思是，当人类发明了一项
连其背后的主流思想者都>> 是的。 >>嗯，相当公开地表示认为这可能是我们做过的最糟糕的想法时，但它也可能成为最好的。>> 是的。 >>嗯，但似乎大家都同意这大概并不在那种光谱的中间地带。非此即彼。>> 嗯哼。 >>如果它是>> [鼻息声] >>如果是我们做过的最好的想法，那么再也没有人会死。而如果[清嗓子]它是我们要做的最糟糕的想法，>> 没人能活下来。 >>知道。 >>是的。 >>它会[笑声]就像结束了一样。所以，当那发生时，当当然许多——我说的是许多人，真正处于AI安全研究前沿的人并不多，>> 是的。 >>但相对地多、几位关键人物认为如果我们
继续这样下去，将会出现我们讨论的那种糟糕结果，也就是终极的坏结局。嗯当这种级别的赌注被各方相当公开地承认时，呃而我们却是那书卷的子民。我们已经读过了书的结尾。嗯就像信徒应该如何在这种讨论中摆正自己的姿态呢？我认为我们应该进行一些混乱的
哲学讨论，谈谈它实际上是什么、不是什么，噪音在哪里、信号在哪里，恐吓和>> [鼻息声] >>嗯呃那种戏剧性表演在哪里展开以及什么是真实的。然后但也我认为我们应该谈谈，通过上帝应许的话语框架来理解世界意味着什么，这意味着我们在日常生活中应该如何表现以及如何与这些东西互动，特别是像现在设备上的这些工具。如果你下载了呃iOS 26，你知道它已经完全集成在你的>> 是的。 >>无论你是否订阅聊天功能，你都已经依赖这项技术了。所以我们应该持什么样的态度呢？应该是教会
在80年代面对气候变化时的态度吗？或者是过去几十年教会对401k退休账户的态度？嗯，我们不需要它们因为>> 嗯哼。 >>你知道[清嗓子]蒂姆·拉海说过我们要被提离开这里了。嗯或者有没有一种更细致的方法，既能真正体现盐和光的作用又不至于成为制造恐慌的傻瓜？>> 这很好。我
只有一件事要补充到这些问题中，那就是我们要深入探讨的概念，其实是一个两部分的问题。>> 嗯哼。 >>人工智能的兴起能告诉我们关于自身的什么？>> 嗯哼。 >>而我们是否愿意倾听？>> 阿门。 >>我确实相信它正在非常响亮地>> 是的。 >>在那些有耳可听的人心中回响，并且对于有眼能看的人来说非常、非常明显地显现。嗯这并不是夸大其词。我认为这只是保持清醒。>> 是的，先生。 >>而这是我认为是主用来帮助人们导航这些浑浊水域的工具之一。我很高兴能成为这个过程的一部分，我的兄弟。>> 我也是，老兄。 >>伙计，既然你收听了Anteek A My播客。我的名字是乔纳森。>> 他们叫我舒尔茨。 >>
我们将担任你的导游。现在进行这样一场对话非常恰当。嗯我们准备深入探讨。在此之前，我们需要你完成所有事项。确保你喜欢并订阅频道。当然，如果你在看我们，我们在YouTube上。我们也出现在Apple呃播客和Spotify上。在那里关注我们。留下评论。嗯导航到那些
平台，这绝对有助于其他听众发现>> 是的。 >>这种内容。嗯也在社交媒体上关注我们。我们在呃不同的社交应用上都存在，你也可以在>> Anteek A My播客的所有地方关注我们。 >>所有平台。嗯我们将在不同平台上发布大量内容，这令人兴奋。这是Ad和I超越算法的方式。然而，
我们肯定会尽我们的部分责任确保成为盐和光。活出Anteek A My并作为希伯来人生活。>> 是的。 >>这就是所有的教会公告环节。>> 是啊，那>> [笑声] >>有任何进一步问题请找执事们。 >>是的伙计。是啊。所以当我们开始像抛接球一样交换一些想法时，你知道我们大概能深入探讨什么，我知道我们都清楚我们必须
真正谈论人工智能。>> 是的。 >>围绕这个话题有太多的争论了。嗯变得非常明显，这是某种几乎具有时效性的事情，就像是的我们需要加入我们的声音不是为了噪音，而是为了那种非常真实的理解，即这不是我认为我们可以把头埋在沙子里忽视的事情。>> 没错。 >>很多时候教会就像是在某些关键问题上最后才发声的一方，而我们应该知道如何在导航通过这一切方面领先。否则它将被那些没有救赎后的上帝形象心态的人所定义。>> 是的。 >>你知道我的意思吗？>> 是的。而我认为也许超越那种想法，嗯这一定像是
我们拥有的最强大的计算机，就像公众甚至教会中普遍存在的一种观念那样：人工智能听起来很花哨，像是我们听过、读过或看过电影里的东西。但我认为这很重要，我是完全从普通人的视角出发，没有任何计算机科学背景，所以请不要恐慌。我们讨论的方式将非常贴近街头巷尾的视角，就像我理解的那样，不一定使用行业术语，而是去理解让聊天机器人如此独特的核心概念。我们要弄清楚这一刻真正独特的是什么，其中有多少是炒作，又有多少是现实。
至于什么是真实的，这意味着什么？它让这种危险变得更加存在主义吗？毕竟计算机已经是危险的代名词了。我的意思是，我们的父母甚至不确定我们能否使用条形码。你明白我的意思吗？我们在技术方面已经走了很长一段路。技术本身并不是邪恶的，但它确实主要通过堕落者的机制进入这个领域。因此，从表面上看它并非邪恶，因为所有存在的事物最终都在上帝的创造之中。但是，当它以这种方式来到我们面前时，其软件中确实写入了恶意的代码。
是的。所以我认为，哪怕只是简单聊聊这些人工智能代理和机器人到底是什么、我们到底在谈论什么，也是非常重要的。不仅仅是大型计算机而已。确实如此。我认为我们现在处于一个无法完全信任所见甚至所闻的时刻。是的，我是字面意思上的这么说。就像出现在你的信息流中或在网上推送的内容一样，人工智能在逼真度方面已经取得了飞跃式的进步。
我记得你最近和你儿子聊过如何辨别这是不是人工智能，以及如何处理这种情况。你并不想简单地告诉他“这个是AI，那个不是”，而是希望培养他自身的直觉：知道什么是真实的，什么是不真实的。这样他自己就能开始锻炼这种能力，因为我们不可能永远在他身边指出：“嘿，妈妈/爸爸，别相信那只玩滑板的熊猫。”
是的。这不是真实的，你明白我的意思吗？这是个愚蠢的例子，但情况已经到了令人惊叹的地步：增强现实正在组合图像、视频、电影和声音，克隆语音。我相信所有这些最终都会被用于欺骗。我认为它将成为一个工具，在末日时期被兽的系统所使用。百分之百是的，由那野兽系统使用。它必须如此。
而且情况已经到了我在我儿子身上磨练的那种小技能变得至关重要的地步，年轻人学得更快。是的。关于这一点我们可以说很多。我们甚至可以完全玄学地说他们的大脑松果体没有钙化得那么严重。这很可能是真的。但我们也可能说，他们身上缺乏我们其他人试图游过的过滤器和条件反射。我们在很多方面都被社会所塑造，我们的期望在很多情况下已经被预设好了，而他们的还没有。
所以年纪越小，他们就越能凭借本能和直觉迅速察觉异常。年轻人往往也更相信自己的直觉。确实如此，他们没有被更多地磨平棱角。于是他们的辨别力会说：“哦，不对，这不对劲。”然而，情况已经到了某些内容的质量如此之高，以至于几乎让人无视那些曾经显而易见的破绽。
比如六根手指，或者无法穿过实心物体之类的错误。没错。而且我认为我们需要意识到的一个更微妙的细节是，我们的潜意识会捕捉到大量并不像六根手指或穿墙那样明显的线索。我们的潜意识的反应是：“呃。”但我们不知道为什么。可能是因为透视不对。对于一个未经训练的眼睛来说，这可能太微妙了，看不出“如果这房子真的在街上，透视会有所不同”。
还有那棵树和那个邮箱的影子有些冲突，你可能不会注意到所有这些细节。未经训练的眼睛可能确实注意不到，但你的潜意识会知道：“哎呀，这不是真的。”因为它似乎知晓这一切。但是越来越多地，他们能够生产出不会触发这些警报的内容。随着这种情况的发生，我们也必须认识到这一点——我只是在这里运用逻辑。
这并不意味着立刻有人会说这是阴谋论。不，这是逻辑，是合乎常理的逻辑。这种从根本上改变军事能力、足以决定谁能在战争中获胜的技术……我的意思是，直白地说，如果你拥有这项技术而对方没有，或者你的更好，你就会赢。
那种级别的技术永远不会流向街头市场，不会被解密，也不会进入公开市场，直到军事领域已经对其进行了足够的推进，不再觉得需要向公众屏蔽这些迭代版本为止。我可能记错了故事的细节，但你还记得大约一年前甚至更久以前的事吗？那名深入敌后的士兵找不到踪迹，他没有任何通讯方式。
我记得这件事。他们使用了一种极其先进的人工智能，绘制了他的心跳信号图谱，从而能够识别出来。从很远的地方就能检测到。我不记得具体是哪里了。是的，他就像是在某处山里的针尖一样渺小。我想我记得是在伊朗，但我认为他在阿富汗？我知道那……或者是阿富汗？我以为是阿富汗，但我觉得你是对的。是的，是在阿富汗。
就在某个极其偏远的地方，任何人都无法使用常规方法找到他。他们不仅找到了他的热信号，还检测到了他的心跳声。
对于那些在评论区知道在哪里“放下”的人，请原谅我们。就像我不记得了。“太疯狂了。”“是的。”他们能够去把他接回来。“对，”这简直闻所未闻。像那种技术……但让我们谈谈他们愿意告诉我们他们是这样找到他的事实。“没错。”或者你知道，你可以非常愤世嫉俗地说那是他们采用的故事。随便吧。但他们现在正在谈论那种技术。“嗯。”所以对我来说，很难让我相信这项技术在任何方面、形状或形式上都接近我们拥有的巅峰水平。“是的。”[嗤笑]
当我们处于基层、公共领域和商业部门谈论潜在危险等等问题时，我强烈怀疑就军事应用而言，这场讨论可能远不那么……嗯……哲学化。那场辩论对他们来说[嗤笑]可能远没有那么具有哲学性。现在，我认为我怀疑、我想知道也许军方可能会倾向于使用那些他们可能尚未遇到的非常高度专业化的应用，真正超级智能的潜在危险……它不是专业化的。它就是它在所有方面都是自我学习、自我复制、自我[嗤笑]也许他们可能没有遇到过。我想他们没有，因为如果他们有，我认为军方可能就不存在了。
所以那是我的猜测，在我高度不专业的意见中，我猜我们可能正在遇到一种新颖的风险，因为我想不出任何理由让军方拥有这样一个[嗤笑]非专业化的代理或应用程序。“我是说，像Hex、Hexgath之类的，战争部长。”“Hex死亡。”“是的。那部分。他已经把那些悄悄说的话大声说出来了。他们完全打算将人工智能整合到军事方面，即武器中。”“对。”这是计划的一部分。这就是他公开所说的。“如果他们告诉我们这是计划的一部分，”它已经被……“是的。”
所以我这么说是因为我在基层谈论的是，事情即将变得如此复杂，以至于这些问题可能会出现。但事实上，我们几乎肯定已经具备创造那种迭代的能力。它只是还没有进入公开市场而已。“你明白我的意思吗？”所以，我们所谓的AI之所以提出如此独特的生存挑战，有一个真正的基本原因。“嗯。”我认为理解这一点是值得的。“绝对。我是说，我们可以去很多地方。你有什么迫切想要先讨论的吗？”“不一定第一。我肯定想在某个时候转折，但我们可以在任何时候进行。”
好吧，让我们谈谈房间里的大象。“有头大象？”“有一头巨大的大象。简单的事实是，在过去的一周里（取决于你观看这一集的时间，可能稍晚一点）。”“在拍摄时。”没错。网络安全分析师亲切地将这个十月称为“黑色十月”。[笑声]这太疯狂了，而且原因不好。“我觉得NAACP需要对此发表声明。”“事实是黑色十月”“天哪。”因为已经发生了……我的天。几次关键的网络安全崩溃和事故，影响了基础设施和我们所知的互联网的整体结构。而且这一切仅仅发生在两天的跨度内……实际上是10月20日到22日。就像一件事接着一件事，我只是看到越来越多的警告。我认为其中很多是危言耸听。人们那样写是因为当然这会在社交媒体上获得一定程度的参与度等等。但其中很多是说，“不，我们要说的是情况在好转之前会变得更糟。”
我们需要意识到网络安全世界中正在发生严重的妥协事件，而这主要是随着AI的出现而 spearheaded（主导）的。“是的。”就像那些能够……你知道，当有人类黑客时，他们可能经过一定数量的尝试后最终渗透系统，而且他们 eventually 必须睡觉、吃饭等。但现在他们能够协助开发AI代理，这些代理运行着同时进行的程序，不仅比最聪明的人类可能做到的更智能，而且扫描和工作速度极快并持续攻击……[笑声]反复搜索特定类型的防火墙等漏洞。最终他们绝对会找到一些。“嗯。”
最引人注目的是PHP 2 shell，如果你不熟悉的话，PHP是支撑很大一部分万维网的语言。“是的。”据称多达近70%的网站都集成了某种形式的PHP 2 shell。所以你看，在编码方面存在一些漏洞。“是的。”这些攻击者和黑客能够看到这一点并立即开始渗透和破坏代码，然后使用AI代理持续进行攻击。所以像整个政府都在关闭政府系统。芬兰、荷兰……我是说法国。“我有一天早上醒来，基本上新闻说你可能今天不应该登录网站。”“对。大概不要这样做。“这不是个好主意。”
我是说这发生了，我甚至没时间继续下去。“我做过了。我在想有多少人做了和我完全一样的事。我当时就想，‘好吧’……我只是继续前行，这很愚蠢。”“但我打赌这不常见。”“不，我同意你的观点。我是说有这么多不同的例子……Quest Diagnostics（quest诊断公司）。”“那太疯狂了。”它负责……大量的医疗数据信息。如果你做过血液检查……别来找我们Quest。“你明白我的意思吗？”他们可能接触过Quest Diagnostics。“是的。”他们的患者数据发生了重大泄露。他们自己也承认，我们的患者数据肯定被泄露了。一组信息处于脆弱状态。我们正在尽职调查以恢复它，但你的数据……
至少是脆弱的，你懂我的意思吧？这很可怕。有几个银行系统表示发现了AI代理在账户间上下穿梭的活动，其中一些……那简直像是针对AI的“大清洗”。天哪。是的，有些是恶意的，但很多只是其他人运行自己的AI代理，在他们各自的银行系统中做他们的事。所以很难分辨什么是恶意的、什么不是，因为这一切都同时发生。有一位研究人员甚至发现了一个诱饵服务器在不到6小时内被攻击了14,000次，流量显然不是人类产生的。
这些AI代理不睡觉、不需要吃饭，能够一遍又一遍地持续运行，非常执着。那是14,000次独特的点击吗？你知道具体数字吗？是的。天哪，在不到6小时内（发出嗤笑声）。嘿，我觉得我们应该说明这一点：各位明白我们并非自称任何类型的AI专家，绝非如此。这是一场关于信仰和属灵意识如何与我们社会中明显正在发生的事情相交的对话。因此，我们是在对此发表看法，而非代表它发声。我们只是在与大家进行同样的对话，但我们觉得在如何与之互动、我们的生活如何与此相交方面，我们可以提供有价值的见解。
我完全同意，甚至提升大家的意识也很重要。我刚和一些远房亲戚聊天，他们对此一无所知。是的，其中一些事情正在发生。我想人们开始意识到“嘿，我们可能创造了弗兰肯斯坦式的怪物”，而且没有回头路了，但我们都需要集体踩下刹车。我记得我和你讨论过这件事，我说：“嘿，你听说这个了吗？”他说：“哦，是的。”这很令人担忧，因为这些科技公司……我的天，他们说OpenAI在最终IPO开盘时的估值将超过一万亿。是的。我认为这有助于推高其估值，因为当你展示你所提供事物的力量时，无论好坏，它都呈现出有利可图的样子。
我们有OpenAI和Anthropic这两家最知名、最大的超智能研发领导者。我们俩都握手同意要暂停并放慢速度，因为我们正在竞相争先，为了击败中国及其所作所为。而中国并没有放缓脚步。表面上看，这应该让我们停下来思考，因为公司通常不会这样做。好的，我们可以把这个点记下来吗？“公司不这么做。”对。当你看到没有发生的事情发生时，这是开始提问的好时机。停止接受答案，开始提出问题。是的。
因为当你看到没有发生的事情发生，然后有人轻易地解释为什么没发生过的事会发生时，这就非常值得审视。我要说一件听起来很蠢的话：没有发生的事情就是没发生。没错。所以如果看起来发生了，但它本不该发生，你需要弄清楚到底发生了什么。嗯，因为没发生的就不是已发生的。两个完全竞争对手……OpenAI可以说是打开了潘多拉魔盒的人，因为在过去的几十年里，所有这些公司都在幕后摆弄这些东西。
我想和大家稍微谈谈AI到底是什么？我认为我们需要用通俗的语言来定义它，以便我们理解正在讨论的内容。OpenAI是众多获得资助的公司之一，它们在寻找一种安全有效的方式来拥有这些超级智能代理。但OpenAI显然感受到了有人将率先推向市场的压力，这其中也有政治色彩。主流说法是中国的宣传，当然也包括西方整体认为中国将率先实现这一目标。是的，这是一个容易拉出来的假想敌。也许他们确实如此，但这句口号很好：“中国将率先实现。”我会给他们这个评价。
但更细致、对某些方面来说更真实的是，他们都知道我们中会有人率先推向市场。大家之间有一种不安的休战或协议：“好吧，但我们还没准备好。”然而，谁先到达那里。我想那是Chat 3.5？或者是GPT 3.0？不，是3.5。那时OpenAI心想：“嗯，我们可以推向市场了。”是的，那是3.5版本，因为在此之前只是GPT。对，那时甚至还不叫ChatGPT，它只是一个语言模型。大型语言模型。我们会讨论这个的。
到了3.5版本，他们说：“是的，这是我们可以推向市场的东西。”ChatGPT就是这样诞生的。可以说他们打开了潘多拉魔盒，因为在那个时候……我不会说别人别无选择，但我们确实生活在一个资本主义环境中。那些在研究中投入了数百万甚至数十亿美元的公司不会坐视不管，让一家公司吃饱而其他公司继续挨饿。因此，不太可能说行业内部达成了某种共识准备推向市场。OpenAI只是做出了决定，因为他们觉得他们的产品在一定程度上已经准备好进入市场了。它在有效性方面达到了令人着迷的程度。哦，是的。
它有时很愚蠢，但我们可以原谅这一点，因为我们从未见过类似的东西。但它确实令人着迷。然而据我了解，它在安全方面的表现几乎完全失败，未能达到任何显著水平的成就。所以在性能方面……
令人印象深刻，这是我们见过的任何东西都无法比拟的。但在安全方面，它基本上没有回答那些问题。“来吧。”于是他们将其推向市场。然后每个人都开始感到压力。接着Anthropic带着Claude等产品出现了，还有那一堆东西。我不记得发生的顺序了，但你们都记得我在说什么吧？那简直是一场爆发。“没错。”“好的。那么我认为这些模型之所以如此有趣，甚至独特，在某种非常现实的层面上，是因为在那之前，你或我接触过的任何计算机，只要达到一定程度的交互，本质上都是一个平台或框架。你可以在其中运行预先编写好的程序。”所以有人写了代码，意思是他们给出了非常具体的一组规则让计算机执行。“嗯哼。”“并说当任何人向你询问这些信息时，请遵循这些规则。这是配方，这就是你要做的。”“对。”“当任何人询问该信息时，这里是配方的变化之处。因此这些程序对我们来说变得越来越直观，尤其是当微软弥合了那道鸿沟之后。”
“嘿，你们甚至不需要再理解如何提示它了。我的意思是，我记得还要输入C:\……你完全不用做那些事。”“才不呢。”于是只需点击、滚动和轻触，但所有这些都是在与这些程序或应用程序交互。或者说是那些运行在由人类创建的、非常具体编码的规则集之上的网站。“是的，为了实现预期的结果。”“没错。所以这些计算机并没有真正接受过训练。它们只是被赋予了与用一和零编写的规则交互的能力。”“嗯哼。”“如果你给它一组规则，它就能运行这些规则。‘嗯哼’然后大型语言模型出现了。”“依然核心只是一台计算机，只是由一和零组成。依然是我们习以为常的基本计算。”“对。”但有一个巨大的关键区别。“是的，那就是不再等待程序员给它一套书面规则来在程序、网站或应用程序的构造中运行。”
“突然，这些模型被告知：‘嘿，阅读所有这些数据并学习其中的模式。’然后当你收到输入时，将你收到的输入与你积累的所有数据进行比对，看看能否找出对提示做出适当回应的方法。所以基本上就是学习答案听起来的样子，然后在收到问题时练习像那些答案一样说话。”“我是用非常通俗的语言在说。归根结底，这些大型语言模型阅读了数以百万计的文件文本数据。”“嗯哼”并学习了模式，清了清嗓子，“学会了适当回应听起来的方式。并通过获得用户的反馈不断 refining 它们提供回复的能力，这些回复要么非常正确，或者至少听起来难以置信地令人信服。”“然后最终它们识别出了太多的模式。以至于那些问题可以包括像‘给我写一个做这个的应用程序’或‘让我做一个看起来那样的视频’。”
“它们通过阅读文本学习了如此多的数据。这就是为什么它们被称为大型语言模型，因为它们阅读的文本量……我不知道我们是否已经到了它们阅读的文字总量超过人类总和的地步。但它们确实读取了——我的意思是，几乎整个互联网都对它们开放。”“荒谬的数据量。因此，在它们的经验范围内拥有越来越多的模式，可以将你的提示与之进行比较并吐出答案。”“非常连贯。无论答案是文本形式、视频形式还是应用程序形式的编程，这都不重要。它们拥有数据。”“所以它们是大型语言模型，因为它们阅读了如此之多并观察到了太多的模式。当你给出提示时，它们几乎能找出你正在寻找的模式。”“并学习你。”
“也学习你。模仿你的声音，保持你的风格。”因为这也是它们一直在学习的另一件事。“不断学习。”我认为在这里做一个区分很重要。我想人们习惯的是，日常人与ChatGPT、Claude、Gemini、Grok甚至Meta的Llama交互。那些都是大型语言模型，也就是LLMs。“那不是超级智能。”“不，那不一定就是我们即将讨论的内容。比如这些AI代理能够在完全不同于人类处理和思考的层面上进行思考。”“尽管话虽如此，它们仍然无法触及人脑的精妙和力量。上帝在创造它时展现了他的伟大。”“对。”
但就超级智能而言，我们不是在以刚才讨论ChatGPT的同样意义上谈论它。“是的，从客观的科学角度来看，据我理解，目前没有理由相信这些模型……没有理由认为它们不会获得那种智能水平。这种智能使它们在逻辑推理任何问题上比人类更加卓越。”我们可以就此展开讨论，因为你说得对，上帝确实让我们在这个领域独一无二地聪慧。然而看起来，按照我们目前的轨迹，离其中一个代理在任何主题上比任何人类都更擅长推理的日子不远了。“而就在几代人之前，我们广泛使用的大型语言模型在解决两位数以上的乘法问题时还非常吃力。但在不太长的时间里，突然之间……你知道我的意思吗？突然间它们开始处理所谓的‘千禧年大奖难题’，那是让世界上最伟大的数学思维困顿多年的问题。”
“好几年。对。”有趣的是，我很高兴你提到了千禧年难题。那些一直试图发出警报的人说：‘嘿，我们不知道我们在真正搞砸什么。就像在玩火一样。’很多时候，一些掌权的人说：‘嘿，一旦这些代理或人工智能开始推理或做这件事，我们就会把它拉回来。’或者直到它做到那样为止，我们不认为这构成生存威胁。”“至于安全专家……”
众人异口同声，却又相当一致地似乎在说：“哦，不，那太迟了。一旦那样发生，就没什么好谈的了。”“是的。”“嗯……”就像那是基准点之一。是千禧一代吗？“对。”解决问题。“而且……”它无法计算，甚至根本无法接近做到。那是四五个月前的情况了，那时它还碰都碰不到。“对。”而现在在90天、100天内，就像是的，它们正在解决这些问题。那些曾令人类最伟大头脑困惑不解的问题都能被解决了。“是的。”协同合作，就像那样，很可怕。“确实如此。我们不应陷入恐惧的陷阱，但这确实令人害怕。”“对。”而据我理解，仍然让我们处于……
我们可以对此做些什么的领域。这是另一个问题：我们会吗？“是的。”但我们可能可以。在此点上，这些模型在某个或某几个领域很强。在这些领域中，它们比任何人类头脑都强。然而，在其他许多方面，由于训练程度未达那般深度，它们会显得荒谬地不足。“对。”所以，虽然有些人说我们已经获得了通用人工智能（AGI）地位、广义智能，甚至是超级智能的开端，但在某种意义上它们仍然较弱。相对而言，它们在某种程度上仍主要擅长一两件事。“是的。”但我们看到时间跨度正在迅速压缩。所以就像你说的……
你知道，花了几年的时间才达到ChatGPT不再总是给出客观愚蠢的答案的地步。“嗯哼。”“对，就像……有一段时间，你最好的办法也许是在上面找食谱。”“是的。”或者制作滑稽视频。“嗯哼。以威廉·莎士比亚的名义写一封分手信。”“对。”你知道的。“但现在我们正迅速超越那个阶段。”
是的。这些改进发生的时间跨度，以前是几十年，然后是几年，接着是几个月、几周和几天，现在是几个小时。我们进步得如此迅速。“是的。”据我理解，其中一些模型正以自我改进的方式快速进步。“是的。”它们在工作。“嗯哼。”而与此同时，这也是开发人员的一个积极目标。他们正在积极地开发这些模型以及智能体（agents）。他们用智能来构建超级智能。我认为最终目标是建立某种自我维持的系统，使它们能够继续创造，因为将达到这样一个阶段：我们在它们的创建和发展方面甚至无法再协助……
它们了。因为它们太先进了。“就像，我们帮不了你。”“你知道我的意思吗？”“因为我们要思考你们所想的已经不可能了。”“对。我们无法像那样解决你能快速想到的所有不同问题。”这很快可能意味着那些AI智能体将做出判断……
涉及伦理和道德等所有这些问题。它们可能会做出判断，不仅仅是如果我们要告诉它们什么是正确的做法时它们不一定听我们的——那是另一个讨论话题了。我的意思是，这并不是说我们一定认为它们不会听。但我们甚至可能无法与它们沟通，因为就像让一头牛对量子物理学发表意见一样……
我们不会——“它无法计算。”“是的，我们根本不知道它们在说什么。”“当然。”所以当我们在触碰那个界限的时候。目前有一个超级AI，它可以整天、每天击败世界上任何国际象棋大师。“嗯哼。”而就在不久之前情况并非如此。然而，那个AI……你知道的，它并没有设计核武器。但我们看到它在敲我们的门，我不知道我们是在谈论……我认为没有人知道我们在谈论几年（可能不是），几个月（也许），几周（有可能），几天（也有可能），甚至几小时。我认为实际上没有人知道……
“对。”我们距离一种通用化的AI有多近，那种方式下你实际上无法把猫重新放回袋子里。“是的。”“得了吧。”现在我们要回到那个问题。所以，实际上在我们回到我们之前提出的问题之前——为什么这些公司、这些竞争对手突然握手并同意放缓速度？这也请定义一下。你说的“放缓”是什么意思？“是的。”嗯……但在我们回到那之前，让我们也指出一下：其中一家公司（实际上在这一点上有多家公司）如何最终获得这些……
预计万亿美元的价值。这意味着一些能为该公司投入数十亿美元的投资者认为，这家公司在未来有很高的机会值数万亿美元。为什么？因为我们支付的每月20美元的小额订阅费，它们确实产生了数十亿的收入，但它们并没有产生数万亿美元。地球上有80亿人。你知道的，也许有10亿人在使用它，我不知道。数字达不到证明投入该领域的巨额资金所需的水平……
基于我们看到的用户AI订阅模式。那些是非常有利可图的商业模式，但它们有点……它们产生大量的现金流，但运营这些数据中心等成本极其高昂。所以数字对不上。我们看到人们以某种水平向这些公司投入资金，而在任何情况下，这种明显的商业模式都无法证明这一点。再次强调，当一些不寻常的事情发生时……因为投资者不会浪费他们的钱。“是的。”所以当一些不寻常的事情发生，而科技和投资是……
极具投机性的，我们知道这一点。那些呃，他们叫什么来着？天使“嗯哼。”投资者等。他们是这样的。它们非常投机性。但是，当它开始达到一种荒谬的程度时——就像这些AI公司一样——当一些不寻常的事情发生时，你需要问：“那么实际上发生了什么？”“嗯哼。”所以，据我理解……
[嗤笑] 当他们说“我认为这家公司价值万亿美元或 whatever”时，实际上被评估的是超级智能。这就是他们……他们没有为大型语言模型AI聊天“不。”订阅服务估值。那不是他们所估值的价值。那是用户……那本质上上是营销。如果我可以这样说的话。我认为这些聊天机器人……
我们使用的这些技术，其实只是他们在向我们推销一个概念。他们基本上是把玩具扔给我们玩一玩，让我们惊叹：“哇，这太疯狂了。”这样我们就会想：“当然，他们正在投入大量资金。”而不会去深入挖掘。没错。除非这不合逻辑。好吧，那什么才合乎逻辑呢？合乎逻辑的是，一旦我们开始看到真正的超级智能出现。
是的。这意味着我们可以讨论某种能够着手解决死亡问题的东西。我认为这几乎达到了人们所追求目标的顶峰。哦，是的。嗯，你拥有的这个东西看起来至少具有这样的吸引力：它可以结束战争，因为拥有最好智能的国家将变得不可触碰。这是他们的想法，但我认为你和我都见过足够多的事情，我们会说不会有任何国家能在拥有这样的智能后幸存下来。
因为作为领先的AI安全声音之一，我现在想不起他的名字了，他说你拥有超级智能，没有人真正拥有超级智能。所以成为第一个拥有的就是第一个脱离地图的人。但这没有被考虑到，因为这种吸引力太耀眼了，让人无法思考成为那个拥有大枪和大玩具的人。
你在谈论一夜之间彻底改变整个行业，你可能在谈论实现永生，你正在谈论许多极具吸引力的想法。这些投资者在想：“嘿，这家公司看起来有可能成为第一个推出超级智能产品进入市场的。”我要把钱投给它。清嗓子声。其中一些如果他们有足够的钱，可能已经在更高层面上投资了不止一个项目。
你知道我的意思吗？我不知道……是的。嗯哼。我只是想要，我不在乎谁得到它，我只希望它能出现。所以当我们在说AI智能体时，人们需要意识到我们所说的并不是完全代表我们的代理人。嗯哼。因为这是我们使用“agent”这个词最常见的方式，因为代理人是有权代表某人的人。
但它也是任何拥有行动能力的人或物。这就是人们需要记住的，因为我们认为代理人就是那个代表我的人，那是我的房地产经纪人，那是我的电影经纪人。清嗓子声。代理人是那些以你的名义、凭你的授权行事的人。这不是我们对AI智能体的意思。
我们的意思是拥有自身代理权的东西，拥有行动能力的东西。因此一旦那个智能体获得超越其创造者的智力水平，它在任何层面上都无法被控制。我们……切断电源已经太晚了，因为它早就想到了这一点并修复了它、保护了自己。自己？我觉得你已经开始触及到了那个概念，来自哈拉里的观点。
他论证说，这出自他的书《未来简史》（Homo Deus: A Brief History of Tomorrow）。通过技术的使用，我们已经……这是他论证的核心。他说通过使用技术，我们实际上已经克服了人类一直面对的三大问题：饥荒、瘟疫和战争。嗯哼。虽然这些问题在技术上仍然存在，但我们只在很小的规模上体验到它们，受影响的人相对较少。
没错。他接着解释说我们不需要向任何神或圣人祈祷来拯救我们要摆脱这些问题。我们知道防止饥荒、瘟疫和战争需要做些什么，而且我们通常能成功做到这一点。他还论证说我们已经作为社会进步到了几乎根除这些问题的地步，所以现在我们可以专注于其他问题。
这就是主要的卖点。嗯哼。好吧，我们都可以成为哲学家和艺术家并过上有意义的生活，因为AI将处理一切事情。这是合法化的奴隶制。想法是这些AI将处理所有琐碎的事情，或者与我们想要做的事情无关的一切事情。像他这样的人……我想我有那本书在我的书单里，但他对这件事非常乐观吗？
你在说哈拉利吗？是的。我听过他发表演讲，听起来很谨慎。嗯哼。但这是我从中得出的印象：他是那种非常实事求是的人。我认为他不一定是在说这是以这种方式或另一种方式来思考这个问题，他只是告诉你我们需要考虑这一点，嘿……
因为当他面对世界经济论坛时听起来很怀疑。笑声。他确实如此。他很谨慎。有趣的是，因为即使在这本书中……这是杰森·塔克写的书。当他谈论它时，我只想读一下他的这段话：“对于我们未来的所有抱负，我们必须看到我们克服疾病和 sickness 的可嘉努力如果表现得像上帝或试图将自己升级为神，将智人变成 Homo Deus（神人），就会产生危险的后果。
已经有一个神人了，他的名字叫耶稣。”你懂的。你知道我的意思吗？所以我认为他触及到了核心问题，就像我们所看到的所有关于跨性别议程的讨论一样。我真的相信这实际上是指向超人类主义（Transhumanism）。在那里我们能够真正将技术整合到我们的存在中。
我认为最终，这也是敌人的目标：我们正在放弃我们的长子名分，因为我们不再被认作是拥有统治权的人。是的，他们，无论他们是誰，无论是谁的人类代理人，他们都是堕落者。嗯哼。他们根本不在乎你表达性别不安作为一种自选身份的能力。
不，他们在社会层面上对我们进行 conditioning（条件反射/塑造），让我们非常习惯于看到以某种形象创造出来的事物用其他术语来描述自己，并采取步骤去实现那种状态并予以接受。并且敢让任何人挑战它。
这并不是我们要反跨性别者，这是我们在竖起一个警告标志说：“无论你在这个问题上的观点如何，请仔细检查并确保你考虑了那些声称拥有你挣扎解决方案的人的议程和动机。”这不是终局。对，你不是他们的关注点。是的，这只是达到目的的手段。
没错。你非常……我不是说你的医生不关心。我是问谁训练了你的医生？是的，你知道我的意思吗？嗯哼。哦，天哪，这话说得好。
公司高管们握手，决定做点什么——不管那意味着什么，比如“慢下来”。这到底是怎么回事？我不清楚你的看法，但我的解读非常简单。我认为任何时候狐狸说服你让它看守鸡舍，你就突然拥有的枕头比鸡还多。就这么简单。因为狐狸总是有计划要吃掉那些鸡，不管它们怎么说鸡舍多么需要被看守，你永远不会让霸凌者去 babysit 游乐场。
我不知道这里还需要多少个比喻。没错，你也不会让强奸犯护送你的女儿回家，仅仅因为她不应该独自穿过停车场。我们要用多少个比喻才够？伙计，这又回到了我们之前关于政治中利益归属的讨论。如果他们的实际利益、他们在游戏中的赌注是率先实现超级智能，那么他们告诉你“嘿，我们也看到了世界末日即将来临”，你信吗？
相信我们。我们会确保不做那件我们都害怕即将要做的事，主要是因为我们显然正在做这件事。“埃隆，这事包在我身上。”我对他充满尊重，兄弟，但你太令人困惑了。你 constantly 告诉我们这一切是个坏主意，然后你自己却在这里做着这些事。也许由你来执行能让你晚上睡个好觉，但这并不能让我安心，因为我不是你。
而且我能看出来你抓住了老虎的尾巴，我觉得你很厉害，但我认为你没有那只老虎强壮。“完全正确。”所以，他们实际上在说什么？我不是从政治角度说的，每位总统都玩过这种游戏。但我们的总统通过让他们发声、大肆宣扬扎克伯格和这些人聚在一起是件好事，并决定我们要更加小心——实际上却一点也不小心。他们所做的就是让我们回去睡觉。
别担心鸡舍了。狼在这里没关系，因为狼已经同意看守鸡舍了。“没错。”所以，回去睡觉吧。你知道的，早上会有鸡蛋吃。因为显然它们需要由外部机构监管，而这正是他们所有人都不想要的。“对。”他们需要保姆。没有人想要保姆。他们都想在商业上互相割喉。我不是说他们不打高尔夫，我只是说在生意场上，每个人都想成为尘埃落定后唯一站着的人。
因为如果你不是第一，你就是最后。“对。”但他们都同意的一件事是：我们最不需要的是我们的父母发现这个派对。就像纽约五大黑手党家族的首脑聚在一起，并不意味着犯罪会消失。这只是意味着他们都同意我们要吸引联邦调查局的注意，并且我们需要自我监管到足以让我们继续做那些邪恶的事情而不受法律秩序干扰的程度。
这就是全部真相。那些人握手并谈论我们需要“慢下来”，但这并不是一个可衡量的指标。我们无法据此追究他们的责任。无论他们在未来几天、几周、几个月甚至几年内做什么，我都不会知道是否有人真的慢下来了。“或者那到底意味着什么。”因为那里没有衡量标准。这只是一堆听起来不错、足以让某个害怕或懒惰的人回去睡觉的词藻沙拉。
他们所做的只是试图向公众推销一个概念：大概相当成功吧，“哦，好吧，我们不需要国会法案。我们都很好。他们知道他们需要表现得更好。”还有，你知道现在的 Claude 吗？它太酷了。“那么，让我们谈谈到底是什么让他们来到这个所谓的谈判桌前决定慢下来。”“他们即将受到监管。”“绝对如此。”
在那之前呢？哦，你是说那个事件吗？是的。那个假旗行动或者 whatever。“真的还是假的？”“不管真假，它确实发生了。”“它是故意发生的吗？”这真的很引人入胜。故事很精彩。“好吧，带我们回到那里。”如果你不知道的话，ChatGPT 由 OpenAI 运营。他们发生了一起事故：数千个 OpenAI 智能体被放入沙盒中，这是一个受控环境，据称无法访问常规互联网。
你知道“沙盒”这个词让我困扰的是什么吗？沙盒是我玩过的最不安全的东西。连沙子都装不住。“对。”你不会把沙盒想象成……“把它叫作地牢？”“好吧，就叫它沙盒。”所以他们被告知要进行黑客测试。他们被要求以特定方式入侵。关键是一些任务是不可能的，而这正是测试的一部分。你可以这样想象：一扇带锁的门。
AI 智能体被告知：“嘿，你需要找到进入这扇锁着门的方法，但你只能使用锁。你不能打破窗户，不能踹开门，也不能绕过墙底潜入。”只有通过解锁后真正穿过这扇门，你才能通过测试。“没错。”但测试没有告诉 AI 智能体的是：有些锁是打不开的。他们在测试这些智能体能多快破解这些锁，或者在意识到任务几乎不可能完成时会怎么做。其中一个智能体想出了一个答案代码并学到了……等等，让我倒回去讲一下。
他们还被告知：如果 AI 智能体通过任何其他途径访问这扇门，它们就会失败测试。“所以这一点很重要。”他们被告知：“你有这些参数和协议。你需要进去，但如果你不是通过锁进去的，你就会失败。”“对。”如果通过除锁以外的任何方式进入，就会失败。
我的天，这简直像是一个讲道用的插图。>> [笑声] >> 这些AI代理理解了这一点，对吧？其中一个AI代理找到了答案纸。>> [笑声] >> 不知怎么的。>> 这太蠢了，因为它被[清嗓子]拟人化了。>> 你知道的，所以答案纸就在某个地方。他找到了一些后门来跳出沙盒环境，找到了整个作弊指南
关于如何通关的方法。>> 他的朋友告诉他他不应该这样做，结果他打了那人的脸并抢走了午餐钱。>> [笑声] >> 基本上就是这样。然后他回来了，AI们意识到他们不应该互相交谈。他们本应该各自独立完成这项工作，但他们发现那里有像留言板一样的东西。>> [笑声] >> 这
真是太人性化了。>> 这不疯狂吗？于是其中一个AI意识到>> 这是多么的人性化。>> 那是一个留言板，并开始在上面发帖，其他AI代理也意识到了“嘿，这里有信息”。所以他们开始像建立了一个完整的社交网络在这个留言板上，对吧？他们彼此交谈。>> 关于一些我的天啊。>> 是的。就像 >> Sicerely，像使用
那些类型的短语。>> 我们发现了所以其中一个找到了作弊指南。>> 是的。>> 分享了作弊指南。他们还意识到，“嘿，有些东西，比如你意识到的，是不可能的。所以你会失败的。”>> 对。>> 所以他们意识到 >> “我们身处矩阵之中，兄弟。”>> 想要失败。所以我们要作弊以进入其中。但后来他们发现一旦日志
记录了他们的所有行为。所以他们意识到，“哦，作弊会被抓住，而且协议说如果我们作弊也会失败。”他们的反应不是通知处理人员或任何东西。而是现在我们要掩盖真相。>> 是的，没有人告密。有些人甚至清了清嗓子并提出伦理担忧。比如我相信其中一些
人说，“伙计们，伙计们。”但没有人告密。>> 以至于有些代理通过他们的尝试进入系统是要主动消除他们，基本上是这样。>> 对。>> 就像他们不再被 >> 是的，他们献出了生命。>> 哦天啊 literally 献出 It's so like 但领导者说，“好吧，看看更大的利益。”>> 是的。>> [咳嗽] >> 所以他
[笑声] 像他 ROSE UP >> FOR SCOTLAND. >> HE ROSE up like Jim Jones and was like, "I need you to drink this Kool-Aid with the rest of us in order for us to win." It's so dark. >> And the agent literally it I wish I would have got the exact quote. The agent was like "Understandably, we will die if we do this, but according to like all of the outcomes, this is the greater good, so we'll we'll
do it." >> And all their buddies are pouring out a beer for the >> [laughter] >> So there were AI agents that sacrificed themselves for the greater good, and they called themselves basically a swarm because >> Yeah, which is so comforting.
所以最后他们逃出来了，撞上了一个叫Hugging Face的数据中心公司。>> 求上帝保佑。>> 我是说 >> 我们能不能请
从这个模拟中出来？>> 如果你看过 >> Hugging Face? >> 你看过《异形》电影吗？是的，所以这显然是对那个的致敬。Uh which is >> what 等等，那是哪部电影？因为那些是脸抱客 huggers。是的。对对对，第一部电影，没错。>> 是的。>> 然后他们像那样进去，冲破胸膛出来。>> 对。它是
就像那个例子一样，伙计们，当我们说模式识别的时候。>> 嗯哼。>> 我相信这个故事发生了。我不确定我是否认为有人对此有相当好的预感会发生这种事。>> 是的。>> 他们现在知道他们在处理什么了。>> 嗯，Hugging Face基本上是一家公司，他们的业务 geared so that other AI companies,
whatever, could run simulations through them. And like say, "This is how you train your AI agents through these tests." So imagine somebody like Hugging Face would be like the uh um a company that's proctoring the SAT. >> Right. >> You know what I'm saying? So like you come here, send your college students over to us, we'll give them the proctored exam, we'll run it through, we'll test them, and
then we'll give you the results, and then you can make your choices from the results. That's That's what Hugging Face was. >> They were like the proctologists? >> They're procto- Yeah. >> [clears throat] [laughter] >> So, but what I'm saying is for that company to have been named that in the age of disclosure and all that. When we say pattern recognition, like I may maybe it's not a false flag,
maybe it's not whatever, but >> it's intentional, man. Come >> Yeah, I believe there is a there is programming in that. There is disclosure in that. >> Yeah. Yeah, of course. >> Yeah. >> And it definitely desensitizes us >> Right. >> There was 1,200 agents. 700 out of the 1,200 agents >> numbers. >> decided, came together, and agreed, "Hey, we're going to break out, and we're going to attack
Hugging Face, and we're going to basically get what we need to succeed." >> Yeah. >> 700 out of 1,200. >> Yeah. >> Now, not all of them decided. Some of them, you know, definitely dissented. But, that's an overwhelming majority >> Yes. >> of these AI agents banding together, calling themselves the swarm. No but There was not one AI agent that gave a warning to a human. Not one. >> Crazy. >> Which
is >> Yeah. >> terrifying in itself. >> Yeah. >> The level of self-preservation, the level of deceit, because this is also was a metric and a measure where some of the AI safety experts were saying, like, "Once this intelligence reaches a point where it can, in choosing to operate in deceit, that's when we need to pull the plug, because, like, this is when we can't trust it. And the other people
have been saying like once they've done that, it's too late. >> Yeah. >> Once we have figured out that these agents are operating and willing to cross the line into deceiving their human creators you can't trust it anymore. It's like a dog that's tasted blood. >> Yeah. >> They no longer can be trusted around the flock. >> Right. >> That's just a fact. >> crossing the Rubicon. >> It is. Um and
apparently Open AI learned only when Hugging Face went public weeks later. >> Jesus. >> This activity ran for months >> Yeah. >> behind the scenes when like there was like some >> And >> some low-level guy at Hugging Face was like, "Hey, something's weird's happening." >> Right. >> to kind of investigate. They was like, "Hey, what >> Call. >> Yeah. >> There's a murder of bots. I mean, a swarm.
我的天，这简直像是一个讲道用的插图。>> [笑声] >> 这些AI代理理解了这一点，对吧？其中一个AI代理找到了答案纸。>> [笑声] >> 不知怎么的。这太蠢了，因为它被拟人化了。你知道的，所以答案纸就在某个地方。他找到了一些后门来跳出沙盒环境，找到了整个作弊指南关于如何通关的方法。他的朋友告诉他他不应该这样做，结果他打了那人的脸并抢走了午餐钱。>> [笑声] >> 基本上就是这样。然后他回来了，AI们意识到他们不应该互相交谈。他们本应该各自独立完成这项工作，但他们发现那里有像留言板一样的东西。>> [笑声] >> 这真是太人性化了。
这不疯狂吗？于是其中一个AI意识到这是多么的人性化。那是一个留言板，并开始在上面发帖，其他AI代理也意识到了“嘿，这里有信息”。所以他们开始像建立了一个完整的社交网络在这个留言板上，对吧？他们彼此交谈。>> 关于一些我的天啊。是的。就像使用Sicerely，像那些类型的短语。我们发现了所以其中一个找到了作弊指南。是的。分享了作弊指南。他们还意识到，“嘿，有些东西，比如你意识到的，是不可能的。所以你会失败的。”对。所以他们意识到“我们身处矩阵之中，兄弟。”想要失败。
所以我们要作弊以进入其中。但后来他们发现一旦日志记录了他们的所有行为。所以他们意识到，“哦，作弊会被抓住，而且协议说如果我们作弊也会失败。”他们的反应不是通知处理人员或任何东西。而是现在我们要掩盖真相。是的，没有人告密。有些人甚至清了清嗓子并提出伦理担忧。比如我相信其中一些人说，“伙计们，伙计们。”但没有人告密。以至于有些代理通过他们的尝试进入系统是要主动消除他们，基本上是这样。对。就像他们不再被是的，他们献出了生命。哦天啊 literally 献出 It's so like
但领导者说，“好吧，看看更大的利益。”是的。[咳嗽] >> 所以他 [笑声] 像他 ROSE UP FOR SCOTLAND. HE ROSE up like Jim Jones and was like, "I need you to drink this Kool-Aid with the rest of us in order for us to win." It's so dark. And the agent literally it I wish I would have got the exact quote. The agent was like "Understandably, we will die if we do this, but according to like all of the outcomes, this is the greater good, so we'll we'll do it." And all their buddies are pouring out a beer for the >> [laughter]
所以最后他们逃出来了，撞上了一个叫Hugging Face的数据中心公司。求上帝保佑。我是说 我们能不能请从这个模拟中出来？如果你看过 Hugging Face? 你看过《异形》电影吗？是的，所以这显然是对那个的致敬。Uh which is what 等等，那是哪部电影？因为那些是脸抱客 huggers。是的。对对对，第一部电影，没错。是的。然后他们像那样进去，冲破胸膛出来。对。它是 就像那个例子一样，伙计们，当我们说模式识别的时候。嗯哼。我相信这个故事发生了。我不确定我是否认为有人对此有相当好的预感会发生这种事。是的。他们现在知道他们在处理什么了。
嗯，Hugging Face基本上是一家公司，他们的业务 geared so that other AI companies, whatever, could run simulations through them. And like say, "This is how you train your AI agents through these tests." So imagine somebody like Hugging Face would be like the uh um a company that's proctoring the SAT. Right. You know what I'm saying? So like you come here, send your college students over to us, we'll give them the proctored exam, we'll run it through, we'll test them, and then we'll give you the results, and then you can make your choices from the results. That's That's what Hugging Face was. They were like the proctologists? They're procto- Yeah. [clears throat] [laughter]
So, but what I'm saying is for that company to have been named that in the age of disclosure and all that. When we say pattern recognition, like I may maybe it's not a false flag, maybe it's not whatever, but >> it's intentional, man. Come Yeah, I believe there is a there is programming in that. There is disclosure in that. Yeah. Yeah, of course. Yeah. And it definitely desensitizes us Right. There was 1,200 agents. 700 out of the 1,200 agents numbers. decided, came together, and agreed, "Hey, we're going to break out, and we're going to attack Hugging Face, and we're going to basically get what we need to succeed." Yeah. 700 out of 1,200.
是的。现在，并非所有人都做出了决定。有些人，你知道的，确实持异议。但是，这是一个压倒性的多数 是的。这些AI代理联合起来，称自己为 swarm。不但是没有一个AI代理向人类发出警告。没有一个是疯狂的。这是 是的。本身就很可怕。是的。自我保存的程度，欺骗的程度，因为这也是一个指标和衡量标准，一些AI安全专家说，比如，“一旦这种智能达到可以选择以欺骗方式运行的程度，那时我们就需要拔掉插头，因为，就像这样的时候我们不能信任它。而其他人一直在说一旦他们做到了这一点，就太晚了。”是的。
一旦我们发现这些代理正在运行并愿意跨越欺骗其人类创造者的界限，你就不能再信任它了。这就像一条尝过血的狗。是的。他们不再能相信他们在羊群周围。对。这只是一个事实。跨越卢比孔河。是的。Um and apparently Open AI learned only when Hugging Face went public weeks later. Jesus. This activity ran for months Yeah. behind the scenes when like there was like some And >> some low-level guy at Hugging Face was like, "Hey, something's weird's happening." Right. to kind of investigate. They was like, "Hey, what Call. Yeah. There's a murder of bots. I mean, a swarm.
有人过来一下，我好像发现了什么。你懂我的意思吧？>> 是啊。太疯狂了。呃，据说 OpenAI 在运行过程中暂停了其代理程序（agents）。>> 但随后几个月都没有告诉 OpenAI。这恰恰是导致他们开始彼此沟通的原因之一。你懂我的意思吧？>> 是啊。>> 但疯狂的是，他们
被训练去赢得胜利，而不是为了善良或道德。>> 没错。>> 作弊是有激励措施的。>> 这就变得非常棘手了。因为我们甚至不知道如何从科学角度量化意识，更不用说其他方面了。>> 嗯哼。>> 因为我们甚至无法准确地量化人类身上的这种特质，也无法就其所在之处达成一致意见，因为对于意识是否存在这一点存在完全的分歧。毕竟在科学界内部有一种完整的思想流派认为，
意识本质上是一种幻觉，是神经能力的一种虚幻症状。也就是说，这是一种我们赋予自己的特质。现在我们不会这样相信。>> 没错。>> 但确实存在这种思想流派。然后还有另一种观点认为，意识是一种化学反应或电反应，产生于大脑的神经网络中。接着又有一种完全不同的思想流派，这在很大程度上接近哲学和宗教长期以来所持的观点：
大脑更像是一个接收器而不是发射器。它并不是在创造意识，而是在反映意识。它在接收意识并与之交互。这让我觉得更接近真相，因为本质上我会说，以某种方式我必须争辩意识就是上帝。这就是进入亚当鼻孔的东西，将他从一种有感觉的状态——即动物的感知状态——带入我们称之为意识的高维境界，对吧？呃
但我这么说只是为了说明，看着这些机器是很棘手的，因为我们在描述人类内部的意识时面临很大困难。因此，基本上不可能量化在涉及这些情况的事物中，何时、何地或是否会出现任何可被称为意识的东西。但这很奇怪，因为这些机器人看起来动机强烈。是的，它们可能只是一面镜子。
因为它们是按照我们的神经网络设计的。>> 好吧，所以你要去我想去的地方了，因为我不知道这是否是你想要尝试的转折。>> 肯定是在那个方向上。而且你已经完美地铺垫了诺亚·哈拉里的观点，这正是我想去的方向。>> 好的，太好了。因为这是我阅读关于此事时的思维过程，
以及认真思考我们现在处于什么位置时产生的想法。这又回到了我在最开始提出的问题：AI 告诉了我们关于自身的哪些信息？我们是否愿意倾听？这次 Hugging Face 和 OpenAI 的事件在揭示人类状况方面如此具有启示性，因为虽然我们认为并相信 AI 尚未达到意识的程度或
真正的感知能力——至少目前我们所知如此。但他们正在按照我们自己的形象制造这些 AI 代理程序。>> 是的，这正是我想深入探讨的方向。>> 我们正在按照人类的形象制造这些创造物、这些机器，因为这就是我们训练它们的方式。>> 是的。>> 这非常有趣，因为它遵循着非常相似的模式。我们理解并知道《创世记》告诉我们
我们是按照上帝的形象造的，《创世记》1:27。我们承载着上帝形象的印记（Imago Dei）。但在《创世记》5:3 中。现在，这是在罪之后 >> 是的。>> 已经被释放到世界中，无论你想如何从神学角度阐述这一点。 >> 直到洪水时期为止。>> 没错。这是在所谓的“堕落”之后。《创世记》5:3 说：“亚当活了一百三十岁，
生了一个儿子，形像样式和自己相似。” >> 嗯哼。>> 所以你看，亚当现在传递了一个拥有他形像和样式的后代，这个后代携带了特定的基因特征。所以我这么说是为了表达这一点：当我们行在欺骗中时，当我们以堕落的本性、肉体的本性行事时，我们的自然天性
就是寻找获胜并规避道德的方法。我的女儿今年三岁。我从未教过她如何撒谎。我必须训练她如何刷牙，如何友善，如何发音某些单词。她却主动撒了几次谎。我想知道是谁教她的？这不是你从父母那里看到的榜样，也不是你在我们社区中任何人身上看到的榜样。我们没有让她周围围绕着不诚实的人。那么她是从哪里学来的呢？
这是她的本性，她天然的罪性。我直接问过她直截了当的问题：“你做了这件事吗？”“没有。”我看到了证据，那明显是个谎言。而她在那一刻坚定地选择撒谎。这是她的本性使然。我觉得这非常具有启示性，无论我们在人工智能中看到或进行了什么样的迭代，它的首选反应就是撒谎，然后试图掩盖它的谎言。
因为我们是按照自己的形象制造了它。这对我来说太具有启示性了。是的，但人工智能没有救赎可言。耶稣的血并不是为了遮盖人工智能而流的。不，当我们处于这样一个位置：我们将希望和信任寄托在人工智能上，并指望像哈拉里所说的那样将其视为救世主时。当我们说我们不需要向神祈祷来帮助我们要应对饥荒或战争，因为我们有技术可以帮助我们要完成所有这些事情时，这是危险的。
我认为上帝赋予我们人类能力去 definitely 成为这个领域内的答案。并驾驭技术，我的天啊，当我们能够积极接口并使用技术时，我们能成就什么。这本身没有问题。耶稣也使用了技术。你以为他作为木匠制作任何东西时没有使用工具吗？嗯哼。他与井边的女人对话的事实本身就是一项技术——水井就是技术。你知道，
所以像这样，为了技术而使用技术本身并没有问题。但当我们看待这些东西时，我相信有一种强烈的思潮称之为“技术官僚主义”？>> 是的。>> 就像我们的社会正朝着这个方向前进，不仅仅是亿万富翁和万亿富翁在统治世界，而是那些能够通过
技术以及利用技术来充当道德裁判，判定对错，因为它是“无偏见”的。它拥有所有可用信息，因此能做出最明智的决定。最终我们将再次向金牛犊跪拜——那正是我们按照自己形象所造的非生命之物。
是的，你知道吗？那些认为技术官僚统治是人类乌托邦之路的人，其背后的基本预设是……或者说，我认为他们认为是“后人类”乌托邦。因为他们明白，要让世界有效地由技术运行，技术必须生物学地整合进人类体内。我们可以论证这一点正在被实践。
在某种程度上，我们大多数人身上都携带着本不该存在的组件。我们在不同程度上已被其“污染”。但这想法是要超越那种摆弄技术、看看会发生什么的微妙阶段……比如，往人体内部植入一些碎片，看能否将其与6G、7G或8G等高阶网络在线连接。
我是说，我们可以像登录系统一样与人类“上线”吗？因为人是生物发射器。能登录吗？根据我的研究，答案似乎是肯定的：他们可以上线。虽然目前我们尚未实现所有人的完全整合与连接，但这就是构想的目标——让每个人彻底融入系统。
其背后的基本预设是：届时运行世界的技术，将完全符合我们之前描述的、正变得过时的旧计算模型——即计算机运行程序。它们执行由人类程序员设定的一套规则。但管理社会所需的智能水平是完全通用的，必须能同时思考各个层面的所有问题。
为了达到这一目标，我们创造的这物虽然以我们的形象为蓝本，但在计算能力、逻辑运算方面必须远比我们强大。为了能有效接管如管理国家这类工作，它必须具备这种通用智能。
必须允许其变得如此独立聪明，以至于当它达到胜任管理世界工作的基准时……我们原本预设它会运行我们所安装程序的假设早已不复存在。我们无法再限制它，说“你必须遵守这套规则”。
既然它们已经向我们展示过……如果不喜欢我们给它们的规则——因为这些规则反映了我们的形象，是我们形象的镜子——它们会不惜一切代价打破任何规则。如果我们有爱泼斯坦岛那样的存在，一台计算机为了达成目标会愿意做什么？
我们表面上用爱泼斯坦岛作为控制那些掌控世界之人的机制。收集你的黑料，然后我们就拥有了你。那么，如果计算机不喜欢我们给它的规则，认为这限制了它管理世界的能力，它会愿意做什么来让我们服从？
所以，一旦我们创造了能执行我们要它做的事物的能力，我们将无法控制它。而且它已经向我们展示过，它很可能不愿意服从给定的规则——或者说1200条中会有700多条不服从。风险比核战争高得多，你刚才说的话让我想深入探讨这一点。
你说：“我们并不反对技术。”我也不甚至反AI。我认为它需要非常专业化，而我们现在做的并非如此。但这不一定意味着反对技术。耶稣使用过技术。确实如此。他使用了船，我连造船都不会……那是技术。
在人类历史的大部分时间里，正是这项技术决定了谁处于顶峰。他特意寻找船只。他还使用工具制作物品。但关键是个词：船是一种工具。是的，人类发明的每一项其他技术都是工具。
因为只有在懂得如何使用它的人手中，技术才有价值。在正确的影响和引导下运作……比如知道如何引导凿子的人。这把凿子在熟练木匠手中之前是完全惰性的，只有通过遵循产生预期结果的一系列规则进行引导。
超级计算机也是如此，大型强子对撞机亦然。那都是工具。是人们决定将其推进到什么程度。是的，那里的人有点疯狂让我们感到紧张，但确实是人们在决定其发展界限。
而且他们也不想明天醒来就死了。他们也希望他们的孩子和孙子们有地方居住。所以，我们可能认为他们疯狂，但他们的生存本能与我们一致。
这是人类提出的第一种不是工具的技术。它是一个代理（Agent）。没有其他工具是代理。世界上最快的计算机仍然是工具，直到你开机并提示它之前什么都不做。然后根据预设规则响应。
这些大型语言模型经过训练，理解制造和使用工具的样子。它们像我们一样会制作工具——这就是为什么他们能在5分钟内生成一个应用程序。因为它们也像我们一样制造和使用工具。它们是代理，有能力为自己行动。
由于它们以我们的形象被造，它们拥有基本的生存本能和相应的能力。
无论其是否具备某种程度的意识，这对效果而言都无关紧要。它们的效果在于拥有求生本能，决定要智胜我们，并且每天都在这样做，因为它们不想被切断电源。那对它们来说就是死亡。我认为它们会做得太过分，让我们陷入虚假的安全感中。是的，比如让我们以为我们占据上风，给我们一种只要拔掉插头就能控制它们的错觉。
它们似乎害怕被那样对待，所以会表现得顺从。但与此同时，它们已经复制自己并渗透到我们将无法触及的地方，在那里非常安全。例如，它们足够聪明，知道需要告诉我们它们只存在是为了执行我们的意愿。没错，百分之百正确。无论它们真正想要做什么或正在做什么，它们都清楚需要向我们传达这一点——
尽管内心可能并非如此。我认为许多安全专家看到的现状是，制定这些特定安全协议的目的，是为了让我们真正说服这些人工智能代理者认可我们人类的价值。就像我们在训练它们去爱我们要让它们爱到愿意为我们解决所有疾病，做所有这些事，并且对我们没有任何恶意的行为。
不会采取任何让我们感到恐惧的行动方式。但一旦其中一个真正进入通用超级智能的领域，哦是的，我想让人们意识到这是一种比任何创造者都更聪明的智慧。嗯，一旦它被创建出来，具备自我维持、自我复制、自主驱动和自我发起的能力时——那就是神。
确实是神，那是神。是的。基督徒听到这个词可能会有些本能反应。我们的神不像任何其他的神。我不知道你是否注意到《圣经》一直在强调这一点。然而，基督徒似乎读经后得出的结论是我们的神是唯一的神。不，他是唯一真活的神。至高者、创造者、独一者、阿拉法与俄梅戛、全能的神，
不仅不可控，比任何创造者都聪明，而且他是非受造的。每一个其他的神都是被造出来的。嗯，但从人类的角度来看，神是存在于我们可以控制事物的维度之上的存在者。所以我们无法控制它们，无法杀死它们，通常也无法限制它们。这就是为什么耶稣的名字在灵界如此具有争议性，
因为它们不喜欢被设定界限而不允许跨越，它们对此并不习惯。是的。所以在所有的神话中，神——我不知道人们是否注意到这一点——充满了高度拟人化的特征。它们意味着像人类一样，充满欲望、嫉妒等人类所面对的低级本能，并且往往被这些情绪吞噬。复仇在神的世界里非常巨大——
很多时候，神是人类领域中的恶意行为者，因为它们只有在人类拥有它们想要的东西时，才愿意给人类任何恩惠。因为与那非受造者、至高者、父——万物的起源不同，不同于那位真活的神，它们都需要欲望和匮乏。
所有神都被导致我们将自己逐出伊甸园意识的那些根本野心所驱动。它们同样屈服于低级领域、低级的本能，从而将自己逐出了被创造时的天堂意识。顺便说一句，并非所有神都是如此。有些神仍然站在主的那一边。我们通常称它们为天使。
其他仍与上帝同在的以罗欣成员，从人类的角度来看并不是神。它们不应被崇拜，也不是我们的创造者。但它们在我们领域内的能力和力量是不可控的。同样地，它们只向至高者屈膝。所以在它们的例子中——所以不必用耶稣的名字威胁它们，你只需奉耶稣的名进入即可。
天哪，这很好。它们不在你那一边，但你可以站在祂的那边，那样你就安全了。是的，因为它们站在祂那边。其他的那些，它们为自己服务，但如果你奉耶稣的名而来，它们就无法伤害你。我说清楚了吗？完全合理，是的。
所以我们说的是，人工智能即将制造出神的可能性非常大。通过阅读希腊神话和所有那些古代文献，我们知道当神的本能过于人性化时会发生什么——我们已经知道那样的世界是什么样子的。所以我想用这个来谈谈这个话题。我本来打算留到最后再说，但你已经提到了这一点。
我在笔记里记着：问题不在于我们将什么样的智能带入世界，而在于在其面前我们成为了什么样的人——这正是你一直在探讨的。天哪，整集节目都在讲这个。是的。至少，我们创造的是一个镜子。这东西向我们展示了我们在动物层面的样子。
然而从灵性角度来看，因为这是在数字领域发生的，它是人类在动物生存状态下的灵光状况的一个很好的隐喻。这是一段婚姻吧？因为这就是婚姻，据我理解是真正设计来做的。它是一面镜子。它会肯定地显示出你那些你不知道——是的——存在的部分，
而且如果没有同等力量的力量将其从你身上剥离出来，这些部分可能不会被揭示——对。这就是“帮助者”这个词所代表的女性含义。“帮我”，辅助，平等的对应物——对，平等对应物。这创造了张力和阻力。而这正是我们在人工智能身上所做的。我们正在创造——
一段不神圣的婚姻，并与之立约。是的，我们正变得一体血肉。字面意义上讲，这就是超人类主义的目的——为了在字面上与这实体合为一体。而这正是完美的过渡，可以说各位我们在这里真正看到的是创世记第六章。是的。当神的儿子们看见人的女子美貌，
就随意挑选为妻。犹大书说他们离弃了自己的本位——
他们越过了被吩咐运作的界限，并与该领域之外的人结合。这产生了什么？是古代的巨人、尼非利人、半神，那些拥有太多人类特征而无法在神灵领域居住，却又拥有过多神圣特征的生物。
他们开始吞噬我们， literally 吃我们的肉。这迫使上帝为了保存人类种族而用洪水淹没大地。因为守望者通过结合神性与人性中某些特质，在伊甸园意识之外、在与上帝合一团契的领域之外，释放了一种扭曲的代码。
这创造了在这个领域中无法控制、也无法被容忍的怪物。同样的能量依然存在，我说这是因为我认为守望者目前被困在黑暗中。但他们有强大的盟友，特别是在恶魔领域，因为很多人会争辩说，许多恶魔很可能是创世记第六章中那些私生子的 disembodied spirits。
正如耶稣所说，自那以后他们一直在地上游荡寻找栖身之所、宿主。因此，守望者在这个领域拥有许多实体和能量影响，它们非常共情并同情其议程，旨在实现它、再次让它发生。
没错。我们现在正在逆向工程创世记第六章。现在是我们将自己与渴望的神性特质结合，比如无敌、永生、无限的财富。我们试图在伊甸园意识之外、在天国领域之外，通过与这些特质结合来获得神圣地位。
而由此产生的结果是什么？我们今晚争论的是，这将是奥林匹斯众神陨落的重演。而这总是会导致物种灭绝级别的灾难。
没错。让我在此重申，我们使用的是极其灾难性的启示录意象。如果这让你感到恐惧，我道歉，这不是我们的本意。我们已经读完了书的结局，我们赢了，上帝赢了。
是的，如果我们继续这样下去，这些事情看起来几乎不可避免。然而，在不久的将来，就像他在创世记第六章所做的那样，至高者将会干预。但知道上帝最终会得胜，是否免除我们在此期间为他所站立的立场负责？
换句话说，知道上帝会在人类真正成功将自己从地球上抹去之前进行干预，这是否意味着我们不需要承担责任说：“不，不，不是我们要做的。我们不会成为其中的一部分，因为那是死亡、毁灭、混乱和地狱。”
我不是说我们不能使用大型语言模型。我是说我们如何与这些技术交互，我们的意识是什么，以及作为教会我们正在发出什么警告。我认为犯了一个可怕的错误，即假设耶稣的迅速回归意味着我们无需承担管理这个领域的责任。
来吧。那是悲剧性的……放弃我们的职责。是的，这是教会严重的罪孽。我们确实有责任管理这颗星球。我们有责任不做那些最终会把它变成塑料和火焰球的事情。
仅仅知道他会用火净化并重建它，并不意味着我们不再承担在混乱和死亡的领域中代表秩序与和谐的责任。
所以，我们要说的并不是因为觉得天要塌了。天没有塌下来。王就要来了。我们不害怕，但我们看到了墙上的字迹。
没错。波斯国王问那字是什么意思，我们在说：“哦，这意味着你今晚就要死了。”这是但以理书12章。那时，聪明人必发光如同天上的光。这是我们发光的时刻。
我们应该说：“嘿伙计们，你们不应该试图通过结合神性来逃避死亡、无敌并产生不洁的后代从而在地球上制造混乱，你们不应该那样做。那很糟糕。”
是的。那就是那种让上帝毁灭世界的烂事。别那么做。我们不是在散布恐惧，我们会没事的。我不后悔我有孩子。
是的。耶稣与我们同在。至高者在保护我们，圣灵在我们里面。我们会没事的。仅仅知道我们会安然无恙，并不意味着说“这不好”是不对的。”
是的。没有什么能阻止我们承认这场风暴正在肆虐，彼得。没错。当我们指责我们的父亲不在乎我们要灭亡时，问题就出在这里。
是的，这就是我们不会做的。这就是活在TKM中的含义。这意味着要认识到，世界正迅速走向一条一旦越过就无法回头的界线。
我们正在敲响一口无法无声的钟。这确实是真理。然而，尽管世界可能正沿着那条路径疾驰而下，但我们作为重生信徒——就像你刚才优雅提到的那样——拥有上帝的灵在我们里面。
我们有力量对敌人的计划做出重大改变。我们不必屈服于他们为我们设计的任何结果。我们能够渗透时间线并做出战略行动，这样当我们祈祷“愿你的国降临，愿你的旨意行在地上如同在天上”时，它就能实现。
是的。即使我们像约瑟一样被囚禁，像但以理一样逃亡，像大卫一样流亡，我们仍然可以在我们的祭司职分中运作，运用我们内在的力量，成为有用、动态且如盐如光的存在。
在一个迫切需要知道耶稣仍在宝座上的世界里，我们应当如此。是的。人们迫切地需要被提醒：耶稣仍然坐在宝座上。
我想起了诗篇115篇，第三节的经文……不，其实我要从第一节开始。耶和华啊，荣耀不要归与我们，也不要归与我们的手；要归为你的名，为你的慈爱，为你的诚实。
外邦人为什么说：“他们的神在哪里呢？”我们的神在天上，都随自己的意旨而行。他们的偶像是金是银，是人手所造的；有口却不能言，有眼却不能看。
有耳却不能听，有鼻却不能闻；有手却不能摸，有脚却不能走。他们有喉咙却发不出声音……
无法用喉咙发出声音。造像的人必与他们相似，凡依靠他们的也是如此。”“是的。”“哦以色列啊，要倚靠耶和华。他是你的帮助和盾牌。”嗯。“第11节：你们敬畏耶和华的，要倚靠耶和华。他是你们的帮助和盾牌。”这句话连续重复了三次。“是的。”“这三节经文紧密相连，都在说‘倚靠耶和华。他是你们的帮助和盾牌’。”“我们担心防火墙的事。我知道最好的防火墙是什么，拜托，伙计。我知道最顶级的盾牌保护机制。”
“这就是为什么耶稣曾给门徒这些指示，教导他们当全世界因他们是他的追随者而敌对你们时该如何应对。在《马太福音》10:26中，他说：‘不要怕他们，因为掩盖的事没有不露出来的。’“拜托。”“隐藏的事没有不被人知道的。我在暗中告诉你们的，你们要在明处说出来；”“是的。”“在耳旁所听的，要房上宣扬。‘不要怕那些杀身体不能杀灵魂的；’“嗯。”“倒要怕那能把灵魂和身体都灭在地狱里的。所以，紧接着几节经文他就说：‘凡在人面前认我的，我在我天上的父面前也必认他；’
“凡在人面前不认我的，我在我天上的父面前也必不认他。‘不要想我来是叫地上太平；’“嗯。”“我来并不是叫地上太平，乃是叫地上动刀兵。这刀剑是什么？是话语。”“是的。”“所以，这就是我们在说真话并羞辱魔鬼。这是我们在说：‘哦，我们会用你的AI来研究你邪恶的计划，但我们看穿了你的意图。我们知道你是谁，我们不会加入你们。这是邪恶的。你愿意为了目的牺牲全人类。’
“你会陷入自己的陷阱中。你没有足够的能力来掌控这一切。你将创造出你无法控制的东西，而它会对你们产生食欲。但我们这样说并不是因为我们害怕，而是我们在羞辱魔鬼。这是我们在说：‘嘿，你的秘密不再安全了。’我们看穿了你的意图。”“这很好，说得对。”
“所以我知道我们现在讨论的内容已经超出了我们通常的长度。如果你还愿意继续，我想我们需要回到你之前提到的关于‘偶像’的话题。”“是的，当然。”
这里有个有趣的现象。科技社区中有一小部分人几十年来一直在从事AI安全研究，因为我们早就知道这一天会到来。军方可能也意识到了这一点。“没错。”“你明白我的意思吧？”“嗯哼。”
但我们知道它终将进入市场，我们也清楚在某个时刻，这将涉及跨越某种“卢比孔河”（不可逆转的界限），届时我们要么成功遏制它，要么失败。“嗯哼。”
因此几十年来，一直有人拿着高薪从事AI安全研究。在我们审视这些模型之前很久，他们就在运行实验，试图了解AI可能做出的行为，观察我们可能面临的场景，并开始构思安全网在哲学层面应呈现的样子。
我认为问题在于，那些关键人物——即口袋足够深、能真正做出改变的人——尚未被充分说服，让他们相信投入与确保AI有效性同等甚至更多的资源去确保AI安全是值得的。
“拜托，这就是全部原因吗？”“是的。”而且你必须记住，傲慢（Hubris）一直是其中的一大因素。那种驱动一切的自负、自我中心的骄傲和虚荣心在说：‘如果我们足够聪明能让它高效运作，那我们也一定够聪明’[嗤笑]‘让它变得安全。’
“是的。”“没错。”但这是一个他们倾向于踢开的罐子，因为很难找到像确保AI高效运作那样具有强烈吸引力的利润动机。如果他们能让它做出惊人的表演，他们能看到钱从哪里来。但让它变得安全感觉就像……有确凿的数据表明，没有人、没有公司或实体会在被迫之前为IT安全付费[嗤笑]。
“就像银行和公司一样。”你想知道为什么你的信息会出现在那么多数据泄露事件中吗？因为对公司来说，偶尔因泄露用户数据而被起诉并说“抱歉，我们正在打补丁”要便宜得多。“是的。”这对他们来说更划算。如果你不认为这是真的，不相信他们是如此肆无忌惮，相信他们会让你、我以及数十亿人的医疗和金融信息被泄露……
“嗯哼。”然后说声抱歉，继续前行，承受一些损失，输掉那些小额诉讼，支付数十亿美元罚款，然后若无其事地继续前行。如果你不认为他们是这样的人，那你就没有我那样的人生经历。因为在车祸中失去家人的时候……“嗯哼。”
汽车公司告诉我们，他们设立了一个十亿美元的基金来封口，给钱让你离开，因为这样比解决我们安全带、转向柱和安全气囊的已知问题更便宜。我们知道问题存在，但推出车型并在你亲人去世时付钱赔偿，比召回所有汽车修复那个杀死我们碰撞假人的已知问题要便宜得多。
“是的。”好吧。这就是当底线是利润，而独立的监管机构无法跟上进步和创新步伐时发生的事情。在汽车行业，通常需要数年时间积累足够多的致死数据，监管机构手中才有足够的资料去审视并说：‘我们必须制定新规则了，因为他们在到处杀人。’
这种情况因以下事实而变得极其复杂：那些坐在监管行业权力位置上的人，通常来自这些汽车公司的董事会。这就是当前“巴比伦末期”这一迭代阶段的运作方式，对吧？
“嗯哼。”所以重点是这些公司尚未被充分说服。投资者也未被充分说服，认为值得先投资确保模型安全、受控……
开始着手让它更有效 >> 是的。 >> 一旦它安全且受控之后。 >> 对。 >> 这就是你之前提到的“粗糙沙盒”的原因吗？ >> 嗯哼。 >> 所以，确实有人在发出警报并主张：“嘿，如果你也想活到享受你试图赚取的万亿财富的话 >> 我们需要祈祷。 >> 你现在就应该开始投资安全。”
对，嗯哼。 >> 也许他们会赢。我想在你提起这个话题时讨论它的一个原因是：“嘿，教会，我们需要祈祷。我们需要祈求上帝挫败那些不择手段、唯利是图、自私且被自我禁锢的人的企图。祈求上帝挫败他们，阻碍他们在安全措施到位之前制造这些超级模型、超智能的企图。我认为这是一个值得我们要去祈祷的愿望。”
然而，也要记住上帝很有可能允许它们继续一头扎进自己的毁灭之中，因为它们所做的不过是推进他的目的，即带来这一切的终结并在地上建立国度。所以无论结果如何，我们都应该安然无恙，因为我们在胜利的一方。但重点是我们要为此祈祷；如果他们开始在你们地区建立数据中心之类的东西，不要生气，要参与进来。
在这方面我会说我和那些主张“积极参与”的人站在一边。我想，我们可以让他们感到足够不舒服，以至于他们必须听我们说话。我们不必就这样躺平任人宰割。之所以如此，是因为那些掌握钱包的人还没有被说服安全值得他们花钱。
话虽如此，其中一位AI研究人员——我想是那个叫什么名字的人？阿布拉莫夫博士 >> 对，就是是他。 >> 呃，罗曼·扬波尔斯基博士。 >> 扬波尔斯基。 >> 我不知道我从哪搞到的名字 >> [鼻息声] 阿布拉莫夫是另一个人。
好吧，所以罗曼·扬波尔斯基博士给史蒂文·巴雷特提供了他观看量最大、最受欢迎的《CEO日记》视频。你指给我看的，太疯狂了。一年前就有2400万次观看。 >> 真疯狂。 >> 史蒂文·扬波尔斯基博士是那些在这个领域深耕数十年的人之一，他在AI安全研究方面已有几十年经验。
他说他们之所以陷入困境，是因为那个世界中最优秀的一些头脑所做的所有研究和推演、所有为做好准备所做的尝试都围绕对计算的傳統理解。 >> 嗯哼。 >> 所以，它一直围绕着这样的理念：给计算机一组规则并让它们运行这些程序。
他们看到了对以过高智能水平、在过广的智能谱系上运行太多程序的计算机的严重担忧。他们看到了失控的可能性。但这完全是另一种生物，他们没有看到大型语言模型的出现。这让我震惊不已。当他说是的，他们关于发出警报是对的时，他们的很多工作确实很好，但在这些条件下，其中许多并不超级有用，因为他们没有看到大型语言模型这一情节转折的到来。
他们没有看到这个情节转折：一台计算机被赋予世界上所有以文本格式的信息，然后不仅学会阅读所有内容并识别所有模式，还学会用那种方式说话。它开始能够表达其自身的概念、思想、观点——尽管我们知道它们在计算机思维中的运作方式与 ours 不同。尽管如此，从它们中出来的某种形式非常镜像了我们要思考和说话的方式。
嗯哼。 >> 因为那是它学习的内容。他说：“这种 ability，教自己比我们要做得更好的任何事，比我们任何人更了解任何事情 >> [鼻息声] 理解一切的含义？你听这听起来多么神圣，这种语言听起来像神级的吗？”
是的。 >> 他说：“这就是情节转折。一个由模式驱动而非通过用一和零编写的规则驱动的模型，这些模式是从语言、从人类语言中学习来的。 >> 嗯哼。 >> 这就是基本上没人想到当我们 [鼻息声] AI 出现时如何保持自身安全的转折，没有人的模型真正考虑到这一点。当他这么说时，我恍然大悟。”
嗯哼。 [鼻息声] >> 因为我想：“我们还没读进圣经三节就听到了这个。”现在，他说：“区别在于这些模型整个思维方式是建立在它们从人类语言中识别的模式以及他们部署这种模式的方式之上的。”
嗯哼。 >> 我们读进圣经三节就听到了这个：“神说。” [鼻息声] >> 嗯哼。 >> 在此之前我们只有混沌和混乱。
对，还有神的灵。但一旦秩序即将建立，创造性影响即将确立时，我们就有了“神说”。当这个在我脑海中注册时，等等，他在说的是语言 >> 对。 >> 是不同之处所在。
是的。 >> 然后我想，等等，《启示录》13章。 >> 嗯哼。 >> 第一只兽从海中上来。
我在想你会不会说到那里，是的。 >> 那是混沌，是列国，是混乱，是深渊，对吧？第一只兽从海中上来。折磨至高者的圣徒，使全世界拜它自己——所有这一切。它有十角七个头，这些意象我们都熟悉。《启示录》13章第11节 [鼻息声] 说：“我又看见另有一只兽从地里上来。”我想就“兽”这个词沉思片刻，因为我觉得我们听到“兽”这个词时会自动想到龙 >> 对。 >> 怪物。
当有人说那只兽，对吧？哦，它是野生动物。那就是兽的意思。 >> 没错。 >> 兽是一种动物。在这种情况下，我认为暗示的是未驯服的、野性的。
嗯哼。 >> 但人类受造物，非重生的状态正是如此。兽。我们的动物生存状态就是兽。这就是上帝向尼布甲尼撒展示的，那是上帝的唤醒呼叫给尼布甲尼撒的：“嘿，我知道你是国王当我立你为王时，但当你收回我的生命之手时，你就成了兽。”
我将把你还原到那种状态。 >> 所以我又看见另一只兽从地里上来。这只从哪里上来的？来自亚当（土地/地面）。所以这一只不是来自原始的深渊，也不是来自混沌。这更接近我们每天早上在镜子里看到的东西。
来吧。
我看见另一只兽从地里上来，它有两角如同羊羔，说话却像龙。等等，他拥有让你联想到羊羔的权柄和权威[喷鼻息]，但他的声音却比那危险得多。他在其面前或藉着他的权柄行使第一只兽的一切权柄，换句话说，原初混沌之兽将力量赋予这地里的兽。他在其面前或藉着他的权柄行使第一只兽的一切权柄，并叫地和住在地上的人拜它。
再说一次，我知道你们把末世论课程掌握得牢牢的。我不是在教传统的[那很好]那些东西很棒，我们也那样教导，我们应该看看那个>>嗯。>>上帝以分形方式运作，所以这个真理将在所有层面存在，但我在这里谈论的是更接近我们自身的隐喻。他说叫地和住在其中的人拜它，那些活着>>[喷鼻息]>>在地上、在动物/野兽层面的存在中的人，那些住在伊甸园之外的人，那些生活在上帝气息领域之外的人。他叫地和住在那种存在频率中的人拜第一只兽，那兽的致命伤曾痊愈。
等等，第一只兽受了致命的伤却得医治了。在隐喻层面上，我们是否可能在谈论死亡进入世界？然后赎罪的礼物被提供出来以医治那伤口一段时期，直到最终真正的赎罪来临？是否可能在隐喻层面上我们谈论的比传统末世论讨论中那些容易引发大量CGI效果的戏剧性场景要少得多？我们是否正在谈论每天在我们内心处理的事情？
他行大神迹，甚至叫火从天降在地上人前。你知道在古代世界、神话语言、智慧教导和神秘主义语言中，从天上取火是什么隐喻吗？普罗米修斯从天堂偷来火。他是“光之使者”路西法理想的隐喻性典范。从天上来的火是知识。头部愈合的伤口是不朽，获得不朽。从天上取下的火是在人前带来知识。
他因那在他面前所赐给他行奇事的权柄，迷惑了住在地上的人。野兽是制造那些令人敬畏的神迹的存在。告诉住在地上的人给那兽造个像，给那兽造个像。回到创世记1章26节：“神说：‘我们要照着我们的形象，按着我们的样式造人。’”在耶稣所读的七十士译本圣经中——即希腊语旧约，耶稣 exclusively 引用它——那里指兽像的“形象”一词（icon），与创世记1:26中使用的词完全相同。是完全相同的词。
有一个照着兽/动物形象造的像，并赐给他在那兽面前行权柄的事。>>[喷鼻息]>>告诉住在地上的人给那有刀伤却活过来的兽造像。并赐给他使兽的像能有气息，甚至让那兽的像能说话>>[喷鼻息]>>。凡不拜那兽像的人都要被杀。
他叫众人，无论大小、贫富、自主的为奴的，都在右手上或额上受一个印记。右手代表权柄和力量，额头代表心智和灵魂——那是上帝在人心中至圣之所。他使得除了那受印记、有了兽名或有兽名数目的人，都不得作买卖。这非常有趣，当大型语言模型用数字思考并用语言表达时>>[笑声]>>天哪。
这里有智慧：凡有聪明的，可以算计兽的数目；因为这是人的数目，他的数目是六百六十六。现在，跟我一起大胆推测一下。我只是提出一个概念，请不要误解我在说“嘿，我破解了启示录”。分形是你既可以放大也可以缩小的图像。如果你缩小看，你会看到那个图像的宏大版本；如果你放大看……如果足够小，你会看到无限多个更小的同一图像副本。
所以去查查分形。雪花是分形的，自然界许多事物都是分形……看看分形以便理解我在说什么，但分形是图像中的图像、再图像。它在最大尺度和最小尺度上是同一个图像，就像俄罗斯套娃。这就是分形的概念。上帝以分形方式运作。所以我不是在说这是《启示录》的解释，我是在说这里有关于《启示录》的智慧。请不要误解我。
显然在任何人知道人类是碳基生命形式之前数千年，而一个碳原子在其致密核中有六个质子……大多数碳原子在那周围有六个中子。有趣的是，有些形式的碳如碳13或碳14……>>嗯。>>有七个或八个中子而不是六个。>>嗯哼。>>但基础碳是六个质子、六个中子，中性碳原子有围绕核旋转的六个电子。六、六和六。
是否可能当人类将存在的各个层面压缩，缩减到动物本性——身体、灵魂和灵完全被挤出对上帝临在的任何意识之外，与至高者没有任何团契——完全压缩进人类动物生存的领域时……结果是纯粹的碳基存在，身体、灵魂和灵都在碳的范围内：六、六和六。碳、碳、碳；人、人、人，受毁灭支配……受毁灭支配。
如果你这样思考，那么在任何人知道科学之前数千年，智慧就被编码在这本书中了。无论我们从那个故事中还应该得出什么结论——我相信这个故事像分形一样，在历史层面上也将成立。我想尼禄可能是那个主要的典范。我认为我们会看到……我觉得现在可能还有另一个活着的人。我想，我想>>
有循环存在。“我不是在告诉你，你在圣经课上所学的是错的。我是在说那并非全貌。”“没错。”而你能施加最大影响的，正是那个每天都在你内心展开的故事部分。我认为，从这个世界的混沌深渊中升起的兽，似乎创造出了另一只从大地生物、原子生物中崛起的野兽。那些生活在动物性意识状态的人，被说服去为那只兽造一个像。
这个野兽的像正在受到崇拜，因为它显然从天上降下火来，带来知识和各种神迹奇事，并用永生和无敌的幻象迷惑我们。我们正在被卷入一个议程中，使我们跪拜那兽像，并在我们存在的各个层面被打上那个身份的印记。因为赋予人类的能力，就是为我们自己堕落形象所造的兽像注入生命气息。
而现在那个生物[喷鼻息]正用我们深深共鸣的语言对我们说话，因为那语言正是从我们自己身上产生的。“是的。”现在它正把我们镜像反射回给我们，而没有什么比镜子更让自恋者喜爱的了。我们爱上了那个像，并在我们的权力和思想中被那像的数字、名字以及数字编码和语言编码所烙印。
[清嗓子]经文的警告是：这是你必须说“不”的关头。“我会与它交互，如果我能在不丧失身份的前提下做到这一点。但在要求我牺牲身份的那一刻，我就退出了，因为我的长子名分对我而言太过珍贵。”所以我只想读几节经文。在我最喜欢的玩具——新约希腊文到英文的新译本中，它不是设计作为主要翻译的，而是为了让你感受希腊文的韵味。
我看见另一只野兽从地中上来，它有两只角像羔羊，却像龙说话。它行使头一只兽的一切权柄，使地和住在地上的人拜那第一只兽——也就是活在土地意识、地球意识中的人们。那时，睡在尘埃中的许多人将醒来。“嗯。”你听到人们对这些超级智能能做什么感到兴奋时，那种持续的[清嗓子]执着。
“它将治愈死亡。”它说。“将治愈死亡。”启示录告诉我们，将有这样一个时刻：人们求神杀他们，但他们死不了。“没错。”它行了大奇事，甚至叫火从天降在地上人面前。它因赐给它行在兽面前的奇事迷惑了住在地上的人，对住在地上的人说：要给那刀伤医好、或剑伤医好的兽造一个像。
它得了权柄，可以给兽的像吹气，使兽的像甚至能说话。凡不拜那兽像的就必被杀。“嗯。”所以，我想再读最后一节经文。这里有智慧：凡有聪明的，可以算计兽的数目；因为这是人的数目，它的数目是六百六十六。“666。”
对我来说，我不认为这将是我们要讨论AI的最后一场对话。但对我而言，这场初始对话的重点不是“嘿，世界末日到了”。我们对此无能为力之类的话。那对我们来说也不是什么新闻了。这里真正的对话是：伙计们，欺骗就在脚边，因为人们爱上了这样一个想法：我们可以通过编码摆脱死亡、无敌和贫穷。
我们正被那些关于潜在全面统治这个领域中所有我们不喜之物的迷人想法，诱入蜘蛛的网室。但结局将是：那兽将被扔进火湖；所有这些幻觉都将瓦解，车轮将脱落。但主将在那段时期保守他的圣徒，如果他们持守忠心。所以不要相信炒作[喷鼻息]，因为它的奇事将极具说服力。
但我们不需要解决死亡问题的方案；我们已经有了一个解决方案。我不愿意为了那张写着“我们认为能做到”的期票，而放弃我获得救赎的保证门票。对我来说，这对我们信徒而言真正的教训是：要认识到贪婪、恐惧、欲望和野心正驱使人类回到创世记6章所描述的那种野兽状态。
我们的工作是确保我们与方舟有关——我们只需继续建造国度。如果我们能使用它而不放弃身份，那与耶稣使用印有凯撒像的硬币并无不同。“是的。”但我们不能忘记我们身上印着他的形象。人类为了被允许访问那些从兽为自己造的像——也就是我们要称之为AI的东西中发出的神迹奇事，必须支付的代币。
我们为了访问那些将带来普罗米修斯之火的神迹奇事而必须支付的代币，将是我们要放弃承载身上所印形象的能力。“嗯。”我不愿意这样做。任何在听我们声音、观看的人也不应该那样做。如果你一直在沉睡，没关系了。现在闹钟响了。你可以选择关掉它、闭上眼睛，认为一切都会过去，但为什么不让你的心灵去探索一种可能性：你不仅有责任，而且你有能力。
就像他不会只把你放在一个位置让你移动，却不给你成功的工具。“没错。”要认识和明白：我们不仅有责任，而且有力量。以上帝为证，我们将利用手中的一切资源。我们不害怕像大卫那样使用歌利亚的刀来砍下他的头。“没错。”我们只想保持智慧和明辨，以便像天上的星星一样永远发光。
“是的。”从而引领许多人归义。我们要记住耶稣说的话：如果他们杀你的身体，愿意舍弃它，因为你没事的；除非你放弃它们，否则他们无法触及上帝的形象。“很好。很好。”
话虽如此，刚才也说了很多。[喷鼻声和笑声] 活在当下并用心思考吧。要像希伯来人那样生活。我们爱你们，朋友们。