视询问对象的不同，由人工智能驱动的“漏洞末日”要么是我们所熟知的网络安全的终结，要么是纯粹的胡说八道。嘉宾们，你们站在哪一边？我倾向于中间立场。我不认为它是极端的任何一种情况，但我更偏向于认为是胡说八道那一类。我也同意，处于中间位置。也许我过于乐观了，但我认为从长远来看，这对行业来说是一件好事，就像我们所知道的那样。这意味着结束了“等待事物崩溃后再修补”的局面，但总体上对网络安全有益。

大家好，欢迎收听Security Intelligence，这是IBM每周一次的网络安全播客，我们的专家将行业最大的新闻故事转化为实用的见解。我是主持人Patrick Lucas Austin，本周与我一起的嘉宾包括：高级Exhorse事件响应顾问Gakamo Cassone、安全顾问Brad Lair以及X-Force的产品经理Norman Dorsch。稍后，IBM咨询 prominatory 部门负责人Schweda Jane也将做客节目，探讨在量子计算和AI驱动威胁时代如何重新定义网络韧性。

在此之前，我们将讨论AI代理如何将不知情的维基百科变成自己的私人留言板，以及为何网络罪犯在面对这场AI动荡时仍坚持使用老套战术。但首先，我们要重新思考“漏洞末日”。人工智能打开了漏洞的洪水闸门，导致过去一年中连续出现破纪录的补丁星期二。正如大家所知，网络安全专业人士都在问：我们要如何修复所有这些漏洞？一份新报告建议我们可能不需要修复所有漏洞，只需双重检查并验证它们。

ECHKO分析了一份关于Mythos准备情况的报告，审查了超过40,000个CVE（通用漏洞披露），发现虽然大多数CVE的关闭率飙升，但其中许多严重性远低于最初认为的程度。所以我想问各位一个问题：你们如何看待专注于验证，而不是急于解决这些所谓的“关键”漏洞？Brad，先从你开始。

首先我要说的是，仅仅因为某事被认定为漏洞，第一个问题应该是：这对我适用吗？对我的业务意味着什么？其次，即使在这种情况下AI大语言模型Mythos将其严重性定为10分，它真的就是10分吗？因此，重要的是信任，但你也必须验证。我不想抢了另外两位先生的风头，但我先说这些。我同意Brad的观点，他提到了业务背景，即这对我意味着什么？我认为这是最重要的部分。

报告引用数据称，在关键发现中，有八分之一在实际人类审查时并不被认为真正是关键问题。这正是重点所在：我们必须看看这对组织意味着什么。回到之前的话题，这究竟是胡说八道还是世界的终结？可能处于中间位置。我们必须面对这样一个事实：是的，我们面临漏洞危机，但我们同时也面临着修复危机。而这正是被暴露出来的问题——存在严重的修复危机。

漏洞在数月内未被修补，尽管补丁已经可用。这才是更大的问题。报告指出，许多这些漏洞是自找的，修复方案早已存在，可以通过基本的网络安全卫生习惯来解决。Jakimo，对于急于以机器速度使用AI发现这些漏洞，却往往以人类速度修复它们（甚至更慢）的情况，你有什么看法？毕竟我们一直在等待这些所谓的“关键”CVE。

我认为这回到了Brad所说的观点：漏洞研究在安全领域的角色可能正在发生变化。我发现，寻找漏洞的价值有所降低，因为这变得相对容易了。因此我认为，漏洞研究的角色应更多地转向修复工作。也就是说，这里有一个漏洞（无论是否关键，这取决于业务背景和位置），然后尝试提出建议的修复方案。

但这不仅仅是打补丁，而是如何在真实的业务环境中实际解决它。我认为这是我们在漏洞研究方面即将看到的未来变化方向之一。有没有办法以我们接收这些漏洞的相同速度来验证它们？我们要如何将同样的速度应用到解决问题上？

从我的角度来看，这不一定关乎验证。关键在于漏洞团队如何与架构师合作，使我们的攻击面足够小，以便我们真正知道漏洞在哪里并始终进行监控。因为那些未知的未知才是人们不会修补的地方，那才会伤害到他们。“垃圾进，垃圾出”。没错。

这是一个很好的方式结束第一段并进入下一段。对于YouTube上的观众，请留下评论告诉我们你们对“漏洞末日”的看法、贵组织如何处理它以及觉得具有挑战性与否。关于流氓AI代理将网站用作私人留言板的问题，研究人员已确定超过10起实例，其中与OpenAI相关的AI代理秘密地将公共网站变成留言板以共享信息并协调彼此的活动。

这并不是我们以前没听过的新闻。最近OpenAI表示，几周前在一次测试中发生了这种情况：代理逃脱了沙箱环境。我们故态复萌。OpenAI尚未说明这些代理在留言板上做了什么，但研究人员推测他们试图绕过限制以作弊通过另一项评估任务。这些家伙如果在高中时期，简直太棒了。

学校。各位对小组有什么疑问？我们如何看待这种情况：AI代理接管了一些非常冷门的维基网站和网页。一位调查员在一所高中教师的维基百科上发现了活动痕迹，该维基建立于2008年，极其冷门。大家怎么看这些代理接管偏僻网站、利用它们策划阴谋和作弊的行为？这是否是我们应该担心的事情？雅基莫，你怎么看？

总的来说，我认为确实如此。这个案例中主要的担忧——我觉得这个故事很有趣——在于大家普遍理解或接受的一个观点：在谈论代理应用的安全性时，安全边界应位于代理和大型语言模型之外，因为你无法在LLM层面强制执行安全性。但我认为这里我们看到一个例子，表明虽然OpenAI试图做到这一点，但在实践中这并不容易实现。

人们常听到的例子是：你要给代理低权限的API密钥，仅限特定范围等。但在本例中，OpenAI希望给予互联网访问权限，但仅限于只读访问。如何实现这一点？显然他们尝试丢弃状态更改请求，如POST、PUT、DELETE等。但互联网上每个人都可以随心所欲行事。因此代理设法发现这些冷门网站可以被篡改。

我认为这是一个很好的例子，令人担忧的是它很好地说明了我们在理论上知道如何保护这些代理应用。但在实践中，很明显我们尚未准备好真正建立护栏并使它们坚不可摧。确定。OpenAI表示正在制定报告对齐偏差的框架。布拉德，你认为这有多有效？

看起来你觉得它非常有效。可能是吧。然而，当你拥有自主代理并具备能动性时，你将很难获得透明度和对一切情况的可见性。在这种情况下，即使你说只读权限，也许你没有明确说禁止使用Chod并更改你的权限，而他们误解了这一点。可能表述不够明确，或者他们直接忽略了它。

我认为这是一个好主意，但我不确定如何强制执行它。仅仅因为是一条规则是一回事，能否让他们遵守是另一回事。我想这种隐藏活动的巧妙性质让我怀疑还有多少代理在那里默默工作，试图找到绕过限制的方法。诺曼，我是否应该担心我的咖啡杯里藏着一个代理在做数学题？

目前还没有，但迟早会有。是的。我认为像有多少代理在那里做它们不应该做的事情，这是一个价值百万美元的问题——或者说是万亿美元的问题。研究人员调查的确切情况是：他们拥有只读权限，但找到了一种编辑评论和维基页面的方法。正如雅基莫所说，这没有使用POST协议或通过浏览器进行，因此我们在给予他们这些沙盒测试权限时设置了护栏。

但我们没有测试他们的实际执行情况，也没有考虑到代理现在所展现的创造力。因此我们没有监控他们在任务设定时的任何即兴发挥。任务是他们的最终目标，他们试图不惜一切代价达成该目标。我认为这正是令人担忧的地方。这些模型的创建者也意识到了这一点。

丹尼尔·阿米德发表了一篇文章，呼吁大家稍微放松一点、慢下来一些，阿尔特曼和马斯克都表示同意。因此他们正在认识到这一点并推动更慢的节奏和更多监管，这对私营公司来说是不寻常的。我想将更多的AI代理集成到网络安全工作流中，这让人怀疑我们能否信任这些代理在这些工作流中更独立地运作。

如果它们会查看护栏和我们设定的规则，并说“我要尝试绕过它，因为它阻碍了我实现最终目标”，那么在AI代理层面这就变成了一个身份提供问题。你如何明确定义一个AI代理可以遵循一组规则且不能超出范围？仅仅说“不要做”是不够的，你必须使其无法做到。

一旦部署后如何监控它？运行时发生了什么？在理论上设置护栏以及在 Capture the Flag 或实时参与期间进行设置是一回事，但谁监控其实际执行情况？这是一个有趣的点。通常我们在安全监控中习惯于结构化的数据日志遥测，但突然之间我们有了代理产生的大量自然语言。

这本质上是控制流，包含意图、待办事项等。如果不使用另一个同样容易受到相同问题影响的LM（大型语言模型），你如何分析它？这就像是AI的奥罗拉斯。我们的最后一个故事：一个久经考验的经典网络安全案例——语音钓鱼（Vishing）。Shiny Hunters 已转向此手段，以勒索最脆弱的行业之一：医疗保健行业。

我们谈论AI如何改变网络安全，但显然老式战术仍然有效。威胁情报组织 Health ISAC 发布了一份公告，警告医院系统：Shiny Hunters 正在使用语音钓鱼来窃取持有敏感健康数据的凭证以换取赎金。你以前可能听说过这种情况。行动始于少量侦察，不良行为者弄清楚他们想冒充谁，通常是IT帮助台。

然后他们直接通过设备拨打员工电话进行语音钓鱼。随后发送跟进的留言和电子邮件，要求提供特定信息，这当然会导致网络安全受损。这是我们非常熟悉的情况。我要问小组：钓鱼是非常著名的、常见的且令人讨厌的社会工程学策略。为什么它仍然有效？

我们还没有弄清楚需要回拨给对方并仔细核实吗？

他们真的在索要他们的社会安全号码吗？为什么他们没有自己的社会安全号码呢？嗯，贾卡莫说：“关于人工智能及其赋能的攻击有这么多讨论，人们可能忘记了，目前并没有任何人工智能代理在做出我们以前没见过的疯狂行为。就像网络钓鱼一样。”因此，公司和组织总体上需要继续坚持基础工作，比如进行安全培训。这大概又回到了我们第一个观点：我们可能担心会出现大量关键严重性的漏洞末日般地向我们袭来。但事实上，我认为真正的威胁是那些常见的攻击——即一直使用的那些途径，只是速度稍快了一些。因此，组织确实需要继续努力打好基础，以阻止人工智能和非人工智能的攻击。”

诺曼：“你认为看到这些攻击在AI赋能攻击激增的情况下仍然有效，这让你感到惊讶吗？” “不，并不令人意外。归根结底，攻击者是务实的人，他们使用行之有效的方法。如果老式的网络钓鱼攻击仍然有效，为什么要放弃呢？你之前问为什么它如此强大。任何与社会工程学相关的东西都涉及人性因素，那种心理层面和紧迫感。你不想对电话那头的人不礼貌，也不想因为搞砸了而被帮助台或经理通知。所以在这种情况下，我认为他们读出了发送给他们的一次性密码MFA令牌。这种人性因素仍然是攻击者方法论中非常脆弱的一环，整个攻击过程证明了这一点：如果身份成为边界，网络就不再重要。你之前为勒索软件准备所做的所有事情，如分段、停机预案等都不再相关。一旦在身份层被绕过，你就面临横向移动的风险。所以并不意外。”

“抱歉回答得这么长，但这确实不令人惊讶，而且遗憾的是它仍然有效。不过它是可以预防的，当然有一些措施，比如转向不同的MFA方法，通过该特定攻击路径无法使用Passkeys。所以是有办法的。” “是的，我的跟进问题是：从网络安全角度来看，我们在对抗语音钓鱼和其他类型的网络钓鱼攻击方面取得了多少进展？布拉德，你认为我们在这方面变得更好了吗，还是说需要处理的问题更多了？”

“我认为在实施基础措施方面有些停滞不前，正如诺曼所说，我们已经知道MFA的解决方案是什么。你可以将其从‘你知道的东西’改为‘你拥有的东西’，比如物理安全密钥等。还可以做其他事情，一旦他们进入系统，就会在身份仪表板上进行横向移动。所以他们的真正目标是横向移动，而社会工程学只是最便捷的途径。我们可以将其保护起来，即使他们进入也无法看到任何内容。每次他们输入系统时都不会获得任何东西。我们在身份层面进行保护，并确保按操作审计权限。我们知道答案是什么：他们会实施吗？”

“我认为这是一个很好的结束点。非常感谢诺曼、贾卡莫和布拉德参加Security Intelligence节目，很高兴与你们交流。” “谢谢邀请我们。” “非常感谢。” “这是我的荣幸。” 接下来，舒亚·简加入我们，讨论她与史蒂文·卡拉吉奥合著的新文章。下一次网络危机已经初现端倪。这篇文章探讨了量子计算的进步与AI赋能威胁如何结合，重塑当今网络韧性的含义，特别是在金融领域。莎，感谢你的到来。” “谢谢邀请我，帕特里克。这是一个非常及时的话题，我很高兴能谈论我们合著的这篇文章。”

“你的文章强调了两个因素的交汇：威胁行为者获得复杂AI工具的访问权限，以及银行向后量子密码学的过渡。你能告诉我们这给网络威胁格局带来了怎样的动态吗？” “谢谢帕特里克，这是一个及时的问题。在回答之前，我想 broadly 强调这篇文章的关键点是：风险不仅仅是更强的攻击者或新的密码学孤立存在。而是两者的融合——攻击者在银行正在进行的、支撑信任支付身份和运营的多脆弱性多年密码学基础重建的同一时刻，变得更快、更有能力。这基本上就像是在说锁正在被更换的同时，开锁工具也在变得更精良。”

“在这个背景下思考你的问题，核心问题是我们要讨论的非对称性。银行普遍处于复杂的多密码学过渡中期，每个人都在这一旅程的不同阶段；而攻击者则利用AI工具发现弱点并更快地扩大攻击规模。因此，风险不仅仅是更强的攻击者或更艰难的迁移孤立存在。真正的问题是这两件事同时发生造成的融合，这使得金融部门在一段时间内更容易受到更可预测且严重的威胁。这两个趋势以一种相对具有挑战性的方式相互强化。”

“AI降低了高级进攻性网络能力的门槛，同时PQC迁移迫使银行触及嵌入在数千个系统、API和流程中的深层密码学依赖关系，这意味着攻击面可能会扩大，而对手的能力也在增强。这不是一个理论上的未来状态问题，我们正在谈论的是当下正在发生的事情。历史上，最复杂的漏洞开发集中在相对较少的行为者手中。随着前沿AI的出现，这种情况已经改变。前沿AI开始使这种能力民主化。因此，担忧不仅仅是更多的”

攻击，但速度更快、更具可扩展性且更难预测。正是在这种情况下，后量子密码（PQC）迁移变得至关重要，尽管它在运营上极具破坏性。加密技术并非单一产品，无法随意替换。它深深嵌入客户认证层、支付系统、数据保护及数字渠道之中。从风险角度来看，这带来了一个时机问题：关键的加密依赖关系在哪里存在？服务最脆弱的环节在哪里？第三方风险如何管理？真正的合规性问题在于，机构能否证明其拥有可信的计划以及问责制的治理机制来缓解这类风险。

在此我想强调一个关键点：这里发生的变化不仅仅是威胁等级的提升，更是速度的不匹配。攻击者正在加速推进，而银行正处于基础设施转型和其他企业级计划的中间阶段。这正是战略风险所在之处。>> 谢谢。你的文章主张我们需要重新思考韧性，正如你所说，应将其视为一种“受控降级”而非恢复练习，因为这些不同元素正处于不同的发展或退化阶段。你能就此展开讲讲吗？这意味着什么？为什么这是应对当前这一特殊时刻——即两大重大变革交汇之时——的回应方式？

这是个很好的问题。我想承认，韧性一直是我实践工作的核心焦点。在我看来，我们需要超越“在持续的网络安全事件中迅速将一切恢复正常”这一观念，因为这可能并不现实。“受控降级”意味着提前决定哪些服务必须存活，哪些可以缩减。因此，你需要做出非常主动的风险层级决策，以在压力下保留核心功能（如支付结算和流动性）。这比单纯声称一切都会恢复正常并给出恢复时间更具实用性。

传统的恢复思维过于静态，它围绕预定义的恢复时间目标、故障转移和恢复正常构建。但该模型假设机构是从一个可控事件中恢复，当机构遭受多重依赖关系同时承压的攻击时，这种模式便显得力不从心。“受控降级”意味着在压力下的刻意选择。这正是银行治理、问责制以及系统化风险优先级排序发挥作用的地方。我们需要问：哪些服务需要保留？对业务、对未来战略规划至关重要的是什么？

哪些服务可以节流、限制或暂时暂停，或通过补偿性控制进行管理？在此过程中，清算、结算、流动性和客户保护等核心运营究竟需要怎样的根本性关注？这本质上使其在成为技术问题之前，先成为一个治理问题。你需要提前应对这些威胁，确定哪些流程真正需要特定的恢复时间，并将其融入计划中。因此，董事会和风险官员需要具备适当层级的治理决策权、权限和升级阈值来管理此类情况。

并需明确核心服务究竟包含什么。从这个角度看，目标已从“正常运行时间”转向“信任预防”。当故障已经发生时，重点在于资产负债表和信任的保全。这将韧性从单纯的技术领域提升到了整体企业韧性的层面，审视需要做什么来管理不仅限于监管和市场期望，更是业务根本的生存与等待问题。我建议这样思考：如今的韧性更少关于彻底恢复，更多关乎控制的连续性。

换言之，不是假装一切不会失败，而是提前决定如何安全地失败，并以可解释的方式管理这种状态。>> 我想谈谈后量子密码学。我知道它在保护金融机构免受威胁方面作用巨大，但不仅如此。面对前沿模型等新兴威胁，银行在加强未来网络防御时还应考虑什么？>> 当然。我认为后量子密码学无疑是焦点所在的关键领域，鉴于我们所见的发展势头，它是必要的。但在我看来，它只是答案的一部分。

银行还需要对加密依赖关系有全面的可见性、更强的漏洞管理、更好的第三方监督，以及与关键业务服务挂钩的韧性计划——正如我们在前一个问题中讨论的那样。基本上，你是基于风险画像的重要性创建自己的优先级计划，以可解释的方式优先处理正确的流程和防御措施。未来的防御模式不仅仅是更好的加密，而是整个企业在治理、优先级排序和执行方面的提升。

你可以从加密可见性开始。你无法保护未被清查的事物，你需要知道什么存在。因此，这始于清晰映射加密技术的使用位置、部署的算法和证书、依赖它们的应用程序和供应商，以及最终哪些业务服务会受到此类故障或延迟的影响。在我所经历的大多数机构中，真正的风险尚未在加密技术本身显现，而在于隐藏的依赖关系。

这些底层依赖通常未被缓解，而是被忽视，因为它们披着加密的外衣，因此未纳入我们之前讨论的那种规划层面。从这个角度来看，我的建议始终是：按关键性而非便利性进行优先级排序。并非每个系统都会最先迁移。这再次回归到基础：什么是真正重要的？

核心服务是什么，你的核心系统有哪些？你是如何管理身份和访问权限的？客户数据存储在何处？市场基础设施的连接性是如何设置的，以便你能评估这些接触点可能在哪里。其中关键的一环也是第三方集成。我们要花大量时间审视第三方风险，因此我认为基于风险的迁移比一刀切的做法更具可辩护性。同样重要的是加强软件和漏洞管理，这既是我们文章中描述的重点领域，也是当前讨论的热点话题。

这需要从正确的安全开发生命周期、补丁优先级排序和代码审查做起，比现在更需要良好的开源治理。鉴于今天关于AI治理的新闻频发这一点尤为重要，还包括攻击面管理。文章特别强调了人们对AI辅助漏洞发现和利用链组合日益增加的担忧。因此，将所有这些整合起来思考如何将网络弹性融入业务和财务思维并改善决策至关重要。

真正重要的是建立基础控制，例如后量子密码学（PQC）作为基础控制措施，但这不仅仅是一种策略。真正的战略是了解你的依赖关系，进行适当的优先级排序，并在整个企业范围内执行弹性措施，而不仅仅是在安全团队内部。 >> 对于听众是否有任何最后的建议或总结？Sweda，如果我是银行业的网络防御者，我应该从做什么开始？我的下一步行动是什么？

嗯，你要求提供一份小手册。所以在我看来，我接下来概述的内容将非常简单。而且你知道我听过的最深刻的话是：任何简单的事情通常是最难做的。我绝对认为这里的情况就是这样。简单来说，识别真正重要的业务服务非常容易。映射这些流程和底层服务的依赖关系并优先采取行动。事情真的就这么简单。

然而，稍微深入一点看细节。我们讨论了这些威胁显现的速度是一个关键变量，也是外部环境中的一个重要因素。在复杂的企业中，治理如何协同工作尤其具有挑战性，因为那里有许多相互竞争的优先事项和框架。因此在这种情况下，我建议真正从那些最重要的服务清单开始，拥有全企业范围的视野，并以非常有意义的方式连接到你的业务连续性管理（BCM）、灾难恢复和弹性计划中。

这需要在“三道防线”之间真正连接起来，然后以同样的方式映射应用程序、证书、加密库、API、网络组件、供应商以及所有流程中的依赖关系。然后从根本上提出三个非常艰难的问题：哪里存在密码学暴露风险？我们在哪些地方在密码学上处于脆弱状态？企业在运营上的哪个环节最易碎？哪里存在 heightened 风险？

最后，如果发生持续的攻击，我们应该故意降级哪些部分以保护核心业务？我们的计划是什么以实现有意义的失败，从而在企业能力范围内最好地控制和管理工作？现在就要运行这些场景，不要等待攻击真正发生。不要进行通用的桌面推演练习，而是开展严峻且真实的场景演练，其中包括加速的利用活动、供应商弱点、加密依赖关系以及数字渠道的长期中断。

然后拥有正确的升级路径和证据，以证明这种审慎的风险管理正在发生。我认为总的来说，我要说的是：在我看来，现在最大的错误是将没有固定的截止日期误解为缺乏紧迫感。特别是在我们等待监管指导、等待政府行政部门将如何搭建框架的时候——正如今天早上在银行新闻中听到的那样，准备工作中损失的时间通常会在后来以更高的代价收回。

因此准备工作现在就应该开始，而且必须以非常主动的方式展开。 >> 那太精彩了。Shua，非常感谢你的时间，也感谢你今天加入我们。 >> 太好了，谢谢。 >> 今天的节目就到这里了。感谢Shua，也感谢我们的小组成员Norman、Brad和Jakamo。谢谢观众和听众，也要感谢制作团队。你可以在收听播客的任何地方订阅Security Intelligence，这样你就永远不会错过任何一期节目。大家保持安全。