各位嘉宾,我希望你们今天检查了你们的冰箱,因为我想问大家的问题是:你最喜欢的冰淇淋口味是什么?香草味。这是经典、简单且永远美味的选择。我选巧克力碎片,直接又简洁。我们不仅仅是在谈论冰淇淋口味,虽然我也爱吃甜食;我们在讨论过时运营技术基础设施的危险性,以及人工智能和勒索软件日益增长的使用情况,还有未来的人工智能与漏洞管理。
大家好,欢迎收听《安全情报》,这是IBM每周一次的网络安全播客,我们的专家小组将行业最大的新闻故事转化为您可以使用的实用建议。今天我们有一个很棒的嘉宾阵容:IBM X-Force网络靶场的创意总监克莱尔·努涅斯,以及全球高级合伙人、网络安全战略与风险专家M.J. Vaidya。我们的第一个故事听起来像是每个网络安全团队的噩梦。
法国各地的超市受到了一次针对制冷系统的广泛黑客攻击的影响。家乐福、Monoprix和Intermarché等地点的冰箱温度高达50摄氏度(122华氏度),有些冰箱甚至冒烟起火。黑客控制了运行过时固件的Danfoss、Copeland和Dixell制冷管理系统。这些系统连接互联网,以便技术人员可以远程管理车队中的制冷设备。Danfoss在今年早些时候与发现这些漏洞的安全公司Team82会面后发布了一项固件更新。但不幸的是,在这次事件之后发现,直到今天,许多这些制冷单元仍在运行过时的固件。Danfoss表示,“长期以来一直建议客户保持支持的系统更新最新固件,并将遗留系统迁移到当前一代解决方案。”这听起来工作量很大。M.J.,我把这个问题交给你。你对这次针对超市关键基础设施的广泛攻击有什么看法?
这个案例有很多层面。你知道,在我之前的职业生涯中,我有机会担任首席安全官并负责产品安全。在这种情况下,不仅仅是最终状态的问题——也就是说,如果有固件升级或更新,你当然必须确保软件得到更新等等。但在这个物联网设备中还有许多其他要素。你知道在产品构建时是否进行了充分的测试吗?这里有多种测试元素。一是网络连接,二是实际进入该设备的硬件和芯片,三是运行该设备的软件。当然还有固件升级或更新的问题——抱歉打断一下。制造商是否及时推出了这些更新?因此,从开发阶段开始,就有许多不同的领域需要审查。想想供应链、第三方风险。这些产品可能并非仅由一家制造商完全构建,因此你也必须关注第三方风险。当然,当你向客户沟通并销售此产品时,你更新产品的能力如何确保客户不必面临此类问题?当你构建这样的东西时,这很快就会浮现在脑海中。这不仅关乎构建,还关乎如何确保销售给客户的产品得到持续保护?
你说得对,持续保护很重要。克莱尔,我们看到许多与日常生活至关重要的工业和运营技术存在这一问题,这些技术在停机、更新固件等方面无法承受大量的 downtime。企业如何调和这样一个事实:如果他们不时将这些基础设施下线以进行更新,他们可能会面临一个更大的问题,迫使他们离线。是的,你知道这一点:暂时下线某些系统进行修补可能非常昂贵。但如果停机数小时或数天,或者像法国超市案例中那样损失产品(全国范围内数百万欧元的产品),那就更昂贵了。因此,你必须权衡可控时间段内的停机风险——你可以说“我们现在就做”;或者面临未知时段的停机,以及不可预测或预计的产品损失量。更糟糕的是生命损失的风险,因为有时这在制造厂或发电厂等场景中会发生。因此你必须仔细权衡利弊。虽然冰淇淋和食物浪费以及食品损耗是不好的,但这与设施温度变化带来的危险相比不算什么。因此你必须权衡那里的风险。如果这一切都崩溃了,冒着生命或声誉受损的风险值得吗?
当然。而且你知道,其中一些制冷单元确实开始冒烟并起火。因此在网络攻击方面肯定存在真正的生命危险。我的另一个问题,触及你刚才说的克莱尔关于因食物变质和销毁而导致的潜在产品和收入损失。我想知道在网络保险方面,保护公司免受此类网络攻击造成的损失的角度是什么?当面对系统过时、更新基本待命但未部署的情况时,网络安全保险行业的现状如何应对此类问题?这对我的——我想说的是——我的保险索赔有什么影响?
是的,这是一个棘手的问题。因为M.J.你可能在这方面经验更丰富一些,但这真的取决于你的保单以及保单的撰写方式。保险就是这样,里面有时会有些奇怪的条款。但M.J.我很好奇知道你是否在这方面也有经验?是的,当然。克莱尔,我想你说得对,这些条款及其撰写方式非常有趣。你知道我有过这样的经历:你必须与你的法律团队和公司保险团队合作,以确保你构建和销售的物联网解决方案或产品……
向客户销售产品时,从制造角度来看,企业承担着相应的责任。当然,公司正在采取措施购买保险,以保护自身免受此类情况的影响。我也认为,在许多方面,客户在购买这类解决方案时也应思考相关问题:他们是否持续更新软件?是否进行补丁或固件升级?希望这些过程是简单的。例如,当你购买联网汽车时,软件可以通过空中下载技术更新,或者你去经销商处进行升级。如果你正在购买物联网设备,我认为作为客户,你也应该考虑这些方面,因为从保险的角度来看……
另一个关键要素是,世界正在发生快速变化。我的意思是,人工智能不仅被用于识别此类系统或解决方案中的漏洞和提供对策,还被用来发起攻击。因此,这些事件的发生速度变得更快了。所以,当涉及到保险政策等事宜时,这些因素会随时间推移而不断变化和演变。但我认为这是双方的责任,尤其是制造商方面。当它们建立此类合同时,也会安排相应的保险保障。为此,我也相信客户有责任确保自己及时更新软件。
在进入下一个故事之前,我想鼓励所有收听或观看的朋友通过 Apple Podcasts、Spotify、YouTube 或其他播客平台订阅我们的节目。
第二个故事让我感到失望,但并不意外。原来,人工智能正在接管各地辛勤工作的勒索软件创作者的工作。接下来他们会做什么呢?网络安全公司 Semperis 发布的《2026年勒索软件风险报告》调查了来自九个国家和八个行业的1200名IT专业人士,描绘了一幅相当严峻的画面:人工智能对勒索软件的影响并不乐观。简而言之,情况不容乐观。因为现在有84%的勒索软件攻击是在人工智能的帮助下生成的,这是一个很大的数字。
我们有一些数据:69%的受访受害者表示他们遭受了多次攻击,其中59%的受害者在至少一次事件中支付了赎金。在继续之前,我想先问克莱尔一个问题:到了2026年我们还在支付赎金吗?我以为我们已经摆脱这种行为了。嗯,我认为大多数人——不,不是大多数人的统计数据是准确的,因为并非每家公司都会承认支付了赎金。但确实有很多公司为了恢复运营而支付赎金,有时组织认为这是最佳路径。是的,人们仍在支付赎金。
报告中的其他数据显示,44%的攻击本质上是黑客利用公司自身的人工智能代理和系统,并滥用其身份管理系统造成的。Semperis危机管理高级副总裁科特尼·格斯表示:“如果你的公司正在采用人工智能代理,你应该考虑到在某个时刻,这些代理可能会试图破坏你的身份系统,即使这种行动并非出于恶意。”
MJ,我该如何看待这一点?我以为我的代理是我的朋友。结果发现它正以“善意”损害我。听着,这种情况会持续演变。人工智能治理无疑是一个重大议题和挑战。当你推出基于AI驱动的解决方案和成果来解决业务问题时,无论是调整现有业务流程还是引入原生AI流程,它们都需要运行一些基础要素。比如需要模型、身份以及执行工作所需的资源。
挑战在于,它们显然也能自主行动。因此,从网络风险保护的角度来看,你在第一道、第二道和第三道防线中部署了哪些控制措施?这并不意味着仅仅是外部攻击者。我会将这些身份视为内部威胁。因此,你部署了哪些控制措施?例如紧急停止开关(kill switch),或者在发生此类行为时创建事件的能力,这都非常重要。
当然,还需要在沙盒和特定情境环境中进行测试,以观察此类行为是否发生,而不是仅关注时间点。这种类型的持续控制、监控和治理至关重要。最后我想分享的是,你还必须思考韧性和“最小可行公司”的概念。归根结底,实体机构从事销售产品和服务的活动,必须审视其韧性:无论是应对外部威胁、内部威胁,还是部署用于交付特定产品或服务的人工智能代理。
最后我要补充的一点是,你还需要考虑第三方代理可能访问你的环境。最近经常听到银行等机构阻止外部代理访问其环境的新闻。因此,作为治理架构的一部分,你不仅要关注生态系统内部发生的情况,还要关注外部可能试图访问的内容。
确实,这是一个很好的观点,MJ。故事中的另一个有趣细节是:研究人员注意到勒索软件不仅由AI生成得更多,而且由于测试有限,检测难度也在增加。黑客本质上是在训练他们的勒索软件使其更有效并减少错误。克莱尔,这让我想到攻击者的剧本正在变得更加先进。我的问题是:防御方的剧本如何改变或适应这种更侧重于AI的网络攻击?
是的,这很有趣且合乎逻辑。从威胁行为者的角度来看,如果想要更有效率,就会这样做。但从防御方的角度来看,我们也有很多事情可以做。我认为其中一大重点是不再仅仅依赖人类来帮助我们进行防御,我们可以通过多种方式自动化安全控制和安全检测。这非常有帮助,因为现在的攻击速度快得惊人,单靠人力无法应对。此外,我们还有多种方式……
我们需要稍微改变一下思维方式,不要将勒索软件视为一种现成的、封装好的工具。我们要保持思维开放,以应对事物快速变化和演进的趋势。这不仅仅是版本的迭代更新,下一个版本可能会很快推出。因此,我们必须对此保持开放的心态。
关于将AI智能体整合到工作场所的问题,我认为这会很困难,主要原因在于人为因素。每个人都在派遣自己的AI智能体去工作,而可能并未建立适当的护栏机制。公司是否有办法安全地鼓励采用AI智能体?例如,让它们在这些特定的护栏内运作,仅执行某些任务或拥有特定权限吗?
MJ,这是你预见的未来景象吗?还是你认为团队只需睁大眼睛警惕那些可能被部署来搞破坏的智能体?我认为克莱尔提到了一个非常重要的观点。事情发展得太快了。要防御这种情况,必须拥有自主的安全策略和方法。
在这种情况下,如何为企业编排风险?为了编排风险,你需要大量不同的信息来将它们连接起来。这不仅仅是一个典型的GRC平台的问题,更多的是关于如何将法规、政策和控制措施应用到公司的不同领域。
以便在这种情况下对智能体进行管控。如果你使用了“护栏”这个词,那么是否有适当的护栏到位?是的,我相信这是必要的,以确保这些智能体——或者广义上的AI——不会做我们不希望它们做的事情。
从行为角度来看,你必须确保它们在做正确的事情,并遵守我们期望人类去遵守的法规、法律等。因此,数字资产也应遵循类似的方法。
今天我们的最后一个故事:你的团队中有300名网络安全专业人员,这还不够好吗?我会说再多100人听起来很棒。美国银行也是这么想的,他们今年雇佣了额外的100名承包商,以帮助修复使用Anthropic Mythos工具发现的大量漏洞。
美国银行作为Anthropic Project Glass Wing倡议的一部分,使用了前沿模型Mythos发现了数百个漏洞和错误。他们希望修补这些漏洞,以确保符合金融法规并达到代码标准。
Mr. Moynihan在采访中提出的几个有趣观点立刻引起了我的注意。我相信他在某处说过,一旦你进行了修补,就不需要频繁修补了,因为管道会顺畅运行,补救成本也会下降。MJ,你觉得这有道理吗?
这是一个非常中肯的评论,我一般性地谈谈。在这种环境中,当你发现漏洞、利用AI帮助你识别这些“洞”时——如果可以用房子做比喻,进入房子的方法有很多。但一旦你进入了房子,它还可以帮助你找出房子里的“皇冠宝石”(核心资产)。
也就是所谓的攻击分析,以及到达这些核心资产的不同方式。是的,你可以继续修补漏洞,这是一个非常重要的步骤。这也是为什么你会看到所有被雇佣的人——无论是在网络安全还是软件领域等。
随着时间的推移,是的,修补工作可以更加受管理和控制,但同样重要的是,它不是一次性的活动。我们正在持续检查软件本身的制造商也在不断自我审查。然后客户自己也有一套程序,以确保补丁得到不断更新。
我们陷入这种挑战的原因——以及像Mythos这样的事件所创造的局面,迫使我们必须快速移动和修补。这是因为过去我们没有足够快地进行修补。因此,问题积累到了顶点,你现在必须加快速度。所以我相信这是一个合理的评论。
它可以被管理。但我认为重要的是,这不是一次性的活动,而是需要持续监控的。Moynihan还讨论了公司出售用于修复他们发现的问题的工具的问题。AI漏洞发现的未来是AI驱动的漏洞缓解吗,克莱尔?还是我们可能把太多东西——无论是发现还是修复这些错误——都交给了AI模型?
我认为人和这些模型必须在一段时间内携手并进。我不知道,我们谈论的是非常遥远的未来。也许那时AI可以独自完成这一切,但我认为就目前而言,这是人类和机器必须合作的事情。
因为AI会发现一些事情,但它不一定拥有完整的上下文或其他相关信息。而人类则有更多的经验来帮助处理这些问题。我认为这就是为什么许多大型银行正在实施大量AI工具来协助他们的安全运营的原因。
但是,看看美国银行,他们确实刚刚雇佣了文章中提到的一千人。所以他们正在改变或试图通过人和机器共同作用来改善他们的整体安全态势。所以我认为也许有一天,一切都可以自动化,但可能不是明天。
你提出了一个很好的观点,即雇佣了1000名网络安全专业人员来承担这项任务。我想知道在让这1000新人访问你的某些关键系统以修复它们时,会面临什么挑战?我们刚才谈到了身份和访问管理等方面。
如何成功地入职这样的一组专业人员,并在他们完成工作后正确地解除他们的权限?是的,这也是问题的一部分。文章提到除了300名员工外还有1000名承包商。这意味着你要管理大量人员的访问权限,确保他们拥有执行关键工作所需的任何东西,而没有其他多余的东西。
所以这就像大量的管理工作,并决定在他们任职期间哪些项目也是关键的。
是的,在延长合同的情况下确实存在许多担忧。关于第三方承包商的问题,M.J.你有什么想法吗?这其实是一个基础性的流程问题。仅仅因为公司雇佣了更多的人来执行某项特定职能,并不意味着你的身份访问管理方法就应该发生改变。你应该有适当的入职和离职流程,实施正确的控制措施以及用户权限审查机制。虽然数字资产确实可以帮助你完成其中许多工作,但与此同时,你必须确保持续监控这些流程是否按照预期正常运行。即使增加了成千上万名员工,也不意味着基础流程本身需要改变。
此外,特别是对于临时承包商或第三方合作伙伴(当然内部员工也是如此),你需要建立适当的监控机制。这包括对内部人员和承包商进行监督,以确保他们的行为符合公司的政策规定,不会做出违反规定的举动。这引出了一个更具哲学意味的层面。我想请问M.J.,招聘一千名承包商并非小事一桩。我想知道这是否是对使用Mythos发现大量漏洞这一潜在惊讶的反应?这种反应是否会改变安全团队在使用AI工具运行后处理补丁和修复工作的方式,当他们看到如此多的漏洞时,可能会想:“天哪,还有多少是我们不知道的?我们需要招聘多少人才能修复它们?”
这就引出了问题的第二部分:网络安全专业人员或团队的未来,是否几乎变成了一种“流浪武士”的状态——从一家公司到另一家公司,修补工具发现的漏洞?这只是我个人的看法。我认为现在是从事网络安全行业的绝佳时机。这是一个令人惊叹的时代,我们正处于技术发生巨大变革的环境中。在这种情况下,这些承包商被雇佣也是为了修复软件漏洞,因此他们可能是具备专业技能的网络安全人员。是的,这可能是对Mythos等AI解决方案能够发现比以往其他方案多得多漏洞的一种反应。
但这已成为新常态。因此,这就是我为什么说这不是一次性的活动。如果你能够持续进行这项工作,它就会成为你治理体系的一部分,成为你的正常状态,使你能够跟上补丁和固件更新的步伐。谢谢。我认为这是一个很好的结尾。今天的《安全情报》节目就到这里了。感谢我们的嘉宾M.J.和Claire,感谢观众和听众,也感谢制作团队的支持。请在各大播客平台订阅《安全情报》,以免错过任何一期节目。祝大家保持安全。