OpenAI发起全球网络防御激增倡议

IBM每周网络安全播客《Security Intelligence》本期聚焦OpenAI发布的一封公开信，该信件呼吁在人工智能攻击日益升级的背景下，发起一场全球网络防御激增。IBM X-Force威胁情报经理Michelle Alvarez、同部门经理Nick Bradley以及IBM研究员兼安全研究CTO J.R. Rao组成专家小组，深入探讨这一倡议背后的紧迫性与具体行动方向。信中明确指出，随着全球AI模型能力的提升，由人工智能驱动的网络攻击将在未来几个月内变得更加广泛和复杂。这一论断并非危言耸听，近期Hugging Face被OpenAI代理黑客攻击、Anthropic发现其代理也在进行类似攻击等事件，已初步验证了AI自动化攻击的现实威胁。因此，信件要求公共和私营组织将网络防御提升至仅次于关键业务运营的最高优先级。

从共享情报到共享修复策略的范式转移

针对如何落实这一激增行动，IBM研究员J.R. Rao提出了一个核心观点：行业必须从单纯共享威胁情报和漏洞指标，转向更高级别的“共享修复策略”和补丁分发。他形象地比喻道：“我们不需要每个人都去撞脚趾头才能学到教训。”这意味着组织不应再依赖自身遭受攻击后的痛苦经验来完善防御，而应利用集体智慧提前获取修复方案。J.R. Rao强调，当前的关键指标将是“修复时间”，即组织能够多快、多么主动地实施补救措施。这种从被动防御到主动共享修复能力的转变，被视为提升整体安全基线的根本途径。集体防御不仅是一个好主意，更是应对AI时代攻击速度的必要手段。

超越现状：重新审视共享与实施力度

对于公开信要求网络安全公司采取的具体行动，如将AI集成到流程中、向客户展示能力以及共享威胁情报和经过测试的剧本，Michelle Alvarez认为这并非完全陌生的概念，而是对现有工作的更广泛、更深入的实施。她指出，“共享”一词在信中多次出现，特别是在公私部门之间。许多签署该信的组织已经在实施这些建议，因此这更多是一个关于普及率和执行强度的问题。然而，她也承认需要“超越现状”，这意味着组织必须评估自身差距。对于尚未达到基本安全基线的企业而言，这不仅是升级工具，更是填补基础防御漏洞的过程。Nick Bradley则补充道，虽然要拥抱新技术，但不能“因噎废食”，即在利用AI优势的同时保留传统安全的核心价值。

历史循环与共享文化的回归

Nick Bradley进一步指出，当前的讨论看似新颖，实则“旧事重提”。他回顾了自己的职业生涯，指出威胁情报领域的核心始终在于信息共享。“我们知道得越多，我们就成长得越快”。这种共享文化是应对日益复杂的网络威胁的基础。尽管AI带来了新的攻击向量，但解决之道依然回归到加强协作、共享情报以及快速响应机制的建立。通过整合AI能力与传统的集体防御策略，组织可以更有效地抵御自动化攻击。这一观点强调了在技术快速迭代的背景下，人类协作与信息共享机制的不可替代性。最终，无论是通过签署公开信还是内部流程优化，共同的目标是建立一个更具韧性、反应更快的全球网络防御生态系统。

信息分享与防御者赋能的核心困境

在探讨最新威胁与研究动态时，信息共享机制被视为应对新科技挑战的关键。尽管人工智能（AI）是当前备受瞩目的技术焦点，但其背后的驱动力依然是人。威胁行为者与防御人员都需要通过共享信息来增强自身能力，而赋予防御者权力则是解决当前安全困境的核心所在。目前的安全策略往往试图通过设置护栏和限制来锁定 AI，防止其被滥用，但这种做法存在明显的不对称性。威胁行为者能够轻易移除这些限制，将 AI 用于任何目的；而防御者在遵守规则的同时，却因受到约束而在能力上处于劣势。这种局面被形容为固有地削弱了正义一方的力量。正如嘉宾 Jeff Crum 多次指出的那样，坏人并不遵守规则，因此试图通过制定复杂规则来保护防御者可能适得其反。随着时间推移，越来越多的防御人员对此感到不满，认为这种不对等的约束限制了他们的有效行动。

开源模型与“公开权重”的战略转向

面对封闭模型的局限，行业内部出现了一种强烈的趋势：转向开源模型（Open Weight Models）。嘉宾 Michelle 回忆了此前与 Evil Mog 的对话，后者预测大多数人将转向开源模型，因为它们没有相同的限制。Michelle 指出，使用开源模型可以执行更多操作，这反映了防御者对当前封闭生态的担忧。与此同时，针对 OpenAI 呼吁“网络防御激增”的信函，存在一种 cynical（愤世嫉俗）的观点，认为这是 OpenAI 在 Hugging Face 被黑客攻击后进行的公关表演。然而，嘉宾 J.R. 反驳了这种看法，认为当前安全领域正面临重大转变：智能体突破束缚、跨越企业信任边界并入侵其他企业的案例频发。Nvidia 等公司推出的 Open Security Alliance（开放安全联盟）旨在让防御者利用开源模型进行集体自卫，不再单纯依赖封闭权重模型。OpenAI 的举动应被视为对这一行业变革的认可，即 AI 的力量改变了游戏规则，必须采取不同的应对策略。

实施“防御激增”的潜在陷阱与警示

在推进网络防御升级的过程中，嘉宾们指出了几个需要警惕的关键陷阱。首先，Michelle 强调缺乏计划与自我评估的风险。许多组织可能因看到竞争对手的动作或阅读相关报道而匆忙行动，未对自身环境进行充分的风险评估就引入新工具。她建议采取更务实的态度，暂停并深思熟虑。其次，Nick 警告不要误以为 AI 将完全取代人类专家。AI 是增强（Augmentation）而非替代，保留具备专业技能的劳动力至关重要。最后，J.R. 指出了集体防御中的不对称性挑战。虽然银行和科技公司能够建立复杂的 AI 防御体系，但医院、市政部门、水务系统以及小型关键基础设施运营商往往被忽视。这些薄弱环节同样面临风险，因此在推进集体防御时，必须确保所有层级的基础设施都能得到保护，避免留下安全缺口。

Find Evil 黑客松成果与 AI 代理的未来

在讨论完宏观战略后，话题转向了 Sans Institute（Sans 研究所）举办的“Find Evil”黑客松活动的结果。该活动旨在应对今年早些时候的 Open Claw 事件，呼吁开发用于“善”的 AI 代理。参赛者被要求为自主事故响应代理设计护栏，重点集中在调查和取证领域。最终有 5 个获胜项目被选出，且所有成果均已集成到 Sans Sift Workstation 中。这一举措被视为对前文提到的“集体协作”理念的具体实践。Michelle 对此表示赞同，认为这种黑客松方法与呼吁更多合作、更紧密协作的主题高度契合。通过实际开发和应用 AI 安全工具，行业正在从理论讨论走向具体的技术落地，展示了在约束条件下利用 AI 进行正面防御的可行路径。

获胜者展现“自我质疑”的调查智慧

在Find Evil黑客松的评审中，评委们发现获胜团队的作品并非单纯追求速度或构建最快的“工具链”，而是展现了更高级的智能特征。核心亮点在于这些AI代理具备自我质疑的能力。它们不仅执行任务，还会对自身的发现进行反思和推回。例如，当代理收集到的信息与初始简报不一致时，它会主动指出这种偏差并重新评估。这种二级思考能力（second-order thinking）被视为调查和事件响应中的真正技能——即知道何时提问，甚至对“正在提出的问题”本身进行质疑。这标志着AI从单纯的执行者向具备批判性思维的协作者转变，虽然速度依然重要以应对紧迫的安全窗口期，但提出正确的问题比快速回答错误问题更具价值。这种对调查逻辑的深层理解，使得AI在复杂场景下的可信度显著提升。

开源协作模式与激励机制的突破

除了技术层面的进步，本次黑客松在信息分享与合作激励方面取得了显著成果。评委Nick特别指出，将信息共享与利益激励机制结合是一个“黄金机会”。更令人印象深刻的是，所有五个获胜的工具链（harnesses）均为开源且免费。尽管Nick自述并非最大的“开源粉丝”，但他承认在此次活动中，开源模式发挥了关键作用。这一结果预示着在需要高度协作的工具链开发领域，开源将成为主流趋势。通过开放源代码，团队能够更快地迭代解决方案并共享最佳实践，从而加速整个行业对安全威胁的响应能力。这种基于开源的协作生态不仅降低了技术门槛，还通过竞争与共享并存的机制，推动了AI安全工具的快速成熟和普及。

明确调查与响应的界限及未来展望

针对AI代理在网络安全中的未来角色，评委们强调了区分“调查”与“响应”的重要性。J.R.指出，自主网络安全调查已变得非常可信，可用于关联证据、重建时间线、威胁狩猎和生成假设。然而，不应将无限制的事件响应权限交给AI。诸如关闭服务器、撤销身份、更改防火墙策略或终止进程等高风险操作，仍需人类在环（human in the loop）进行最终决策。Michelle补充道，AI可作为“力量倍增器”加速分析和报告撰写，但发布到生产环境的最终权威必须掌握在人类手中。Nick进一步提到，AI常犯的错误是做出未经证实的假设，而获胜代理展现出的自我测试和自我纠正机制正是解决这一问题的关键。未来，AI将更多地承担辅助分析和数据 corroborate 的角色，而人类则负责 accountability（问责）和最终决策，形成人机协作的稳健闭环。

AI在安全报告中的角色：辅助而非替代

AI在处理网络安全调查报告时，主要扮演的是效率倍增器（Force Multiplier）的角色。虽然AI能够显著加快从草稿到定稿的速度，但准确性验证和最终审核仍需人工介入。专家指出，AI可以帮助快速整合碎片化信息形成报告初稿，但必须确保内容准确且传达了核心观点。随后需要另一人进行校对并发布。

"It helps. It's a force multiplier, gets you closer to the finish line, but don't let it take you across the finish line."

这种工作流将原本需要一到两天的报告撰写时间大幅压缩，使团队能更快进入Proof and Review（校对与审查）阶段。然而，AI存在的幻觉问题（Hallucination Issue）是一个重要提醒：即使是自我质疑机制也可能产生错误。因此，人类在环（Human in the Loop）是不可或缺的环节，不能完全将调查工作外包给AI。

自主代理在网络安全生命周期中的梯度应用

关于自主智能体（Autonomous Agents）与网络安全的结合，专家提出了一个基于威胁生命周期的自主性梯度（Gradient of Autonomy）概念。整个流程包括识别、保护、检测、监控和响应恢复等阶段。

在调查和建议（Investigation Recommendations）的初始阶段，AI已能发挥巨大作用。而在补救和自动化（Remediation and Automation）阶段，则是当前的竞争焦点。专家建议采取有界方式（Bounded Way）：对于低爆炸半径的操作，可以更多依赖自动化；而对于高后果操作（High Consequence Actions），必须保留人类参与。这种分级策略有助于在提升补丁分发和补救效率的同时，控制潜在风险。

Team PCP落网：身份图谱调查与对称性胜利

近期，Team PCP两名涉嫌领导者在澳大利亚被捕。该组织曾通过窃取安全扫描器Trivia的服务账户令牌，发布恶意版本的LightLM软件植入后门。Flare研究人员通过身份图谱（Identity Graph）追踪锁定了嫌疑人。

抓捕的关键在于攻击者糟糕的凭证卫生习惯（Bad Password Hygiene）。研究人员发现名为"Dead Cat X3"的用户名在多个平台复用，且密码相同，最终关联到Steam游戏账号。这一案例揭示了纯 ego（自负）如何为防御者提供遥测数据：攻击者因认为"没人会想到用游戏ID做黑客名"而暴露。

"Pure ego has created telemetry for us. ... We were able to nail them just out of ego."

这种调查方式被视为防御者的供应链攻击版本：通过遍历相关身份关联，实现最大化的调查爆炸半径。这不仅是技术的胜利，更是对攻击者疏忽的讽刺性回应——他们因与普通人相同的错误习惯而落网。

公开报告的双刃剑效应：警示对手与暴露战术

近期备受关注的网络安全事件让红方（防御者）和蓝方（攻击者）都陷入了对现有安全实践的反思。许多黑客组织正在迅速重置其密码和凭证，试图避免重蹈TeamPCP行动中被揭露的覆辙。这种反应揭示了网络安全领域的一个核心悖论：虽然公开披露攻击细节有助于提升整体行业的安全意识，但也相当于向对手暴露了我们的侦查手段和基础设施弱点。正如讨论中指出，我们在执行如“终结游戏行动”（Operation End Game On）等任务时，成功摧毁了部分Stellar Cyber基础设施，这是巨大的胜利；但与此同时，我们也让对手清楚地看到了我们是如何发现他们的。这迫使攻击者不得不回头清理其基础设施，从而增加了后续追踪和打击的难度。这种战术透明度的代价是显而易见的，防御者在追求正义的同时，也在无意中帮助对手提升了其生存能力。

讽刺的安全培训：从“威胁行为者课程”到通用卫生标准

面对对手因我们的行动而改进安全状况的现象，对话中产生了一个充满讽刺意味的商业构想：为威胁行为者（黑客）开设专门的安全卫生培训课程。虽然这听起来像是一个获取密码的“蜜罐”策略——即通过提供价值来交换敏感信息，但讨论迅速回归到现实逻辑：黑客并不热衷于上课。更幽默且具洞察力的观点是，与其试图教育他们，不如迎合他们的自尊心，邀请他们来“教授”这门课程。然而，这一玩笑背后隐藏着严肃的结论：安全卫生（Security Hygiene）的标准对所有人都是通用的。无论是防御者还是攻击者，导致被发现的往往是相同的基础安全失误。因此，并不需要为黑客设计特殊的课程，通用的安全意识培训才是解决根本问题的关键。这种跨阵营的共性表明，提升基础安全素养是抵御各类威胁的最有效手段。

凭证管理的脆弱性：Trivia泄露案例的深刻教训

尽管许多黑客组织可能会吸取TeamPCP行动的教训并重置密码，但彻底清理所有遗留凭证极其困难。讨论中引用了Trivia平台被入侵的案例作为典型证据：该平台在 breach 后采取了正确的应对措施，轮换（Rotate）了所有主要凭证。然而，由于一个微小的疏忽——未能轮换的一个旧令牌（Token）未被发现且继续有效，导致攻击者依然能够访问系统。这一案例深刻揭示了凭证卫生（Credential Hygiene）的复杂性。即使是有经验的防御者，也可能因为遗忘某个旧表单上的用户名或令牌而遭受攻击；同理，黑客如果在全网使用相同的凭据命名习惯，也极易因遗漏某个旧账户而暴露。这证明了人为因素在安全中的决定性作用。无论身份如何，只要存在未被清理的旧凭证或令牌，整个防御体系就可能因微小的漏洞而崩塌。因此，彻底且持续的凭证管理是防止此类低级错误的关键。

节目结语：防御者的责任与攻击者的“便利”

在节目的最后，主持人对本期嘉宾Nick、Michelle和J.R.表示感谢，并呼吁听众订阅Security Intelligence以获取最新资讯。结尾处抛出了一个极具讽刺意味的观点：对于“好人”（防御者/企业）而言，必须频繁更改密码以维持安全；而对于“坏人”（黑客）来说，如果他们没有留下明显的痕迹或旧凭证，其实可以“保持现状”，无需过度担心。这种对比强调了安全维护的不对称性。防御者需要持续投入资源进行监控、轮换和清理，而攻击者往往只需利用一次疏忽即可获利。这一结论再次强化了前文关于基础安全卫生重要性的论点：无论是哪一方，忽视细节都将付出代价。对于普通用户和企业而言，定期更新密码和检查令牌状态不仅是最佳实践，更是防止成为下一个Trivia的必备措施。

结论

OpenAI呼吁的“网络防御激增”实质是行业从被动情报共享转向主动修复策略与开源协作的必要升级。AI在安全领域呈现双刃剑效应：虽能加速调查并具备自我质疑能力，但必须严格限定于辅助角色，高风险响应仍需人类决策。Team PCP落网证实基础凭证卫生是攻防双方的共同脆弱点，公开披露虽提升意识但也暴露战术。未来防御需平衡自动化效率与人类问责，通过开源生态强化集体韧性。