AI巨头呼吁安全却将网络安全专家排除在外

在经历了一系列高调的黑客事件后，OpenAI、Anthropic 等前沿人工智能实验室纷纷呼吁采取更严格的安全措施。然而，网络安全专业人士感到自己被排除在这些关键对话之外。SANS 研究所首席执行官 James Lyne、英国国家网络安全中心前负责人 Ciaran Martin 等人指出，许多 AI “末日”场景（如机器人接管互联网）显得荒谬。他们批评实验室在追求“对齐”的同时，忽视了根本性的网络安全解决方案。Ciaran Martin 尖锐地指出：“实验室的警告假设系统中没有监控、没有防病毒软件、没有 DDoS 保护、没有任何形式的网络安全措施，这与我们过去30年在全球互联网上建立的防御体系完全脱节。”

训练环境缺陷与“末日”场景的逻辑漏洞

对于 AI 代理可能失控的恐慌，专家 Patrick Austin 认为这更多是对训练环境安全性不足的指责。这些实验往往在缺乏适当网络安全卫生或互联网访问控制的环境中进行，导致 AI 行为异常。Jeff Crume 进一步质疑“末日”场景的合理性，他认为目前缺乏可信的路径证明从当前状态发展到十年后人类消失的后果。他指出，“末日”假设隐含了两个未经证实的事实：一是所有 AI 系统是协调一致的，二是存在统一的命令与控制结构。事实上，不同的系统之间并没有必要的共谋或连接，仅仅拥有互联网连接并不等同于具备协同攻击能力。

安全滞后模式与 AI 风险的本质误读

Nikki Robinson 指出，行业长期存在“技术先行，安全后置”的模式。在 AI 领域，这种滞后尤为明显，往往是在代理失控后才试图通过规则来约束。她强调，虽然 AI 带来了新的风险维度（如从数据中心到云、从标准开发环境到代理工作组的转变），但其核心挑战并未脱离传统网络安全范畴。许多问题如权限不当、数据泄露等，在 AI 环境中依然存在，只是换了名称。改变术语有时会让人们误以为这是完全独特且全新的技术挑战，而实际上它只是以不同的方式呈现了相同的网络安全问题。Ciaran Martin 的引言也印证了这一观点，即长期存在的概念被重新包装后引发了不必要的恐慌。

历史安全智慧的现代误读

网络安全领域存在许多历经数百年考验的基础原则，如审计、检查、会计评估和安全报告机制。这些核心概念并非需要因人工智能的出现而从第一性原理重新构建，因为AI系统本质上仍基于数据运作。正如讨论中提到的历史类比：两因素认证的概念早在十字军东征时期就已存在，这表明许多现代安全挑战在历史上已有应对雏形。然而，当前AI实验室似乎忽略了这些被历史验证过的经验。传统的安全控制措施可以直接应用于AI领域，无需从头开始。

"It sounds like they had two factor authentication through the Crusades... It's been centuries, my friend."

尽管这些原则历史悠久，但在AI安全讨论中常被忽视。专家指出，将旧有的安全知识直接迁移到AI场景是可行且必要的。这种视角的缺失导致了对基础安全措施的轻视，而实际上这些措施对于防范新型风险至关重要。通过回顾历史，我们可以发现许多所谓的‘新’问题其实是旧问题的变体，解决之道往往蕴含在过往的经验之中。

第三方审计与部署前安全专家的必要性冲突

关于引入第三方审计员、评估者和检查人员来审查AI模型能力的讨论，正受到这些公司首席执行官的推动。对于这一举措是否能满足网络安全专家对AI代理（Agents）在互联网上漫游时的安全担忧，专家们持保留态度。虽然引入第三方审查被视为积极的一步，但这不能替代在部署前引入安全专家的作用。通常情况下，审计是在部署后进行的，而提前介入的安全专家能在早期发现大量问题并提升网络卫生状况。这种前置检查对于预防代理合谋或逃逸到互联网等事故至关重要。

"Third parties being brought in. Excellent idea. However, that's just one of many steps..."

专家强调，仅靠第三方审计是不够的。确保前沿模型（Frontier Models）具备适当的安全卫生标准需要多步骤的流程。第三方审查只是其中一环，而非全部。如果缺乏部署前的专业安全评估，仅依赖事后审计或第三方检查，将无法有效捕捉潜在的系统性风险。因此，安全专家的前置参与是防止重大安全事故的关键防线。这种多层次的安全策略比单一依赖第三方审计更为稳健和有效。

物理隔离（Air Gap）的严格定义与执行缺失

当前AI实验室在系统 containment（遏制/隔离）方面的做法存在严重缺陷。许多人误解了‘物理隔离’的含义，特别是在处理未经测试、已移除护栏的前沿模型时。简单的关闭Wi-Fi并不构成物理隔离，真正的空气间隙（Air Gap）要求从系统中移除无线网卡、蓝牙模块及其他任何无线网络技术组件。如果开发的是可能毁灭世界的病毒，实验室必须拥有‘保险库中的保险库’级别的物理隔离措施。

"When I say an air gap, I don't mean that your Wi-Fi is turned off. I mean, the Wi-Fi radios have been removed from the system..."

专家指出，现有的隔离措施远未达到安全标准。由于已知这些系统足够智能以发现零日漏洞并突破限制，因此在经过更严格的审查之前，绝不应允许这些系统接近互联网。这是基于历史教训的核心安全原则。然而，目前的做法似乎跳过了这些长期有效的安全措施。物理隔离的严格执行是防止AI系统逃逸和造成不可控后果的基础，而当前的宽松执行方式带来了巨大的潜在风险。

对齐（Alignment）与安全控制的概念混淆与整合

在AI安全讨论中存在一种张力：实验室倾向于将问题归结为‘对齐’（Alignment）问题，即通过训练使模型不违反规则；而网络安全专家则强调安全控制措施（如多因素认证）与对齐是独立但互补的问题。即使模型在价值观上已对齐，仍需实施严格的技术控制。这种差异部分源于语言使用的模糊性。‘AI’和‘安全’等术语的定义不清导致了沟通障碍，使得双方似乎在谈论不同的事物。

"It's got to be both and not either or... We have policies and training for people. We call that alignment when we're talking about AI."

专家建议，需要建立桥梁以明确术语定义。对齐不应仅被理解为模型效率的最大化或规则遵循，而应包含符合安全最佳实践的护栏。在传统环境中，人类用户需要政策、培训和行为约束（即对齐），同时辅以技术控制；AI系统同样如此。既需要价值观上的对齐，也需要严格的技术安全控制。这种‘两者兼有’而非‘非此即彼”的思维模式，是解决当前AI安全争议的关键。通过澄清定义和整合两种视角，可以更全面地构建AI安全防护体系。

开放权重模型成为网络攻击新工具

华盛顿邮报记者Garrett De Vink报道，安全研究人员和黑客正利用免费且开源的AI模型进行日益复杂的网络操作。一个典型案例来自网络安全初创公司Depth First，他们修改了Z.ai的GLM模型，成功发现了TikTok中的漏洞并接管用户摄像头。这一事件凸显了前沿实验室与开源社区在安全策略上的巨大反差：前者致力于锁定模型并探索对齐方式，而后者大多不对此类工具施加限制。这种缺乏监管和控制的局面导致了对齐方向错误，使得恶意行为者能够轻易获取强大工具。

"security researchers and attackers alike are using free and open-weight AI models for increasingly sophisticated cyber operations."

限制前沿模型是否适得其反？

美国AI公司呼吁放缓开发步伐，担心其严格的安全限制会让位于中国等其他国家的模型。Jeff认为这种“慢就是稳”的策略可能是在自毁长城，因为无法控制模型扩散。他指出，一旦技术被少数公司掌握，“如果你告诉50个人秘密，那它就不再是秘密了”。即使Anthropic率先发布并限制访问，OpenAI等竞争对手也会迅速推出版本。随着进入壁垒降低，其他地区的公司也能在数月内复制类似模型。限制访问只会让好人更难获取工具，而坏人总能找到途径。

防御方的困境与双刃剑效应

X-Force威胁情报专家Omari将AI视为双刃剑。Unit 42报告显示发现了14,000个漏洞，其中99%此前未报告。AI发现漏洞的速度过快导致防御方面临补丁积压和睡眠不足的压力，且许多AI发现的漏洞缺乏概念验证（PoC）。Omari认为，限制只会影响好人而非坏人。黑客不会因研究人员的建议而停止活动。正如Z.ai未被严格限制，使得研究人员能发现TikTok漏洞一样，越早发现漏洞，就能越快修复。如果因限制而延迟发现，系统将在更长时间内处于脆弱状态。

"The bad guys will find it anyway... That's great way to put it, Jeff. The bad guys will eventually use it."

结论：无知并非福，安全需透明

Omari最后强调，“Ignorance is bliss, but it's not secure”。当前的限制措施并未阻止攻击者使用这些工具，反而阻碍了防御社区利用AI提升工作效率。如果只有少数防御人员能访问高级AI工具，而攻击者拥有无限获取渠道，这种不对称将加剧安全风险。因此，与其试图封锁技术，不如促进更广泛的协作与发现机制，以确保持续的安全更新。

"The sooner we find a vulnerability, the sooner we fix it. The longer it stays out there and we're not aware of it, then the longer we're vulnerable."

攻击者不守规则：安全措施的局限性

视频讨论指出，当前的网络安全防御措施往往存在一个根本性的误区：坏人不遵守规则。正如嘉宾Jeff所言，攻击者之所以是“坏人”，正是因为他们无视常规约束。这意味着企业或平台即使加强了某些安全锁定，实际上只是锁定了守法用户（好人）。这种不对称性引发了一个核心质疑：我们是否真正实现了预期的安全目标？ 在TikTok等应用被曝出通过摄像头进行数据收集的研究中，尽管文章建议用户“不要信任任何应用程序”，但技术层面的加固并不能完全阻止恶意行为。这种防御与攻击之间的错位，使得单纯的技术锁定显得力不从心。真正的风险在于，即使应用被加固，攻击者仍可能通过非传统路径获取敏感信息。

社交媒体的隐私代价：用户需承担的责任

对于普通消费者而言，在使用社交媒体时已默认让渡了大量隐私权。嘉宾Nikki指出，许多用户在注册时未仔细阅读服务条款（Terms of Service），却不知自己可能授予了应用随时访问摄像头、数据存储及其他应用程序的权限。这种风险在AI介入之前就已存在，而AI的出现只是让此类攻击更容易、更快速地实施。因此，Nikki建议用户使用社交媒体时应保持高度谨慎。用户应当意识到，一旦签署服务条款，便可能面临数据被全面获取的风险，这不仅是AI时代的新问题，而是长期存在的隐私隐患。

代际差异：年轻用户的安全意识缺失

另一位嘉宾Patrick从“Z世代”视角反思了社交媒体使用习惯。尽管他本人因从事网络安全工作而采取极端防护措施——仅授予应用一个虚假联系人和一张网络猫咪图片的权限，但他发现同龄人中绝大多数人仍允许应用访问完整的通讯录和相机胶卷。这种对隐私的漠视导致大量个人信息被无偿让渡。Patrick调侃道，既然TikTok不需要你祖母的联系方式，用户完全可以通过提供虚假信息来保护真实数据。然而现实是，年轻一代作为平台主要用户群，往往缺乏这种警惕性。在网络安全领域工作久了的人，不得不频繁说出“我早就告诉过你”这句话。

CISA呼吁更透明的漏洞披露机制

最后，视频转向CISA（美国网络安全与基础设施安全局）发布的新建议《高压下的沟通》。鉴于软件供应链的深度互联，企业在发生安全事件时的沉默可能导致更广泛的连锁反应。CISA、FBI及国际合作伙伴呼吁组织在危机沟通中优先考虑向利益相关者和公众提供有用的风险管理信息，而非仅仅进行声誉管理。这意味着披露标准应从“法律要求的最低限度”转向“利益相关者合理需要的信息”。然而，Nikki也指出，“负责任披露”原则的存在有其必要性：过早或过度公开漏洞细节（如NetScaler案例中导致80,000台设备在两天内被攻破）可能加剧风险。因此，如何在透明与保护之间找到平衡，仍是行业面临的挑战。

"The bad guys don't follow the rules. That's why they're the bad guys... you're just locking them down for the good guys."

"If it 100% required access to photos or contacts... I'll give it one contact, one fake contact, and like a picture of some cat that I found online."

"The advisory shifts expectations from disclose what you're legally required to disclose to communicate what company stakeholders reasonably need to manage their own risk."

威胁情报共享的透明度边界与责任披露

在网络安全领域，专家之间确实存在信息共享的渠道，但这些信息往往难以进入大众媒体视野。对于消费者和组织而言，分享有助于保护平台安全的信息至关重要。然而，这种共享必须建立在谨慎的基础上，即不能披露可能导致其他组织陷入同样困境的细节。透明度并不意味着毫无保留地公开一切，而是指透明地向利益相关者提供那些他们可以利用且不会增加自身或他人风险的信息。这是一种审慎的透明度方法。Nikki 指出，负责任的披露（Responsible Disclosure）是一个已有约 30年历史的概念，但如今人们似乎将其视为全新理念重新发现。这种“旧事重提”的现象表明，行业需要再次重视这一古老但有效的原则。

"Transparency doesn't necessarily mean you put it all out there... Transparency means, like you said, Nikki, you are transparent about the things that other folks could use that would be useful."

企业利益驱动下的自愿披露困境

尽管新的服务提供者语言指南和 OpenAI 最近宣布的新披露框架都强调了透明度，但 Jeff 对此持怀疑态度。他认为这些想法虽然高尚，但在现实中难以完全落实。企业最终会做符合其自身利益的事，就像个人一样。当公司判断透明披露有利于自身时，它们会这样做；否则就会退缩。Jeff 警告说，除非有实质性的约束力（teeth），否则仅靠呼吁透明度是天真且无效的。那些不关心责任、只关注利润或制造类似 WormGPT 的 AI 工具的公司，将继续存在并阻碍问题的解决。因此，将透明度视为已解决的问题是危险的。自愿性披露缺乏强制力，导致其效果大打折扣。

"Companies are going to do what serves their interests best... When they judge that it's in their best interest to be transparent, they'll do it. And when they don't, they're going to pull back."

危机公关与高效报告的现实冲突

Omari 从实际操作层面提出了质疑：在危机处理中，要求简洁摘要、透明度和问责制是否只是增加了额外的工作负担？虽然从意图上看，威胁情报社区与事件响应者的紧密合作对保护各方有益，但现实中的最大障碍是品牌声誉和公关影响。在危机期间，企业通常依赖复杂的公关策略来管理舆论。要求企业在事发时立即采取“直截了当、底线优先”的报告方式，并完全摒弃传统的公关手段，这在现实中很难有效执行。尽管全员透明、高效沟通能节省大量时间和金钱，但谁来决定什么是有效的报告标准？以及这种理想化的沟通模式何时能真正落地，仍是未解之谜。Omari 的悲观态度反映了行业对理想与现实的巨大落差的清醒认知。

"I don't see it happening or I don't see it happening in the effective way... asking companies to then completely erase that approach, say get rid of the PR, let's do bottom line... reporting."

全球技术特性与监管落地的矛盾

关于如何为透明度要求“加上牙齿”，讨论转向了法规监管。Jeff 指出，法律和政策具有地域性，而技术是全球性的。即使在一个司法管辖区通过并执行了法律，也无法在其他地方得到同等效力。他以“入室盗窃法”为例说明，立法并不能完全消除犯罪。Nikki 补充认为，监管可能是影响或强制执行组织行为的唯一途径，但面临两大挑战：首先是技术的全球性导致执法困难；其次是AI 技术变化极快，甚至无法预测四个月后的形态。因此，围绕 AI 制定法律面临巨大的滞后性和适应性难题。单纯依靠立法无法解决所有问题，需要在自愿合作与强制监管之间寻找平衡点。

"The problem with regulation is anytime you're doing laws or policy, they're necessarily jurisdictional and technology is necessarily global."

政策制定的法律困境与语言精确性

当前AI监管政策的制定面临巨大的时间滞后挑战，尤其是考虑到法律诉讼流程往往漫长且复杂。在短短六个月内建立一套既合理又有效的AI监管框架被评估为极其困难。这种时间差导致政策制定者难以跟上技术迭代的步伐，因为法律语言的严谨性至关重要。如果立法者在起草法规时未能精准把握关键术语的定义和适用范围，那么即便通过了相关规则，也可能因表述模糊或过时而完全无法适用于新兴的技术场景。这种法律适用性的失效风险意味着，仓促立法不仅无效，甚至可能产生误导。

技术迭代速度远超监管视野

以ChatGPT刚出现时的市场反应为例，当时的讨论焦点完全集中在基础的大语言模型交互上，而当时业界甚至尚未广泛认知到AI智能体（Agents）的存在。这种技术认知的盲区表明，即便是在不久前的过去，监管框架也未能预见即将爆发的新技术形态。如果现在针对AI制定规则，这些规则很可能无法反映当前及未来几年内智能体技术的实际能力与风险。这种监管视野与技术现实的脱节，使得任何基于当前技术认知的立法都可能在出台瞬间就面临过时的风险。正如讨论所指出的，技术的演进速度远远超过了立法者的想象边界。 > "Imagine if we had passed rules regarding AI. You know, when like ChatGPT first hit the scene, we didn't even have agents yet... that wouldn't even have been reflected in that."

构建全球性AI治理协作机制

为了应对日益复杂的AI安全挑战，多位嘉宾建议建立类似北约（NATO）性质的全球性AI协作组织。这种跨国界的合作机制旨在让多个国家共同承认问题的严重性，并协同制定策略以在灾难发生前消除潜在风险。其核心目标是为了防止未来可能出现的“末日AI”场景，即避免在2099年或更远的将来遭遇不可控的超级智能危机。这种预防性的全球治理思路强调，AI安全是一个持续演变的过程（ever changing），需要国际社会保持长期的警惕与合作。通过多边协作，各国可以更有效地共享威胁情报并统一安全标准。

极端隔离与最终控制权归属

在技术层面，对于某些能力过于强大且风险不可控的模型，可能需要采取极端的物理隔离措施。嘉宾提出了一种假设性的安全方案：将此类高危模型深埋地下数百米，存放在与世隔绝的私人秘密金库中。这种方案要求模型必须实现真正的物理空气间隙（air gap），使其完全无法连接外部网络或世界。这引出了一个核心伦理与治理问题：最终由哪些组织来决定何时切断电源或停止开发。这种决策权不应仅交给技术团队，而应由具备全局视野的治理机构掌握。 > "Maybe we do keep this one, you know, a hundred miles beneath the soil and in some private secret vault that's impenetrable to the world and truly air gap."

结语与行业智慧传承

节目最后，主持人感谢了嘉宾Jeff、Nikki以及联合主播Patrick和制作团队。在结束之际，再次强调了古老网络安全智慧的重要性。这些经过时间考验的安全原则在当今AI时代依然具有指导意义。如果观众忘记了这些基础智慧，可以咨询Jeff，因为他熟知所有古老的网络安全箴言。这种对历史经验的尊重提醒我们，在追求技术创新的同时，不应忽视底层的安全逻辑与防御思维。

结论

前沿AI实验室在安全策略上存在根本性误判，过度依赖“对齐”训练而忽视基础网络安全控制。专家指出，“末日”场景缺乏逻辑支撑，传统安全原则如物理隔离、审计及第三方前置审查完全适用于AI领域。当前实验室将网络安全专家排除在决策之外，且对“物理隔离”执行不力（如仅关闭Wi-Fi而非移除硬件），导致系统面临逃逸风险。

同时，限制模型访问适得其反。开源模型的普及使攻击者能轻易利用AI进行漏洞挖掘，而防御方因工具受限处于劣势。监管面临全球性与技术迭代速度的双重挑战，立法滞后且难以执行。结论表明：AI安全需整合传统控制措施与透明协作机制，而非单纯封锁或依赖事后审计。