AI发现重大安全漏洞：PHP2 Shell的规模与危害

IBM播客《Mixture of Experts》本期聚焦于AI在网络安全领域的最新突破，特别是安全公司利用AI模型发现的一个名为“PHP2 Shell”的重大漏洞。该漏洞涉及广泛使用的编程语言PHP，PHP支撑着全球约70%的网站运行。这一比例凸显了该漏洞影响的广度，因为一旦攻击者利用此漏洞远程接管Web服务器，后果将极其严重。与普通的软件补丁不同，PHP作为底层基础设施语言，其漏洞修复往往牵一发而动全身。组织若运行旧版PHP无法直接升级补丁，因为这可能破坏围绕该版本构建的遗留系统。尽管安全情报机构指出利用此漏洞链并非易事，但AI使得发现此类脆弱性的门槛大幅降低，暴露出整个互联网基础设施的深层风险。

攻击后果：从服务器控制到网络渗透

Ash Minhas深入分析了该漏洞的技术细节与潜在危害。他指出，PHP服务器通常连接着数据库以查询和提供信息给互联网用户。攻击者一旦获得对服务器的远程代码执行权，便能访问其不应拥有的网络资源。这种权限的提升意味着攻击者可以获取敏感凭证，并将受控计算机用于任何恶意目的。Ash将其比喻为“拥有他人酒店房间的钥匙”，在退房后仍能随意进出并做任何事。对于大型企业而言，虽然通常会在DMZ（非军事区）部署Web应用防火墙等防御措施，但这些传统边界防护无法抵御此类基于底层代码执行权的攻击。而对于缺乏复杂网络拓扑的小型企业或个人用户，其PHP服务器则如同“互联网上的活靶子”，毫无防备地暴露在风险之中。

开发者心态转变：从“部署即遗忘”到强制现代化

Jessica Nahulan从业者角度阐述了这一事件对开发和维护流程的冲击。长期以来，许多小型企业和开发者在部署网站后便不再维护，认为系统运行良好即可。AI技术的介入改变了这一现状，它不仅加速了漏洞的发现过程，还使得尝试利用这些漏洞变得更为普遍。Jessica强调，现在必须重新审视所有已部署但被忽视的系统。开发者需要检查其技术栈中的依赖项，例如是否使用了PHP或仅由单一维护者定期修补的开源软件。这一转变迫使从个人开发者到大型企业的所有主体进行基础设施现代化改造，以兼容最新的安全修复和依赖项更新。此前被视为“锦上添花”的现代化工作，如今已成为应对AI驱动安全威胁的必要生存手段。

漏洞发现历程：时间线与复杂性回顾

该漏洞的发现与披露过程展现了AI在安全研究中的独特作用。Jessica提到，时间线相当复杂：该漏洞早在几年前已被部分理解，但当时并未被视为严重威胁。然而到了今年夏天，安全公司Whiz和California独立指示其AI模型对PHP进行探测和分析。这一过程表明，随着AI能力的提升，安全研究人员可以利用自动化手段更快速地挖掘潜在风险。这种由AI驱动的安全发现趋势正在重塑网络安全格局，使得原本隐蔽或被认为次要的漏洞迅速进入公众视野。这一案例不仅揭示了PHP2 Shell的具体风险，更标志着AI在识别和披露网络漏洞方面已成为一股不可忽视的力量。

PHP生态的脆弱基石与人力失衡

近期，安全研究人员Whiz和California同时发现了一个名为PHP2 Shell的重大漏洞。这一事件迅速将公众视线引向了维护PHP代码的机构——PHP基金会。令人震惊的是，尽管该基金会管理的底层代码支撑着全球约 70% 的互联网流量，但其全职员工仅有一人。这种极端的人力配置与巨大的基础设施责任形成了鲜明对比。

与此同时，亚马逊部署了一个诱捕服务器（Honeypot server）。在漏洞利用代码正式公开之前，该服务器就遭到了攻击。这一现象暗示了自动化安全工具或AI代理正在以超越人类的速度主动寻找并测试漏洞。正如对话中所指出的，这种不对称性使得在发现漏洞与修复漏洞之间建立有效防线变得极其困难。

开源依赖的“搭便车”心态与历史偶然性

PHP的历史充满了戏剧性的偶然。它由Rasmus Lerdorf于 1994 年创建，初衷仅仅是为了简化个人主页的编程工作。Lerdorf曾自嘲道：

"I'm not a real programmer I just threw this thing together and moved on... he actually wrote it to program less."

这一最初为个人需求打造的“拼凑”代码，如今却成为了全球数字基础设施的核心。这种历史遗留问题揭示了社会对开源软件的一种普遍误解：只要代码能运行，就默认它是安全的且有人负责维护。这种心态导致开发者在引入库或依赖项时，往往缺乏对代码来源、信任度及潜在风险的深入审视。

抽象层堆叠下的技术债务困境

现代软件开发依赖于层层叠加的抽象层。开发者倾向于通过导入库来构建应用，而忽略了对底层原理的理解。这种“黑盒”操作模式导致技术债务不断累积。

"The world of technology is layers upon layers upon layers of abstraction... We just go, 'Oh in order to me to make that thing I just have to import this library.'"

尽管业界存在重构老旧系统的最佳实践，但在现实世界中，时间、资源和维护压力迫使团队采取“打补丁”的方式。正如Jessica所言：

"It just becomes easier then you kind of have a little cupcake on top of your little broken bucket."

这种“胶带和胶水”式的维护虽然解决了眼前问题，却未解决根本的结构安全隐患。随着AI代理能比人类更快发现漏洞，若缺乏相应的时间和资金投入进行底层重构或现代化改造，这一差距将进一步扩大。

AI作为双刃剑：加速发现与辅助修复

面对这一危机，AI技术被视为潜在的解决方案。虽然AI能更快地暴露问题，但它同时也提供了自动化理解代码和辅助重写的能力。对于许多由几十年前团队创建、且原始开发者已不可考的复杂系统，AI使得在没有专家指导的情况下进行代码分析和现代化改造成为可能。

"We are finding issues faster than ever but we're also capable of fixing them faster than ever."

这表明，解决开源基础设施危机的关键不仅在于增加人力投入，更在于如何利用AI工具来弥补专家缺失带来的知识断层，从而在快速变化的威胁环境中保持系统的稳健性。

Block的AI布局：从支付巨头到语音模型开发者

Desa这一项目源自Block公司，这是一家由Jack Dorsey创立的科技企业。除了大众熟知的Square支付处理器和Cash App外，Block还拥有Title等资产。Jack Dorsey本人以热衷于技术 tinkering 著称，这解释了Block为何能推出此类前沿AI项目。据透露，Block在五六年前收购了一家类似深度伪造（deep fake）的音频公司，该公司因在2019年制作出以假乱真的Joe Rogan语音而声名大噪。经过六年的技术积累，Block宣布推出了一种仅通过人类对话音频训练的新模型。这与GPT、Claude等基于海量文本训练的“学者型”大语言模型截然不同，Desa完全摒弃了文本阅读训练，转而专注于听觉数据的吸收。这种独特的数据源选择使得模型在对话自然度上展现出与文本驱动模型不同的特性。

全双工交互：实时打断与自然反馈的技术突破

Desa最显著的特性在于其支持全双工（fully duplex）通信模式。与传统AI模型需要等待用户说完话才能响应的“半双工”逻辑不同，Desa能够在倾听的同时进行发言。它可以在用户说话时插入“嗯”（mm-hm）等反馈音，甚至能自然地打断用户。这种被称为“回话通道”（back channeling）的行为，是人类在社交中展示参与感的关键信号。演示视频显示，该模型能够以极具社会礼貌的方式执行这一动作。这种技术 feat 的核心在于其完全基于音频训练，而非文本指令。尽管目前该模型尚未公开发布，且缺乏详细的技术方法论研究，但其演示效果已显示出在实时互动流畅性上的巨大进步。这种能力打破了以往AI助手机械式问答的僵硬感，使其更接近真实的人类对话体验。

缺乏基准测试与数据透明度引发的质疑

尽管演示效果惊艳，但Block并未公开任何性能评分或基准测试数据。该模型未参与公开的“全双工基准”（duplex bench）测试，也未分享任何具体数值。这种数据黑盒状态引发了业界对其实际能力的怀疑。评论者指出，由于模型未接受文本训练，其世界知识的广度可能受限。与早期Transformer模型类似，缺乏广泛知识 grounding 的模型更容易出现幻觉（hallucinations）。在演示中，甚至出现了无论用户名字是什么都称呼为“Reinaldo”的尴尬案例。这种对训练数据多样性的担忧表明，仅靠对话音频可能无法赋予模型足够的常识储备。此外，如何评估此类模型的可控性、幻觉处理能力及一致性仍是未解之谜。目前缺乏针对音频交互的标准化评估体系，使得外界难以客观衡量Desa的真实水平。

重新定义AI评价标准：从准确性到互动性

面对Desa带来的新交互范式，传统的模型评价体系面临挑战。以往评估Claude或GPT等模型时，核心指标是准确性、一致性和答案的正确性。然而，对于Desa这类全双工模型，评价维度可能需要转向互动的自然度与情境感知能力。例如，当用户犹豫时，模型能否适时介入？这种“打断”行为是否被视为一种积极的互动信号而非错误？尽管存在对知识准确性和幻觉的担忧，但部分观点认为这种“随机性”可能赋予AI更独特的人格魅力。Desa的出现解锁了全双工语音交互的新赛道。然而，如何建立新的评估标准来衡量这种“社会性智能”而非单纯的“知识准确性”，将是行业接下来需要解决的核心问题。目前，Desa仍处于演示阶段，其长期实用性和可靠性仍有待验证。

基准测试的演变与文化特异性谜题

当前的AI评估标准正在经历一场全新的变革，重点转向对人类语音、表达乃至细微噪音的 nuanced（微妙）评估。对于目前处于研究预览和私测阶段的AI安全测试产品，其最终是否会成为主流产品仍有待观察。在这一背景下，本期讨论聚焦于一个非传统的基准测试案例：文化特异性谜题（Culturally Specific Riddles）。正如主持人所比喻的，基准测试类似于模型的“SAT考试”，通过设计数学或推理难题来检验模型表现。然而，这一特定测试不仅考察逻辑，更引入了文化特异性的双重维度：既包含谜题本身的智力挑战，又涉及对特定文化背景知识的依赖。这种测试方法的兴起并非偶然，其历史甚至早于ChatGPT的发布。

谜题作为评估模型创造力的工具

为何选择“猜谜”来测试AI？主持人邀请嘉宾Judith解释了这一选择的深层逻辑。谜题对模型而言极具挑战性，因为它们不仅仅依赖模式匹配（pattern matching），更需要创造性思维和文字游戏能力。 以经典的斯芬克斯之谜为例：“早晨四条腿，中午两条腿，晚上三条腿”，答案是“人”。这个谜题要求模型理解隐喻：婴儿爬行（四条腿）、成人直立行走（两条腿）、老人拄拐（三条腿），以及将一天之始、中、末比喻为人生阶段。这种隐喻性语言的使用（metaphorical use of language）最初被认为超出了早期AI的理解范畴。通过这类测试，研究人员能够更有效地评估模型在创造性推理（creative thinking）方面的效率与效果，而不仅仅是检索已知信息的能力。

基准测试范式的根本缺陷：猜测激励

嘉宾Ash深入分析了该研究揭示的更宏大问题：整个基准测试领域亟需进化。 他指出，传统评估存在一个致命的结构性缺陷：模型在“回答正确得一分”和“不知道不得分”的二元选择中，被数学概率激励去猜测（guess）而非诚实表达无知。例如，询问模型生日时，猜对的概率是1/365，而回答“不知道”的概率为0。因此，模型倾向于编造答案以博取那微小的正确几率。我们需要彻底重新思考如何评估这些模型，目前的评分机制 incentivized（激励）了幻觉而非准确性。 此外，文化是一个“移动的球门”，随着社会的演变而不断变化。除非模型拥有极快的训练速度和全面的数据源，否则很难始终做出恰当的文化响应。

语言的力量：从提示词到魔法的隐喻

最后，嘉宾Jessica分享了她在此次研究中最感兴趣的哲学层面。她回顾了IBM Tech Exchange会议上的观点：Tim O'Reilly将提示词（prompts）比作魔法。 一个单词或缩写，如“PRD”（产品需求文档），在输入后瞬间扩展为结构化的复杂文本。这种上下文的力量（power of context）使得用户能够打包并分享技能和工作流，如同施展咒语。然而，这也揭示了文化差异的复杂性：不同文化中，“PRD”所代表的结构和期望可能截然不同。这进一步强调了语言承载的上下文（context they hold）在AI交互中的核心地位，以及跨文化理解在构建通用智能时的必要性。

技术成熟度：从炒作周期到务实落地

IBM数据领域现场首席技术官Kio Gabriel在Tech Exchange大会上指出，当前AI行业正经历从过度炒作向务实落地的转变。过去三年间，技术热点经历了向量搜索、检索增强生成（RAG）、大模型训练，再到近一年半的“智能体”浪潮。然而，真正的突破在于基础架构的成熟与精细化。Gabriel强调：“那些看似枯燥的基础设施工作，如智能体身份编排、流程监控等，正在变得令人兴奋且日益成熟。”这种转变标志着AI应用从概念验证走向生产环境的关键一步，旧有的技术在新语境下被重新定义并赋予了新的生命力。他提到：“故事在于那些枯燥的内容正变得真正令人兴奋且趋于成熟。”

Streamhouse架构：解决数据碎片化与实时性痛点

针对智能体（Agents）对数据的即时需求，IBM提出了“Streamhouse”这一数据架构概念。Gabriel将其比喻为对传统数据存储模式的整合与升级：数据湖如同“把所有东西扔进垃圾桶，以后再说”，而数据仓库则是结构化的归档。传统的Lakehouse试图结合两者优势，分离计算与存储以处理结构化与非结构化数据，但其设计初衷并非面向运营上下文中的实时操作。随着智能体数量的激增及其产生的数据排泄物（data exhaust），企业面临分布式或碎片化数据estate的挑战。Streamhouse通过“左移”技术，将Lakehouse的处理逻辑迁移至Flink等流处理框架中，从而在实时层面为智能体提供上下文支持。这一架构的普及得益于IBM收购Confluent，旨在让数据在智能体需要时即刻可用。

AI赋能流处理：降低复杂门槛并提升应用响应速度

Streamhouse的核心价值在于利用AI简化了传统流处理的高难度开发过程。Gabriel指出，有状态流处理（stateful stream processing）历来难以构建，需要极高的技术门槛。然而，“AI既制造了问题（对实时数据的需求），也提供了解决方案”。开发者现在可以轻松使用AI编写有状态流处理作业，甚至能将Lakehouse中定义的任务直接重写为流式任务。这一能力打破了以往企业因架构复杂而倾向于使用请求-响应（request-response）模式的惯性。虽然Web和移动应用多基于轮询或查询更新，但流式架构能以更低的资源消耗实现应用的即时响应和实时更新。Gabriel总结道：“流式架构更好，因为它允许我用更低的资源让我的应用更具响应性。”

AI代理降低开发门槛并催生新数据挑战

过去，构建复杂的请求-响应架构虽然概念清晰，但实施难度极大，导致只有少数人能够完成。随着技术壁垒的降低，开发者现在有能力构建真正解决中小型企业及大型企业痛点的解决方案。AI代理（Agents）的兴起正在将更多企业推向技术转型的边缘，即使这些企业此前并未面临大规模数据或高并发用户的问题。然而，引入代理后，新的数据处理需求随之而来，迫使企业重新思考架构设计。这种变化不仅限于数据层面，还延伸至身份认证领域。身份验证是计算机领域的古老问题，但在自主运行的AI代理场景下，其复杂性呈指数级上升。由于代理数量可能比人类用户多出一个数量级，且它们并非真人，企业必须确保这些自主实体仅持有短期有效的凭证（short-lived credentials）。IBM在此领域提供了卓越的解决方案，但核心挑战在于：虽然问题本身早已存在，但在代理时代以全新的形式显现，这要求我们采取截然不同的解决思路。

企业客户对AI代理解决方案的积极反馈与验证

IBM近期收到来自主要客户的强烈正面反馈，证实了AI代理在解决长期遗留问题上的潜力。在与一家大型保险公司的会面中，客户明确表示这是他们多年来一直在寻找的解决方案。该企业正在积极评估如何将AI代理整合进其业务流程，并逐渐认识到该方案如何具体适配其业务需求。这一案例表明，AI代理并非仅仅是技术实验，而是具备实际商业价值的企业级工具。客户从最初的观望转向主动探索，显示出市场对于能够自动化处理复杂业务逻辑的代理系统存在迫切需求。这种从“寻找解决方案”到“验证方案适用性”的转变，标志着AI代理技术正在进入企业核心业务场景的深水区。

AI赋能打破开发与运维之间的组织壁垒

AI技术正在深刻改变企业内部开发者与系统操作员之间的关系，打破了长期以来存在的沟通障碍与信息不对称。在传统企业环境中，负责维持系统运行的运维人员往往不了解底层系统的详细运作机制，而构建软件的开发团队也不清楚其代码如何影响基础设施。这种“建”与“管”之间的张力导致了效率低下和协作困难。AI的引入赋予了双方新的能力：运维人员现在可以利用AI更好地理解系统的使用情况，从而为开发团队提供更精准的服务支持；同时，开发者也能借助AI洞察软件对底层系统的杠杆效应及潜在问题。这种双向赋能不仅提升了技术执行效率，更从根本上改变了工作方式和人际协作关系。人们开始意识到，AI的价值远超生成图像或编写代码的表层功能，它正在重塑组织的执行逻辑和内部协作生态。这种对组织关系的 transformative（变革性）影响，正是当前AI技术最令人兴奋的发展动向。

结论

AI在网络安全领域已具备自动化挖掘底层漏洞的能力，迫使PHP等基础设施从“部署即遗忘”转向强制现代化；但开源维护的人力失衡与抽象层堆叠导致修复滞后，形成巨大风险敞口。在交互层面，Desa模型通过全双工音频训练实现了自然的打断与反馈，突破了传统半双工的僵硬感，却因缺乏基准测试、文本知识 grounding 不足及存在幻觉案例，其实际可靠性与评估标准尚待验证。此外，传统基准测试因激励猜测而失效，需转向创造力与文化语境评估；企业端则通过Streamhouse架构与AI代理解决实时数据需求，打破开发与运维壁垒。总体而言，技术落地正从炒作转向务实的基础设施重构与协作模式变革。