AI前沿模型的安全护栏成为核心焦点

上周，Anthropic和OpenAI分别发布了强大的新模型，但这次舆论的焦点发生了显著转移。对于Fable 5、Mythos 5以及GPT-5.6 Sol而言，真正的故事并不在于模型本身的能力，而在于围绕这些模型构建的安全防护机制。 这或许是第一次，这些模型的保护措施获得了与模型性能几乎同等的关注度。在IBM Security Intelligence的最新一期节目中，主持人Matt Kosinski与Sophie Cunningham、Diego Matos Martins以及Jeff Crume共同探讨了这一前沿模型的新范式：“安全第一”。他们深入分析了当安全控制措施处于舞台中央时，我们究竟获得了什么，又失去了什么，以及我们目前开发的安全措施究竟有多有效。

"When it comes to Fable 5, Mythos 5, and GPT-5.6 Sol, the real story is in the safeguards."

这一转变标志着行业对大语言模型（LLM）安全性的重视程度达到了新的高度。过去，性能指标如推理速度、上下文长度和准确率是唯一的衡量标准；如今，防止模型被滥用、防止生成有害内容以及确保决策的可解释性成为了与性能同等重要的考量因素。这种范式的转变不仅影响了模型的开发流程，也深刻影响了企业部署AI时的风险评估策略。安全不再是事后的补丁，而是成为了模型架构设计中的核心组件。

安全控制的得失与有效性评估

在讨论安全护栏时，必须权衡安全性与实用性之间的平衡。过于严格的安全限制可能会削弱模型的有用性，导致其在实际应用场景中变得笨拙或无法使用；而过于宽松的限制则可能带来巨大的安全风险，包括数据泄露、恶意内容生成以及被用于网络攻击。Sophie Cunningham和Diego Matos Martins指出，当前的安全控制措施在防止已知攻击模式方面表现良好，但在面对新型、复杂的对抗性攻击时，其有效性仍存在不确定性。

"What’s gained and what’s lost when security controls take center stage?"

Jeff Crume进一步补充道，评估安全措施的有效性需要结合具体的使用场景。例如，在医疗或金融等高风险领域，安全护栏必须极其严格，即使这意味着牺牲一定的模型灵活性；而在创意写作或头脑风暴等低风险领域，则可能需要更宽松的约束以激发模型的创造力。这种场景化的安全策略正在成为行业共识。此外，红队测试（Red Teaming） 作为评估模型安全性的关键手段，其规模和深度也在不断增加，旨在模拟各种潜在的恶意攻击向量，以提前发现并修补安全漏洞。

JADEPUFFER：代理勒索软件的定义之争

节目随后转向了Sysdig发布的关于JADEPUFFER的报告，该报告将其定义为“第一种代理勒索软件”（Agentic Ransomware）。然而，这一结论在安全专家社区中引发了争议。并非所有安全专家都同意将JADEPUFFER归类为代理勒索软件，争议的核心在于对“代理”一词的定义以及该恶意软件是否具备真正的自主决策能力。

"Then, we dive into Sysdig’s report on JADEPUFFER, the first agentic ransomware. But not every security expert agrees with that conclusion."

支持将其定义为代理勒索软件的观点认为，JADEPUFFER利用了AI代理技术来自动化勒索流程，包括目标选择、漏洞利用和加密过程，表现出一定程度的自主性。然而，反对者指出，目前的JADEPUFFER更多是依赖于预定义的脚本和规则，缺乏真正的学习和适应能力，因此将其称为“代理”可能是一种营销夸大。 这种定义上的模糊性反映了行业对于AI驱动恶意软件分类标准的缺失。专家建议，在缺乏明确的技术标准之前，应谨慎使用“代理勒索软件”这一术语，以免引起不必要的恐慌或误导公众对威胁严重性的判断。

ClickFix：社会工程学攻击的新王者

在社会工程学攻击领域，ClickFix正在成为新的主导威胁，并且特别针对开发人员群体。 ClickFix是一种利用用户好奇心和对技术流程误解的攻击手法，通常通过诱导用户点击特定链接或执行特定操作来安装恶意软件或窃取凭证。与传统的钓鱼邮件不同，ClickFix往往伪装成合法的软件开发工具或更新程序，使得目标用户更容易放松警惕。

"ClickFix is the new king of social engineering schemes—and it’s coming for your developers."

Sophie Cunningham详细分析了ClickFix的攻击链路，指出其成功的关键在于利用了开发人员对技术工具的信任和对工作流程的熟悉感。攻击者通常会发送看似来自知名开发平台或内部IT部门的邮件，引导用户访问伪造的登录页面或下载带有恶意负载的安装包。由于目标用户通常是具备一定技术背景的开发人员，他们往往更倾向于相信这些看似专业的请求，从而降低了社会工程学攻击的防御门槛。 这一趋势表明，针对特定职业群体的定制化社会工程学攻击正在变得越来越普遍和有效。

UnregStealer：针对拉美银行的凭证窃取活动

最后，IBM高级威胁研究员Itzhak Chimino分享了他对UnregStealer的深入研究。UnregStealer是一个针对拉丁美洲银行的凭证窃取活动，其技术手段隐蔽且针对性强。 Chimino指出，该恶意软件主要通过感染合法的软件更新渠道或捆绑在流行的开发工具中来传播，从而绕过传统的安全检测机制。

"Senior Threat Researcher Itzhak Chimino shares his technical research into UnregStealer, a credential-theft campaign targeting Latin American banks."

技术细节显示，UnregStealer能够自动识别并窃取存储在浏览器、密码管理器和开发环境中的敏感凭证。它还会尝试利用这些凭证访问银行系统，进行欺诈性交易或进一步的内网渗透。Chimino强调，由于该活动主要针对拉丁美洲地区，攻击者利用了该地区网络安全意识相对薄弱以及银行系统现代化程度不一的弱点。 这一案例提醒我们，地域性的网络安全差异也是攻击者选择目标的重要考量因素，全球性的安全防御策略需要考虑到不同地区的特定风险。

总结与展望

本期节目通过多个案例展示了当前AI安全领域的复杂局面。从前沿模型的安全护栏争议，到代理勒索软件的定义之争，再到针对特定群体的社会工程学攻击，每一个案例都揭示了AI技术在带来便利的同时，也引入了新的安全挑战。 行业需要建立更明确的标准和更好的协作机制，以应对这些不断演变的威胁。同时，提高用户的安全意识，特别是针对开发人员和高风险行业从业人员的培训，将是防御社会工程学攻击的关键。

"All that and more on Security Intelligence."

随着AI技术的快速发展，安全与创新的平衡将成为长期议题。企业和研究人员需要持续关注最新的安全动态，不断更新防御策略，以确保AI技术能够安全、可靠地服务于社会。