目前，行业中对于AI及其对网络安全影响的讨论，大多只聚焦于模型本身。有些人主张设立中心化的权威机构对前沿AI模型进行管控，还有些人甚至提出，出于安全考量，应当严格监管或者直接禁用开放权重模型。然而，就在全球各方监管审视开放AI模型的未来之际，一个核心问题却被普遍忽略：我们该如何真正筑牢AI系统的安全防线？

AI安全：根源在于软件，而非局限于模型

AI智能体不只是一个模型，而是一套完整的软件栈。为了保障这套系统的安全，企业需要对核心模型、智能体运行框架（agentic harness）、沙盒技术、运行时安全护栏、数据管控，以及众多底层基础设施层开展分析。而其中三项，即运行框架、沙盒、传统应用层，核心都建立在软件工程之上，而不是模型。

依靠封闭的专有体系、割裂软件生态来保障AI安全，本质上只是转移风险，而不是解决问题。数十年前，Linux刚问世时，行业对于开源方法能否稳定、安全地用于企业充满了疑虑。反对者声称，只有闭源开发才能实现企业级可靠性。时间证明，事实恰恰相反：开源软件已成为推动全球大多数企业IT系统发展的催化剂，而在这些系统中，规模与安全性是不可妥协的硬性要求。

如今，我们又见到了如出一辙的质疑论调。Linux已经证明，透明机制与社区协作能打造更可靠的操作系统。开源AI模型、开源智能体运行框架和透明沙盒技术，也将成为未来计算领域最安全的基石。

为什么开放模型与保持透明对防御至关重要

对于网络安全而言，保持透明本身就是构建安全系统的重要一环。IT领域有一条经典原则：靠隐蔽性换来的安全，算不上牢靠的安全。

如果只面向少数专有模型推进网络安全研究和威胁缓解，反而会带来严重风险。作为防御方，企业无法控制攻击者会选用何种工具。如果研究人员和安全团队无法获取、检视用于防御的开放模型，他们就错失了了解攻击者使用的工具、威胁向量的机会。不仅如此，将访问权限集中在少数几个闭源提供商手中，可能会造成集中的系统性风险。

开放权重模型的广泛访问权限，为防御方提供了构建有效风险缓解策略的所需工具。开放模型向广泛的科学审查开放，这对于发现和修复潜在漏洞至关重要——在专有的“黑盒”系统里，企业可能始终无法发现这些漏洞。

通过洞察共享，推进前沿防护能力建设

红帽正在做自己最擅长的事，来应对日益增长的AI安全需求：与社区携手同行。近期，作为“开放安全AI联盟”（Open Secure AI Alliance）的一员，红帽与NVIDIA、Linux基金会及其他成员协作，制定了一份关于“共享AI发现交换”（SAFE）工作组的征求意见稿（RFC）。

在此之前，IT团队只能在企业内部排查AI安全事件，导致关键的运营洞察被封闭在各自企业的壁垒之内。SAFE指南改变了这一模式：建立一个中立框架，在不进行责任认定的情况下，以保密方式收集、分析和分发AI运行故障的相关发现。

通过支持事件报告、开放共享威胁情报，我们共同推动防护能力向前演进。通过开放协作，整个生态都会受益：工具迭代更快，防御能力更强，关键基础设施也能更好抵御现实中的各类攻击。

携手向前

无论是在基础运维、软件工程还是企业应用交付领域，AI工具都在以前所未有的速度演进。一套系统的能力强弱，取决于两大要素：其核心模型，以及包裹在模型外面，安全地将系统行为引导至预期目标的开源运行框架。

红帽相信，开放协作与保持透明始终是技术演进最好、最快，也最安全的路径。结合原创的人类洞察，培育建立在开源软件、开放权重模型和开放智能体运行框架之上的开放生态，我们能够在推动技术能力发展的同时，筑牢安全底座。

完整的SAFE的征求意见稿可以在GitHub上查看，欢迎社区的审阅、讨论与贡献。（作者：红帽首席技术官兼全球工程高级副总裁Chris Wright）