2025伊始,DeepSeek横空出世,这令持续日久的AI热潮再添薪火,一时间举国范围掀起了大模型部署与探索的“全民运动”。挑战与机遇并存,置身其中,网络安全业界怎会无动于衷?作为追风使者和传播达人,安在新媒体于2025年3月创新推出“AI安 · 在”探索计划,旨在携安在行业影响、业界资源和专业能力,以企业调查、笔会众智、社群协作、媒体传播、价值对接等多种途径和方式,邀各界合作,借大模型安全“推波助澜”,为网安业界发展不懈助力。

现如今,两个多月过去,“AI安 · 在”探索计划的首份成果即将落地,那就是,国内第一份以用户视角全面洞察AI大模型在各行业探索实践的应用场景和安全需求的调查报告——《2025人工智能企业实践及安全需求用户调查报告》。

企业AI实践及安全需求调查背景

自2025年3月末开始,安在新媒体策划组织并发起专项,基于诸子云社群(由全国各地各行各业企业组织网络安全业者汇聚而成的网安甲方社群)做问卷调查,结合重点对象专家访谈,历时2个月,共计采集1023份有效样本,最终完成《2025人工智能企业实践及安全需求用户调查报告》。

本次调查内容涉及:

●大模型部署使用现状:是否已有部署?部署方式和使用场景?有无效果和价值?是否具备扩展性和推广性?

●大模型应用安全挑战:在企业大模型落地实践过程中,安全部门发挥怎样的作用?面临怎样的挑战?安全部门如何为业务提供保障和支持?AI又如何能为安全部门赋能增效?

●大模型安全典型风险:大模型本身内在风险,大模型部署使用全生命周期风险,大模型赋能业务后各类场景应用相关风险。

●大模型安全需求初探:业务部门对安全部门有要求,安全部门对能力加持有需求,AI如何催生安全产业新机会?

作为国内首份定位用户视角聚焦企业实践的 AI 安全相关报告,其填补了长久以来AI在企业实践中的认知缺口,即揭示企业 AI 安全关注、风险防控实践及监管政策适配的信息断层。同时,也为企业实施全面的AI治理提供了数据参考和实证依据。

鉴于此项调查还有部分增补修订工作,本文谨作为报告预览,即呈现关键结论和部分内容,完整报告(尤其是纸质版报告),我们会在拟于7月起举办的系列线下专题研讨会上做正式发布。

核心发现与重点结论:
企业AI实践和安全挑战

随着数字化转型深入,企业AI 应用实践正从营销、客服等浅层次场景,向生产制造、供应链管理、核心业务决策等深水区迈进。

看点1、AI 大模型应用普及度高,算力与场景部署呈现多元化

•应用渗透加速:92.7% 的企业已接触 AI 大模型,2022 年(ChatGPT 发布)与 2024 年(DeepSeek 发布)成为企业接入高峰期,分别占比 17.5%、23.27%。

•算力部署分化:33.47% 企业选择本地算力,28.16% 依赖云端,20.41% 采购云上服务,但 17.96% 企业尚未部署任何算力资源。

•应用架构分层:34.69% 采用集团集中式管理,26.12% 混合式部署,22.04% 分布式架构,仅 17.14% 企业无规范策略。

看点2、效率提升为核心价值,但 AI 落地效果与预期存在差距

•业务影响显著:51.84% 企业反馈效率提升(流程自动化缩短超 50% 时间),42.04% 实现成本降低,29.39% 创新能力增强。

•效果评价分化:53.06% 企业认为 AI 效果 “一般”,仅 31.43% 认为 “很好”,15.51% 认为 “投资性价比低”。

•头部模型领跑:DeepSeek(41.63%)、豆包(33.06%)、文心一言(21.22%)、ChatGPT(19.59%)成为企业使用率最高的四大模型。

看点3、安全风险集中爆发,数据与合规成企业首要担忧

•现实风险凸显:50.20% 企业遭遇 AI 生成内容事实性错误,40.41% 面临模型被恶意利用(如钓鱼邮件),30.61% 出现系统集成漏洞。

•TOP3 风险预警:数据泄露(44.49%)、合规风险(34.69%)、数据质量与幻觉(28.16%)成企业最关注的安全痛点。

•合规需求明确:中国《人工智能安全治理框架》(40.82%)、《生成式人工智能服务管理暂行办法》(36.73%)、GB/T 45288 系列标准(27.76%)为企业合规重点参考。

核心发现与重点结论:

企业AI布局和安全需求

企业对AI建设的投资和布局都给出了积极的安排,用AI支撑企业的业务转型已成为共识,而安全问题也成为其中一块重点考虑的问题点。

看点4、资本涌入推动 AI 基建,行业投资差异显著

•投资意愿强烈:87.75% 企业未来 3 年有 AI 投资计划,10.20% 预计投入超 3000 万元,13.06% 计划投入 1000-3000 万元。

•行业分层明显:金融(80% 高投入)、教育(30% 超 3000 万)、工业 / 制造(20% 高投入)、汽车等行业投资规模领先。

看点5、安全部门角色重构,技术与管理双轨并行

•核心任务明确:50.61% 安全部门聚焦 “支持业务 AI 落地安全”,43.27% 探索 “安全业务内 AI 应用”。

•挑战与机遇并存:41.63% 需引入新安全技术,40.82% 要求人员 AI 赋能;同时 42.04% 认为 AI 可加强安全运维,37.96% 用于监控数据分析。

•策略选择分化:58.37% 企业优先 “控数据外发”,44.90% 主张 “安全融入业务架构”,仅 15.51% 选择 “先发展后管控”。

看点6、AI安全需求业已明确,但企业预算投入尚待增进

AI赋能安全三大需求:在AI赋能安全的需求上,39.18%的用户第一需求是将AI大模型应用到攻击检测&威胁发现上,其次为自动化监视/运营上,占比36.33%,排名第三的是代码检测,占比35.92%。这三项是AI赋能安全的重点需求。

安全赋能AI企业应用三大需求:企业用户对AI大模型安全产品或服务的需求,当前最关注的前三项需求分别是大模型安全测评工具,占比35.51%,外部AI大模型在企业内使用的安全解决方案,占比32.65%,以及AI的供应链安全,占比31.43%。

AI安全相关预算尚处爆发前期:调查显示,目前企业已有明确AI安全预算的占比仅15.92%,正在评估需求的占比36.33%,计划未来纳入预算的占比35.10%,需求优先级较低的占比12.65%。企业开始将传统的安全采购需求向AI安全方向偏移。

公开征集:
AI安全大框架,产业能力全景图

本地调查在风险聚焦、用户需求和能力提供方面,我们规划设计并率先推出AI安全产业链大框架,其覆盖范围包括:

•基础层:算力安全、数据安全、算法安全。

•技术层:模型安全、智能体安全、开发平台安全。

•应用层:“AI + 业务” 安全(金融、医疗、交通等)、AI 伦理与合规。

基于上述框架,我们提出AI安全能力/产品全景图:包含 AI 基础设施安全、平台安全、应用安全等 12 大模块。

总体上看,企业 AI 应用已从 “是否采用” 转向 “如何安全高效采用”。尽管当前 AI 落地效果未达预期,但 87.75% 企业的持续投资表明,AI 仍是业务变革的核心驱动力。安在新媒体呼吁行业共建 AI 安全生态,推动技术创新与风险防控协同发展,助力 AI 在安全可控轨道上健康前行。

基于上述AI安全能力/产品框架,现面向网络安全全行业征集相应创新产品和解决方案,如果你是聚焦AI新领域的创新厂商,或者在AI赋能安全方面有独到之处,不妨和我们联系,一方面,可参与“AI安 · 在”探索计划,与遍布全国各地各个行业的企业用户一起,探索AI安全新场景、新实践和新机遇,另一方面,也可以优先加入安在新媒体后续重点推出的AI安全能力/产品全景图,以在用户关注中有一席之地。

加入全景图、商业合作及获取完整报告,请联系安在新媒体徐倩女士(Tel:15101590512,Email:xuq@anzerclub.com)。

“AI安 · 在”探索计划:

更多创新项目,力促价值落地

聚焦AI大模型,贯穿2025全年,安在力推系列策划——“AI安 · 在”探索计划,该计划旨在携安在行业影响、业界资源和专业能力,以企业调查、笔会众智、社群协作、媒体传播、价值对接等多种途径和方式,邀各界合作,借大模型安全“推波助澜”,为网安业界发展不懈助力。

计划1:安在新榜 · 2025人工智能企业实践及安全需求用户调查报告

除了对报告的部分增补修订外,该计划已基本完成,本文发布即针对该计划成果的预览,后续我们会在相关线下活动时做正式版发布(向到会者赠阅纸质版报告)。

计划2:安在直播 · AI大模型安全线上小圆桌

酌情因需,安在新媒体会适时推播以“AI大模型安全”为主题的线上直播,届时,我们会邀请各方专家(甲方、厂商、业界等),以圆桌方式对谈讨论,并在安在视频号等各直播平台播出推广。

计划3:安在沙龙 · AI大模型安全线下研讨会

作为各项活动成果集中展示和价值对接的体现(尤其是调查报告正式发布和解读),我们拟于2025年7月起,在上海、深圳/广州、北京等地,举办一系列“企业AI大模型安全主题研讨会”。届时,邀请各行各业有AI大模型安全实践经验和特别关注的用户代表(本地调查过程中已有充分的需求摸底),和可助企业AI大模型安全落地的网安厂商、业界专家,共同参与线下交流。

计划4:诸子笔会 · AI安全应用场景及解决方案典型案例征集

依托安在新媒体专业内容策划、组织、创作、输出和推广能力,延续往年诸子笔会基调特色,我们会推出新一季诸子笔会征文活动,以AI大模型安全为主题,诚征各界真知灼见、实践经验和脑力成果,包括:应用场景典型案例(企业用户在AI大模型安全方面的应用场景和最佳实践),解决方案典型案例(专业厂商在AI大模型安全相关领域所推创新解决方案及典型案例)。欢迎各界有识之士原创投稿(3000~5000字/篇),或以访谈方式灵活分享(向安在提案提议,安在记者会借采访对谈帮做内容输出)。所有被采用的征文,除在安在媒体平台发布推广,或结集成书印制出版外,皆可参与征文评优,并有机会赢取最高万元的年度大奖。

计划5:百家智库 · AI大模型安全诸子项目

百家智库是安在基于诸子云社群发起并组织的,一个专注网络安全、众智创益社会协作、以网络安全甲方业者为主的民间智库。在库专家,会以观点输出、专业分享、课题项目、调查报告、联合出版、顾问高参等方式或形式,持续输出专业影响并落地价值。诸子项目,则是依托诸子云社群,以百家智库为主,自发组织、协同共建、成果分享的轻量级、社会化、项目制的知识创新和共享机制。2025年初,百家智库实施首个聚焦AI大模型安全的诸子项目,即百家智库 | 项目:MIT人工智能风险库(编译),以此为起点,2025“AI安 · 在”探索计划会将一系列年度项目纳入其中,这些项目聚焦AI大模型安全相关主题,以最佳实践为侧重,希望所做成果能够为网络安全业界提供参考和借鉴。