行业报告

70%中国企业将实施AI安全测试,从5%到70%的爆发式增长意味着什么?

发布时间:2026-04-15 00:00:00 责任编辑:lily

【导读】随着大语言模型与AI智能体在中国关键领域的加速落地,网络安全格局正面临前所未有的重塑。Gartner最新预测指出,到2029年,实施AI安全测试的中国企业比例将从目前的不足5%激增至70%。这一爆发式增长不仅源于对提示词注入、数据泄露等新型技术风险的防御需求,更受到合规监管与业务连续性的深层驱动。本文将深入解读AI安全测试如何从单一的“技术防御”拓展为涵盖合规、伦理的“广义安全”,并探讨企业应如何通过“人机结合”的混合模式,将安全测试转化为抢占市场先机的战略赋能工具。


Gartner高级研究总监赵宇表示:“大语言模型(LLM)和 AI智能体在各个关键领域中的大规模部署正在重塑中国的网络安全格局。对于中国的CIO及其安全团队而言,专业化与持续性的AI安全测试不仅是防御措施, 更是部署高价值 AI、抢占市场份额、确保合规以及实现中国 AI 全球领导力目标的关键推动力。”


AI 大规模融入业务系统


随着国产大语言模型的快速发展,企业机构纷纷将AI大规模地融入业务系统。因此, AI安全测试必须高度自动化,并无缝集成到现有安全工具和工作流程中,以防成为拖慢系统上线速度的瓶颈。


人工测试仍是必须选项


中国的企业机构尚未完全依赖自动化的 AI安全测试(AI-ST)工具,对于自定义的测试场景来说,人工测试仍是必须。 


中国的AI安全测试正逐步拓展为 “ 广义安全 ” 测试


为响应各类监管标准,中国的AI安全测试正在从传统的网络安全测试,逐步拓展为涵盖违规、歧视与偏见等问题的 “ 广义安全 ” 测试。这些领域通常超出网络安全团队的传统职责范围,凸显了更高层级的统筹协调与战略规划在 AI 安全测试中的必要性。 


企业机构面临新的安全挑战


在尝试使用AI智能体来实现业务流程自动化时,企业机构面临新的安全挑战,主要涉 及四个方面:外部调用安全、AI智能体的身份与访问管理(IAM)、行为可控性以及规划完整性。 AI智能体的测试复杂度远高于通用 AI,测试人员必须具备领域专业知识, 不仅需要懂业务逻辑,还要能够理解智能体应用场景。


Gartner高级研究总监赵宇表示:“中国的CIO必须将AI安全测试视为战略赋能工具,而不仅仅是合规成本,因为其有助于识别风险,并能加快AI在关键职能中的安全采用。”


针对上述一些目前切实存在的情况与挑战,Gartner给出建议如下:


评估并升级现有安全测试工具,研究专用的AI安全测试工具以弥补能力缺口。定期开展针对AI的渗透测试和红队演练。 


建立持续测试流程,将AI安全测试集成到持续集成 / 持续交付(CI/CD)流水线和安全运营中。 


采用人机结合的混合测试模式,同时利用人类智能与自动化方法,以应对复杂、动态、上下文相关的漏洞。 


组建跨职能团队,集合技术、业务和合规方面的专业能力,确保AI安全测试的全面性、相关性,以及与企业目标和外部要求的一致性。



3-958x200_20251021044704_586.png


为您推荐

对比树莓派分立理想二极管,拆解 MPQ5852 浮地驱动 NMOS 核心原理 电路图集

对比树莓派分立理想二极管,拆解 MPQ5852 浮地驱动 NMOS 核心原理

很多硬件工程师都见过树莓派 3B 上分立器件搭建的理想二极管防倒灌电路,但分立方案存在电流、Vgs、器件匹配等局限。本文换个思路,拆解集成理想二极管芯片 MPQ5852,它支持 5~36V 宽电压输入。文章从芯片内部框图入手,依次讲解使能、电压检测、VS 模拟采样,重点解析它内置开关电源生成浮地电压、驱动 NMOS 上管的巧妙架构,以及三组比较器实现导通 / 关断的控制逻辑,带你弄懂低压降防反灌的实现思路。

能源电路 电源管理 测试测量

贸泽开售 Endress+Hauser Picomag 电磁流量计,蓝牙调试、同步测量流量电导率温度 新品速递

贸泽开售 Endress+Hauser Picomag 电磁流量计,蓝牙调试、同步测量流量电导率温度

贸泽电子(Mouser)现已开售 Endress+Hauser(恩德斯豪斯)Picomag 一体式电磁流量计。该产品传感器与变送器集成一体,可同时测量流量、电导率、温度,支持 SmartBlue 蓝牙 APP 远程调试配置;搭载 1.4 英寸 TFT 彩屏,具备 IO-Link 与多路 I/O 接口,IP65/67 防护,抗冲击振动。产品体积小巧,适合撬装设备狭小空间,多用于导电液体二次回路、数据中心液冷、OEM 冷却系统等场景,贸泽原厂现货可发。

能源电路 互联技术 测试测量 传感器 MOUSER(贸泽)

Melexis 迈来芯推出 MLX81352/MLX81354 第四代 1A LIN 车载电机驱动芯片 新品速递

Melexis 迈来芯推出 MLX81352/MLX81354 第四代 1A LIN 车载电机驱动芯片

迈来芯(Melexis)正式发布第四代车载 LIN 电机驱动芯片 MLX81352 与 MLX81354,支持最大 1A(10W)驱动功率,面向车载大功率机电一体化应用。两款芯片分别搭载 32KB、64KB Flash,引脚兼容,并且可与上一代器件平滑移植。产品基于高压 SOI 工艺,三核架构,满足 AEC-Q100、ASIL B 功能安全要求,集成 LIN 接口、差分电流检测与多重保护,适合车载热管理阀、主动进气格栅、充电口盖、座椅风扇等执行器,目前已经开始供货。

汽车电子 互联技术 测试测量 电机驱动 Melexis(比利时迈来芯)

Danisense(达尼森)发布 DN1‑5UD‑10V 高精度 DCCT,可测 1.5A 小交直流残余漏电流 新品速递

Danisense(达尼森)发布 DN1‑5UD‑10V 高精度 DCCT,可测 1.5A 小交直流残余漏电流

高精度电流传感器厂商 Danisense(达尼森)推出 DN1‑5UD‑10V 高精度直流电流变送器 DCCT,最高可测量 1.5A 小交直流电流,适合漏电流、悬浮残余电流检测。产品采用 41mm 大孔径搭配可拆卸隔离插件,支持三相电缆同时穿过,简化现场安装;依托闭环磁通门技术实现低偏移、超低漂移,总精度 1%,D‑sub‑9 输出 10V 电压信号可直接对接示波器。产品采用铝制紧凑型外壳,面向逆变器 V2G、电池 SOH 评估、EV 测试台、数据中心、变电站等多类工业测试场景。

能源电路 电源管理 测试测量 传感器 Danisense(达尼森)

飞利浦智能体脂秤 7000 系列上市:支持多人群模式,AI 提供运动饮食建议 新品速递

飞利浦智能体脂秤 7000 系列上市:支持多人群模式,AI 提供运动饮食建议

近日,可孚医疗重磅推出飞利浦智能体脂秤7000系列。面向家庭体重管理,用户期待跳出单一数值的局限,全面洞悉自身的体成分状况,把专业指标转化为易于理解的信息;用科技获得智能化健康指引,借助长期监测跟踪身体变化,让一台设备适配全家人不同的体重规划。秉持"Connection for life"的品牌理念,飞利浦智能体脂秤7000系列以高精准度测量为核心,融合蓝牙智联、多人群模式、彩屏趋势可视化,全面覆盖家庭日常体成分观察、减脂塑形管理等多元使用场景,为中国家庭带来科学精准、有温度的一站式居家体成分健康管理方案。

医疗穿戴 互联技术 测试测量 PHILIPS(飞利浦)

特别推荐

更多

行业动态

更多

技术应用

更多

选型替代

更多

产品信息

更多

热门搜索

更多

欢迎登录

没有账号,

账号注册

注册成功!

3S后自动为你跳转登陆