天极大咖秀

登录 | 申请注册

智能体时代网络安全的变局与解法

郭涛 2026-08-06 阅读: 61 次

Gartner的预测数据显示,到2028年,超过80%的中国企业将面临员工在无监管情况下使用生成式AI的问题,使AI特定的数据泄露控制成为CISO关注的前三大优先事项;到2029年,50%针对中国广大员工的社会工程攻击将利用深度伪造技术实施,导致传统的意识培训失效;到2029年,超过30%部署了物理AI的中国企业将经历导致物理中断的重大网络安全事件……这一连串的数据提醒我们,人工智能、智能体正成为重塑网络安全格局的核心变量,网络安全的形势比以往任何时候都更加严峻。

由于智能体全面渗透业务,使得攻击门槛大幅降低,低阶攻击者借助AI即可针对中大型企业发起规模化渗透,企业安全防线正迎来系统性考验。Gartner高级研究总监陈延全指出,当前国内安全市场的底层逻辑已彻底改写,人工智能深度融合、监管责任收紧、技术自主三大力量共同驱动安全技术迭代,传统以人为核心的防护体系难以适配自主AI智能体、海量机器身份、AI特有攻击面带来的新型威胁。

三重驱动 重塑网络安全发展底色

从应用的角度看,当前人工智能加速融合,安全防护的对象逐渐从“人”转向“自主智能实体”。生成式AI、代理型AI从实验室走向生产环境,安全防护的边界持续扩张。在这种情况下,传统静态防护策略失效。同时,影子AI泛滥问题凸显,员工私自调用外部大模型、业务部门无审批部署私有智能体,从而形成大量不可见攻击面,导致安全团队难以全面测绘AI资产链路。中国是全球最早规模化落地AI智能体的市场,业务提速与安全管控不同步的矛盾更加突出,传统安全工具对Agent类系统存在天然盲区。

新版《网络安全法》落地“双罚制”,安全事件发生时企业与直接责任人均将面临高额经济处罚。监管要求对AI安全提出硬性约束:所有AI决策、智能体操作必须形成完整可审计链路,并且要区分人工指令与AI自主操作,黑盒式AI安全产品无法满足监管举证需求,企业的CISO普遍排斥无溯源能力的AI工具。《数据安全法》、国标GB/T 45577-2025数据风险评估规范等要求AI数据管道、智能体数据流转必须完成动态数据映射、分级管控、持续风险评估,单纯纸面隐私政策已无法应对监管核查。这就要求企业必须搭建可落地、可验证的数据安全管控体系。

技术迭代叠加国内技术自主政策,政企、关键行业全面推进硬件、开源组件、国产密码自主可控,后量子密码、本土AI安全网关、容器安全等本土化技术迎来发展窗口期。技术自主带来双重安全影响:一方面国产AI安全工具、本土密码、容器防护等降低了供应链攻击风险;另一方面,企业需要同步完成AI智能体本地化改造,本地化部署、本地数据处理成为采购AI安全产品的硬性门槛。

透视智能体安全技术发展新趋势

在Gartner最新发布的《2026中国网络安全技术成熟度曲线》中,新增了代理型AI网络安全、AI网络安全测试、机器身份与访问管理、后量子密码、容器安全五大技术。

代理型AI网络安全专门应对目标驱动型、多智能体系统风险,其核心能力为智能体动态权限管控、跨工具调用可视化、自主行为阻断。由于代理型AI长期处于无监督运行状态,多智能体协同会指数级放大安全风险,而传统应用安全、身份工具无法覆盖其复杂编排流程。代理型AI网络安全是AI生产落地必备的配套防护。Gartner认为,代理型AI网络安全市场处于萌芽阶段,厂商产品碎片化,暂无一体化平台,企业只能通过AI网关、行为审计工具组合实现基础管控。在安全运营方面已经十分成熟的头部企业可以尝试部署代理型AI网络安全解决方案,而中小机构则不宜大规模采购。

AI网络安全测试针对提示注入、模型投毒、智能体越权、向量库泄露等AI特有攻击提供自动化攻防测试,用来填补传统SAST/DAST工具空白。AI网络安全测试的核心价值在于安全左移,即在AI智能体上线前完成全维度风险验证,以满足监管AI风险评估要求。目前,国内厂商的产品以私有化部署为主,适配开源模型、本地智能体开发环境,但标准化测试模板仍不完善,因此更适合研发密集型企业进行小规模试点部署应用。

机器身份与访问管理处于曲线的期望膨胀期,是当前市场炒作热度最高的赛道之一。随着API、AI智能体、物联网设备、工业机器账号数量远超自然人,传统以人为核心的IAM体系失效,机器身份需独立完成注册、动态密钥轮换、最小权限分配和生命周期回收。Gartner的调研显示,当前企业大量试点机器身份产品,但普遍存在预期虚高问题。多数厂商仅提供基础账号管理,而缺乏多智能体跨域认证、行为基线分析能力。预计未来一两年内,随着行业泡沫破裂,大量同质化产品会被淘汰。企业现阶段可以开展小范围试点,但要避免全平台替换投入。

云原生、微服务等是AI智能体底层运行的基础。当前,容器安全正处于稳步爬升复苏期,其生命周期安全与DevSecOps的全链路融合已逐渐成型,可实现CI/CD流水线自动化扫描、运行时隔离,降低智能体底层供应链、容器逃逸风险。预算有限的企业可以优先落地容器安全。

后量子密码针对量子计算破解SM2/SM9本土密码的“先窃取、后解密”攻击,契合政府、金融、工业AI物理设备场景。目前国内尚处于标准征集阶段,仅关键基础设施企业提前布局,普通企业短期内无需大规模投入。

除了上述重要的变化以外,还有一些与AI相关的安全技术应用也在影响企业的业务创新与发展。

在曲线中,网络安全AI助手在2025年还处于期望膨胀的高点,今年热度明显回落,标志着市场已完成了去泡沫化。之前,有些厂商过度宣传AI替代安全人力,但在实际落地中出现了幻觉、精准度不足、Token成本过高等问题。当前,行业用户变得越来越“实际”,已从关注功能转向MTTR、漏洞误报率、报告效率等可量化指标。

处于技术萌芽期的AI网关是从传统API网关延伸而来。作为企业收敛所有智能体、大模型访问的统一入口,它管控着数据上传、提示过滤、调用限流、身份认证,是预算有限的企业管控影子AI的最优单点工具。为避免单点故障,在实际部署应用过程中,核心业务系统的对接需做好冗余设计。

处于期望膨胀期的数据风险评估适配智能体数据流转监控,可识别AI数据管道泄露、跨域违规传输,能有效测绘企业影子AI数据流动轨迹,快速定位员工私自调用外部智能体带来的数据风险。

通过上述分析可见,在智能体全面落地的新阶段,网络安全风险不再局限于传统数据泄露与网络攻击,自主化、非确定性的AI行为正在催生全新安全风险,让企业安全治理面临前所未有的结构性挑战。

陈延全表示,目前市场上针对智能体安全的产品高度碎片化,四类智能体(嵌入式/独立/目标导向/多智能体)的管控需求完全割裂,不存在覆盖全场景的统一平台。当前企业普遍存在“先上线AI、后补安全”的问题,业务部门、员工私自部署各类智能体,数据在无审计状态下流出。而依靠终端DLP、网络日志仅能发现部分Web端影子AI,本地化私有智能体、第三方外包智能体难以测绘,成为数据泄露高发渠道。另外,企业安全预算未能同步匹配AI扩张速度,多安全技术难以同步落地。

由于智能体可以自主完成订单、数据查询、资金类业务操作,一旦出现劫持、幻觉越权,将直接触发监管处罚。多数企业AI治理流程缺失,没有建立统一AI资产台账、全链路审计日志,因此区分人工/AI操作难度极大,很难满足“双罚制”下的责任追溯要求,形成“业务走在前面,安全管控滞后”的结构性矛盾。

企业分层落地应对策略

如何应对智能体时代网络安全的新挑战呢?Gartner给出了建议。

第一,建立标准化技术筛选漏斗,合理分配有限安全预算。Gartner建议,企业可以从业务风险、技术成熟、投入回报、本地化合规四个维度综合考虑安全体系的建立。举例来说,从业务风险的维度,企业可以优先管控直接处理财务、客户、政务敏感数据的AI智能体,相关的配套工具优先采购;而仅用于办公辅助、无核心数据流转的智能体延后投入。从技术成熟的维度,在曲线中处于稳步爬升期的容器安全、SASE/SSE可以作为基础底座先行落地;处于期望膨胀期的机器身份、数据风险评估可以进行小范围试点;而处于萌芽期的代理型AI网络安全、AI测试则更适合研发头部企业进行布局。

第二,用户可以根据应用场景进行安全方案的选择。针对企业大量使用飞书、Copilot等嵌入式SaaS智能体的场景,可以率先落地安全服务边缘(SSE)以对员工与“影子AI”和企业授权使用的SaaS AI应用的交互进行监控和防护。针对企业自建目标导向、多智能体私有化业务系统,可以优先部署AI网关,统一收敛所有模型、智能体调用流量,完成提示过滤、数据脱敏、调用限流、异常行为的实时阻断,一站式管控自研智能体对外交互风险。对于以自研大模型、本地独立智能体为主的环境,可以采用机器身份与访问管理(Machine IAM), AI网络安全测试+Agent行为审计,管理工作负载之间的非人交互、策略创建与证书/密钥发放,上线前完成对抗性测试,运行阶段全链路记录智能体工具调用、推理日志,以满足监管审计举证的需求。

第三,依托AI TRiSM框架,搭建全生命周期智能体安全治理体系。AI TRiSM框架是平衡AI创新与安全管控的核心方案,能够有效解决合规追溯、影子AI、自主行为失控等痛点。具体来说,加固传统安全底座,完成容器安全、SASE、基础数据DLP部署,筑牢智能体运行基础设施,拦截供应链、网络侧基础攻击;实现AI数据治理,落地数据风险评估工具,完成全企业AI资产盘点,建立智能体数据访问基线,区分可输入/禁止输入智能体敏感数据,从源头遏制数据泄露;建立统一AI治理机制,搭建AI审批台账,所有智能体上线需安全、法务联合评审,明确每一个Agent业务负责人,固化操作审计、风险定期复盘流程,规避黑盒AI决策带来的追责难题;实现AI运行时实时管控,配套代理型AI安全、行为审计工具,对智能体自主操作设置熔断开关,限制Token消耗、跨系统操作范围,阻断深度伪造、工具滥用类攻击。

第四,分阶段落地,平衡创新与安全投入。企业应视技术成熟度与实际应用需求,按照满足当前最迫切的业务需求,以及中长期发展规划,有节奏、有针对性地部署AI安全解决方案。如容器安全、SSE/SASE、数据风险评估是要优先部署的,同时还要采购轻量化AI网关或行为审计工具,以管控核心业务智能体。作为中长期规划,像机器身份、AI网络安全测试等要在其市场成熟后再进行规模化部署,以搭建一体化智能体安全管控平台。在实际应用过程中,用户应量化MTTR、误报率等验收指标,尽量杜绝概念型产品采购。

AI业务创新与网络安全韧性之间的平衡

陈延全表示,当前企业需理性看待AI安全体系建设,无需盲目倾斜预算、跟风加码AI安全治理投入,实际上整体安全投入并未出现AI安全远超传统安全的显著趋势。传统安全仍是企业网络安全的基本盘,数据资产梳理、分类分级、合规评估、安全运营与开发测试等基础传统安全工作,是企业必须持续落地的核心工作,不会被AI替代。从落地实践来看,AI仅为安全体系中的辅助工具,现阶段多数企业更倾向于务实布局AI安全。AI安全多数能力可与传统安全技术融合升级,仅AI运行时检测防御、顶层AI治理具备独特性。

综上,企业安全建设应秉持平衡务实的原则,坚守传统安全底座筑牢基本防线,按需轻量化拓展AI安全能力,优先落地高风险的AI运行防护,稳步推进适配自身业务的AI治理,避免重AI、轻传统的投入失衡问题。

Gartner《2026 中国网络安全技术成熟度曲线》清晰揭示出,安全建设不再是单一工具堆叠,而是要围绕智能体自主决策、机器身份、AI 特有攻击面重构全链路防护体系。企业应跳出盲目追逐新技术的误区,以监管合规、业务风险、投入回报为标尺,依托AI TRiSM治理框架分层落地,优先补齐影子AI管控、智能体访问收敛、全链路审计等短板,在AI业务创新与网络安全韧性之间找到平衡。

郭涛
以“云”为基,以“数”为魂,以“智”为道,新IT,新经济。

特别声明:文章版权归原作者所有,文章内容为作者个人观点,不代表大咖秀专栏的立场,转载请联系原作者获取授权。(有任何疑问都请联系wemedia@yesky.com)