天极网大咖秀

跨越内容到行为:AI原生安全体系织就多层风险防御网

郭涛 2026-11-16 阅读: 186 次

在世界互联网大会上,“首发”是个有分量的词。它不奖励重复,只认第一次。

在“互联网之光”博览会上,网易智企正式对外发布基于双向AI安全架构的AI原生安全产品体系,这一成果斩获博览会“首发成果证书”。这张证书真正值得追问的,不是荣誉,而是整个产业正在面临的现实困境:AI正在从单纯对话问答,转向可以调用工具、操作系统的智能执行体,原有安全防护逻辑已经跟不上风险的演变。

当AI从“会说话”进化到“会做事”,产业亟需一套适配AI运行全链路的原生安全方案。这正是网易智企旗下可信安全底座易盾AI原生安全产品体系诞生的背景。

AI从“说”到“做”,风险换了赛道

“手机导航走错了,重新规划就好;自动驾驶开错了路线,后果就完全不同。”网易智企副总经理,易盾业务负责人朱浩齐用这个对比开场。

差别不在技术在后果:AI说错一句,最坏是返工;接进业务系统后,一次误判就是一次真实操作。

实际中,风险已从“纯信息域的数字内容”,扩展到“有真实世界反馈、有物理交互”的领域。朱浩齐指出:“在信息域里,我们有完整的数据可以判断;而AI做事,往往上下文很长、是片段式的,还带着真实世界的反馈,再走下一步长链路动作,检测难度非常大。”

变化体现在三个层面:风险对象从内容、账号、设备,延展到AIGC内容、深度伪造、自动化黑产、模型越狱、敏感数据泄露、Agent越权执行;业务边界上,AI进入营销、客服、办公、研发、知识库、身份核验等核心链路;安全诉求则从“一个检测接口”,升级为可识别、可决策、可处置、可审计、可持续运营的体系化能力。

三者叠加,风险的“形状”也变了:内容风险、交互风险、身份风险、业务操作风险、执行行为风险,沿一条链路依次排开。过去的安全是守住门口,现在门里的每一间屋子都可能暗流涌动。

这也正是单点工具失灵的地方。内容审核管不了越权调用,人脸活体管不了Agent把数据传给外部工具,设备指纹管不了模型被一句提示词绕过。要覆盖多层风险,能力必须形成体系。易盾AI原生安全体系的起点就在这里。

“原生”两个字的分量

“AI原生”这个词,现在业内用得似乎很随意。朱浩齐还是用汽车作比喻:“把燃油车改造成新能源车,拆掉发动机、装上电池和电机,车也能跑,但传动轴、变速箱、挡杆都还留着。真正的新能源车是从零开始重新设计的。在原有产品上叠加AI能力,应对AI风险仍是‘打补丁’的旧思路。”

“从零设计”有两层含义。

对内,应对风险的方式变了。过去靠专家经验手工改规则、调参数,跟不上AI驱动的攻击。现在把安全人员的经验训练进模型,由安全智能体自动分析攻击样本,生成规则、策略与模型,自己验证效果和召回率,再帮助业务上线。人从写规则“退到”验收结果。

对于易盾来说,最难的不在于算法,而是如何把经验变成流程。同一个风险事件交给三位资深安全人员,方案各不相同,但都有效。朱浩齐表示:“我们要把经验抽象成标准流程,让AI能学、能复现。”他形容这个过程“做得比较痛苦”。但可观测、可复制、可验证、可测量,是必须跨过的门槛。

对外,安全能力要深入AI应用的形态。为新能源车设计的动能回收装置,装在燃油车上没有意义。大模型安全围栏、Agent Guard等,也只有嵌进模型调用与工具执行的链路中才成立。

对内对外两条线合起来,就是双向AI安全架构:AI for 安全,用AI提升安全的能力与效率;安全 for AI,守住AI的合规与可控。风险识别、实时防护、评测决策、持续运营是两者共用的能力。内容理解与行为治理则是贯穿其间的基线。只有更好地理解内容,才知道模型在看什么、说什么;只有理解行为,才知道Agent该不该做。

这个闭环不是事后总结。易盾在两三年前就提出了“用AI治理AI”,并且先在自身研发与产品里跑通,才对外宣讲。“在AI安全上,我们没有历史包袱,可以推倒重塑。”朱浩齐如是说。易盾AI原生安全体系正在两个方向上,通过实践不断磨合,并相互作用,最终形成一股合力。

为什么非如此不可?根源在于攻防节奏已经不对等。公开报道中已有黑客借AI攻破银行金融系统,智能体也被用来扫描漏洞。攻击成本被拉低、速度被拉高,若防守端还停在人工调参,差距只会越拉越大。朱浩齐表示:“要用AI来对抗,要用魔法打败魔法。”

三层布局是一张网

易盾AI原生安全体系的双向架构回答安全能力如何长出来,三层布局则回答能力如何用于风险防御上。这三层布局包括:AI内容与数据安全、AI交互与身份安全、AI模型与智能体安全。

只看描述,容易误解成三个方向的业务拼盘。朱浩齐解释说:“易盾从2016年开始做,此前在网易信息安全部也做了十几年。AI原生体系不是临时抽象,而是在数字内容安全领域,本就沉淀出内容、身份、行为三类检测点。”

三类检测点对应用户上网的三个动作:登录产生身份,使用产生行为,发言产生内容。三层并不是三道墙,而是一张错落有致的网——检测结果彼此串联,一个结论影响下一个判断。

“做安全的核心目的是用最低成本实现防御。身份已经有问题,后面的行为检测就可以省略,先把身份问题暴露出来。”朱浩齐还有个类比,“机密文件要保护,员工入职要办门禁,动财务章要被审计。这三件事对应三种能力,也对应三类风险。”

身处AI时代,这个顺序有了新的含义。内容是入口,是大模型这个“黑盒”与真实世界交互的支点,不理解内容,AI安全也无从谈起;身份是前提,AI伪造的音视频已足够以假乱真,“有图”未必是真相;行为是终点,Agent有了行为能力,黑灰产治理经验可以迁移过来。

风险是从内容到身份再到行为逐级放大的。三层体系按放大顺序排布,前一层的结果成为后一层的判断条件,这是用相对低的成本守住相对长的链路的关键所在。

三大能力筑牢AI多层防护

1.CMA审核智能体:把“人海”换成“人机”

内容层承受的是最直接的冲击。AI把营销、客服、短剧、直播的内容生产速度翻了几倍,审核压力也同时翻了几倍。

不少客户的第一反应是:接个大模型不就能审核了?“很多客户试过,后来发现这条路根本行不通。”朱浩齐说,“易盾每天处理的数据以百亿计,全送进大模型承受不了;公开数据里95%以上是正常的,用大模型筛本身就是浪费。”

CMA(Content Moderation Agent)的解法是分层:垂类小模型初筛,挡掉绝大部分正常内容;内容安全大模型结合多模态、上下文、行业知识与业务规则研判;判白判黑自动分流,争议转人工,结果回流成样本,形成“研判-分流-处置-反馈-优化”的闭环。

三项技术突破支撑起闭环:垂类模型专业研判,大小模型路由兼顾效果与成本;多Agent策略自动进化,由AI基于评测反馈持续调优提示词,在效率上显著优于纯人工试错,并可通过评测集对效果进行量化验证;领域知识动态增强,积累二十余年的规则与千万级案例通过RAG接入决策链。

效果在两个场景中被量化:某客户投诉工单月均250万单以上,“CMA智能初审+人工复核”后,平均出审时长由纯人工的35.7分钟降至12.3分钟,准确率高达99.2%,复核效率提升200%以上;短剧审核日审10万分钟以上,效率提升至70%以上,准确率99%以上,风险内容召回率提升21.4%。

2.DeepGuard人脸鉴伪:从“找痕迹”到“理解内容”

第二层是身份。远程开户、视频面签、直播连麦,只要业务在线上,“对面是不是真人”就是后面所有动作的前提。而这一前提正在被侵蚀:换脸、屏幕翻拍、纸张打印、3D面具、摄像头劫持、视频注入,攻击不再单点,而是复合的。

传统鉴伪靠“找痕迹”,比如边缘融合异常、肤质纹理不一致、光影边界不自然。短板显而易见,依赖预设特征,生成方式一更新,特征就失效。

易盾换了思路。“我们只学习正常的人是什么样子。训练过足够多的正常人样本,任何违反这个规律的,都是有问题的。”朱浩齐解释说,“先理解内容,再发现不合理之处。让模型学习真实人脸规律、结构关系与物理常识,定位不符合真实人脸的异常区域,对未见过的伪造手法保持泛化。”

在工程实践上,易盾采用的是多攻击面联合决策:Deepfake检测、AI水印识别、静默活体、注入攻击环境检测,四路信号汇入同一套判定,输出“真人通过”“伪造拦截”或“风险提示”。

DeepGuard人脸鉴伪通过了中国信通院“可信AI”人脸鉴伪专项评测,获评“卓越级”,覆盖生成式、呈现式与注入式攻击。在阶段性测试中,其屏幕翻拍与怼屏召回率达99%、精度96%,黑边类摄像头劫持95.4%,AI水印人脸图98.6%。

3.AI应用与智能体安全:管住意图、权限与行为

当Agent能读资料、访系统、调工具、持续执行,安全就必须回答四个问题:接收了什么,理解成什么,被允许做什么,实际做了什么。

内容安全看“这一次输出”,Agent安全看“这一串动作”背后的意图、上下文、权限与执行结果。恶意指令可能伪装成问答、角色设定,也可能藏在网页、文件、API、Tool或MCP的返回内容里。系统必须能够分清“任务数据”与“行为指令”。

易盾设置了五道关卡:大模型安全围栏守输入输出;Agent Guard覆盖意图校验、工具调用风险检测、权限控制与行为拦截;Skill扫描、MCP组件检测与资产发现管供应链;PII与密钥检测管外泄;评测与运营监控管持续性。这五道关卡建立在“内容安全大模型+专项小模型矩阵”之上。

员工私下接入的模型、部门自建的Agent、外部引入的Skill,构成大量“影子AI”。易盾从资产与运行两个维度进行纳管,让AI可见、可管、可追溯。

至此,三层体系与多层风险之间的对应关系更清楚了:内容层搞懂“说了什么”,身份层确认“对面是谁”,行为层盯住“做了什么”。风险沿链路放大,安全能力也沿链路排开并层层增强。

在红亭安全论坛上,易盾内容安全负责人饶晓艳分享了“企业今天该怎么干”。她按场景将风险分成三段:AIGC内容生产看“量”,知识与业务辅助看“数据”,Agent任务执行看“动作”。只在模型输出端设一道关,显然不够。

易盾的策略是层层设防:Prompt注入防护在模型调用前与上下文组装前设防,输入输出分类分级、边生成边检测、高风险撤回,落在模型层;语料清洗做隐私识别、字段级脱敏与机审,落在内容层;多模态鉴伪落在身份层。

安全“润物细无声”

在今年的世界互联网大会上,见到最多的就是机器人。“如果家里买一台有行为权、处置权的机器人,没有安全认证,我是不敢用的。”朱浩齐说,“大模型答错了可以道歉重来,机器人造成不可逆的伤害,仅道歉是解决不了问题的。”

这正是“多层风险”的题眼。内容层的错,代价是声誉;身份层的错,代价是欺诈;行为层的错,可能是物理世界不可撤回的损失。风险每上一层,纠错的余地就少一分。

易盾AI原生安全布局三层体系的价值,不在于每层都有一款能打的产品,而在于风险沿内容、身份、行为放大时,判断、拦截与追溯始终在同一条链上。前一层的结论省下后一层的成本,后一层的动作兜住前一层的漏网。

在电普及之后,保险丝、空气开关、电线绝缘成了标配,没人再专门讨论。AI安全的终局大概也是如此。“如果有一天AI技术变成像水电煤一样,成为生活中的基础能力,那我也希望易盾的安全能力能融入日常生活,最好是无感知的。”这是朱浩齐的期许,也是易盾AI原生安全体系持续演进的目标和方向。

郭涛
以“云”为基,以“数”为魂,以“智”为道,新IT,新经济。

特别声明:文章版权归原作者所有,文章内容为作者个人观点,不代表大咖秀专栏的立场,转载请联系原作者获取授权。(有任何疑问都请联系wemedia@yesky.com)

×
用户注册

 

登录 忘记密码?
×
用户登录

 

忘记密码?