天极大咖秀

登录 | 申请注册

2026网安周访谈:AI智能时代,安全风险变了

丁道师 2026-09-23 阅读: 4,051 次

2026年国家网络安全宣传周正在全国各地开展,今年的主题是“网络安全为人民,网络安全靠人民——智能时代 网安护航”。

相比往年,今年主题里多了“智能时代”四个字,这四个字不是随便加的。

过去几年,AI技术加速渗透到生活的方方面面,从手机里的语音助手到街头的智能摄像头,从企业用的AI编程工具到家里的智能门锁。技术越方便,安全风险也跟着变了。

以前的安全问题大多是电脑中毒、木马入侵,现在骗子不碰你电脑了,直接骗你本人。AI换脸、AI换声、数据出境、开源投毒,这些新问题正在成为普通人需要面对的现实。

在这样的背景下,我近期做客了北京新闻广播《科技新视点》节目,与主持人围绕智能时代的网络安全新风险、AI诈骗防范、数据安全保护等话题展开了深入对话。以下为访谈实录。

1、主持人:今年网安周的主题是“网络安全为人民,网络安全靠人民——智能时代 网安护航”。今年主题加了“智能时代”四个字,您觉得和往年比,普通人面临的最大变化是什么?能不能用一个您身边的小例子来说?

丁道师:相比过去,“硬”的网络安全环境好太多了。我们以前总听说“电脑感染病毒了”“被植入木马了”,这种情况大幅度减少,取而代之的是更“软”的骗局。骗子不再攻击你的电脑,而是直接攻击你本人。他们知道你叫什么、住哪里、最近买了什么东西,然后冒充快递客服、电商平台甚至公检法,打电话说你包裹丢了要理赔、说你涉嫌洗钱要配合调查。绕来绕去,最后就一件事,让你把手机验证码告诉他们。

另外,AI时代还出现了新的诈骗方式。你接到的诈骗电话,那头的声音可能根本不是真人,是AI合成的。

我举一个发生在我身边的案例。2025年国庆节放假期间,我那上小学二年级的侄儿差点被电信诈骗。他玩手机游戏时,游戏里有人联系他,说送他游戏皮肤,让他加一个抖音账号。加上之后,骗子又让他下载一个名叫“飞鸽”的远程控制APP,说要给他指导操作。我侄儿其实已经有些怀疑了,但骗子马上威胁他:“千万别告诉任何人,尤其是家长,要是说出去,马上就让公安局来抓你!”被吓坏的孩子按照指令,偷偷拿着手机溜出家门,在小区西北角的墙角草丛里蹲了下来。好在输入验证码的关键时刻,全家人下楼找他,在一个草丛里找到了他,防止了一场骗局。

2、主持人:您说的这些变化,落到我们每天用的手机和电脑上,第一个要说的就是软件。据新华社报道,此前有两款全球程序员广泛使用的开源工具被黑客植入恶意代码,波及超过一万家组织。普通人听不懂“开源供应链”,您能不能用生活化的比喻解释一下,这跟我们手机上的APP有什么关系?我们怎么判断一个APP能不能放心用?

丁道师:什么是开源软件,简单来说代码是公开的,任何人可以编译、转译、传播。它的好处就是开放共享,缺点就是太开放了,带来了各种安全隐患。最典型的就是我们现在使用的手机,两个阵营,一个是闭源,代表就是苹果。一个就是开源,代表就是各大安卓阵营的手机,总体安全性不如苹果。

那普通人怎么判断一个APP能不能放心用?我自己的习惯很简单,就几条。

第一,只在官方应用商店下载。苹果的App Store,华为、小米、OPPO、vivo这些手机自带的应用商店。绝对不去网页上搜一个APK就装,那种风险很大。

第二,装之前看权限。一个手电筒APP要读取你的通讯录,一个计算器要你的短信权限,一个壁纸软件要你的定位,这种直接划走,别犹豫。它要这个权限干嘛?想都不用想,肯定没好事。

第三,看开发者是谁。大厂的不一定百分百安全,但起码跑得了和尚跑不了庙。那些听都没听过的开发者,名字一串乱码的,尽量别碰。

第四,任何APP让你输入验证码、银行卡号、身份证照片,立刻停下来。正规APP不会在正常使用流程里跟你要这些东西。要了,就是有问题。

3、主持人:软件是看不见的“零件”,那看得见的硬件方面,现在家里摄像头、门锁、路由器越来越多。去年有安全机构披露,某品牌多款智能摄像头存在漏洞,攻击者只要跟你在同一个网络下,就能偷看画面。您家里装智能摄像头或智能门锁吗?装之前会做什么安全设置?

丁道师:我早在十几年前就安装过各种智能门锁、摄像头、智能音箱等等产品。该怎么保障安全,我自己的习惯是这样的。

首先,尽量选择大品牌。不是说大品牌一定不会出问题,最起码大品牌的安全团队比小作坊更强,出问题响应更快。

另外,所有智能设备的初始密码,必须改。而且不能用生日、手机号、123456这种。我一般会用大小写字母加数字加符号的组合,每个设备都不一样。

还有就是摄像头不对着私密区域。另外,我的笔记本电脑,我会把摄像头的物理开关用上,人在家的时候直接关掉。软件关不如物理关,这个道理很简单。

智能门锁我还多一个习惯,指纹、密码、机械钥匙,三重备份。我不依赖某一种开锁方式。万一指纹失灵、密码被偷看、网络被黑,我还有机械钥匙兜底。而且我从来不用远程开锁功能,那个功能方便是方便,但风险也大。你想想,你手机要是丢了,别人是不是就能开你家门?

4、主持人:智能设备越来越多,下一个趋势很可能是AI手机,据说它能帮我们操作手机、自动完成任务,但代价是要把底层权限放开,有人叫它“上帝权限”。您怎么看这个趋势?普通人该怎么在享受便利的同时守住安全底线?

丁道师:这个趋势我一直在关注。去年荣耀推出Magic8的时候,我就写过,AI原生手机是未来几年智能手机行业确定的大方向。后来豆包手机出来,我也第一时间试了。这些手机能干什么?你对着手机说“帮我在全平台比价下单”,它就能自己在淘宝、京东、拼多多之间来回跳转,比价、领券、最后停在最低价页面等你确认。你说“帮我把日程里的会议改到下午三点”,它自己就改了。这些功能确实方便,方便到你一旦用过就回不去了。

但代价是什么?它要拿到你几乎所有APP的底层权限。你的支付信息、聊天记录、日程安排、位置数据,它全都能碰。有人管这个叫“上帝权限”,我觉得这个说法不夸张。

所以,我们用AI手机,权限要分级给。不是一上来就把所有权限都交出去。你先让它管日程、管提醒、管比价这些不敏感的事。涉及到支付、转账、改密码,必须你本人操作。任何AI都不能替你花钱,这条线不能破。还有敏感操作必须人工确认。它帮你下单可以,但最后付款那一步,得你来按。

5、主持人:也是随着科技发展,近年来还有个高发的安全隐患是AI换脸或是换声。2025年武汉警方破获了一起利用AI换脸入侵企业系统的案件,犯罪团伙用AI换脸破解人脸识别,篡改了企业账号密码。还有据央视报道,湖北黄石一位老人接到“孙子”电话,声音一模一样,说撞了人急需赔钱,老人取了6万现金交给骗子。您觉得AI诈骗离普通人有多远?您自己接到过可疑电话或视频吗?怎么判断?

丁道师:AI诈骗离普通人一点都不远,已经是现在进行时。

武汉那个案子,犯罪团伙用AI换脸骗过人脸识别,直接改了企业账号密码。黄石那个老人,电话里“孙子”的声音一模一样,取了6万现金亲手交给骗子。声音素材哪来的?就是孙子平时发在社交平台上的语音。

我自己也接到过可疑电话。对方自称电商客服,能报出我的订单号、收货地址、买了什么。我就问了一句:你说你是官方客服,那我上次投诉是什么时候,投诉的哪家店?对方愣住,挂了。因为真正的客服后台能看到这些记录,AI能合成声音,但它不知道你过去打过什么交道。

怎么判断?我总结几条最管用的。第一,挂断,打回去。用你自己知道的官方电话核实,别用对方给的号码。这一条能挡掉九成骗局。第二,问一个只有真人才知道的事。比如上次吃饭在哪家店,我生日是哪天。AI能模仿声音,但不知道你们之间的私密记忆。第三,但凡催你转账,一律先停下来。骗子最爱用紧迫感逼你,你越急,他越高兴。第四,视频也不一定安全。AI换脸能做到实时替换。让对方做一个你指定的动作,比如举左手转一圈、摸右耳朵。实时响应随机指令,目前还很难做到天衣无缝。

6、主持人:除了电信诈骗,还有一个新问题:很多网友喜欢用国外的大模型,聊天、写东西的时候无意中输入了一些国内敏感信息,数据就传到国外去了,引发了广泛关注。您怎么看这种现象?普通人用AI工具时,怎么判断哪些数据不能往里输?

丁道师:我国网络安全法、数据安全法、个人信息保护法等法律法规,对境内数据出境有明确要求。未经安全评估、合规审批,擅自向境外提供重要数据、敏感个人信息,本身就不符合法律规定。很多境外大模型服务器部署在海外,用户输入的内容会被采集存储,一旦包含单位内部资料、未公开业务信息、个人敏感信息等,数据就直接流向境外,有可能被留存、分析甚至泄露。

普通人怎么判断哪些数据不能往里输?我的原则很简单,凡是能证明你是你、能拿来花你钱、能拿来卖你公司的东西,一律不输。身份证号、银行卡号、密码、验证码、家庭住址、人脸照片、私密聊天记录、公司内部文件、未公开的经营数据,这些都不要往任何AI工具里放。你输进去,就等于交出去了。真要处理,先把关键信息抹掉,或者用本地部署的工具。记住一句话,AI再方便,也没方便到让你把家底都交出去。

7、主持人:识别AI骗局,今年有了新工具。5月国家反诈中心APP上线了“AI内容鉴定”功能,上传可疑图片、视频、音频就能检测是否AI生成。您试过吗?这类“用AI对付AI”的工具,现阶段是否管用?

丁道师:不一定完全管用。举个例子,用AI很容易给一张图片打上马赛克,但是AI无法把一张打了马赛克的图片精准还原。我自己测试了下这个服务,有时候检测是准确的,有时候检测是不准确的。当然,这种服务有总比没有要好。

其实,最好的防线不在检测,在源头。2025年9月四部门已经出了《人工智能生成合成内容标识办法》,要求AI生成的内容必须“亮明身份”。标识到位了,很多骗局根本走不到让你上传检测那一步。

8、主持人:工具之外,今年还有一部新法开始施行。新修订的《网络安全法》今年1月1日起施行,首次新增“人工智能安全与发展”条款,关键信息基础设施运营者造成特别严重后果的最高可罚1000万元。普通人如何提高对这类新法的敏感性?

丁道师:普通人提高对新法的敏感性,不用去背法条。记住几件事就够了。

法律终于把“AI安全”写进去了。新法第二十条专门加了人工智能安全与发展的条款。一方面支持AI研发,另一方面要求完善伦理规范、加强风险监测和安全监管。翻译成大白话就是:AI可以搞,但不能乱搞。你作为普通用户,以后遇到AI生成内容没标识、AI客服泄露你隐私这种事,心里要有个数,法律是站在你这边的。

9、主持人:很多中小企业和普通人还是觉得风险离自己很远。据报道,南昌高新区的“数智助企”工程用AI值守帮企业修复了850个漏洞、挽损超1.5亿元。这说明中小企业也是攻击目标。但很多普通人觉得“我又不是名人,黑客看不上我”。您怎么看这种心态?

丁道师:你觉得自己没钱没名,黑客看不上你。但骗子扫号是批量的,AI自动跑脚本,一天能扫几万个号。你不值得单独攻击,但你值得批量收割。一个手机号在黑市上卖几毛钱,但一个验证码能刷走你卡里的钱。这笔账,骗子算得比你清楚。

10、主持人:今年网安周,各地也在开展网络安全云展览和“七进”活动,金融、电信网点设咨询台、发知识手册。您有没有关注到让您印象深刻的防范案例或工具?对老人、孩子、上班族来说,哪个群体最需要补课?普通人怎么参与这些活动,能获得什么实在的帮助?

丁道师:应当说这几年的网络安全周推出的各类网络安全宣讲,已经下沉到非常基层的组织治理层面。我在各地走访时看到,不少县城、乡镇、乡村,在网络安全周期间都会开设网络安全宣讲点位、摆放宣传物料,学校、社区里相关宣传也随处可见。就拿今年来说,我们小区物业发放了网络安全、防范电信诈骗宣传手册,营业厅内也张贴了宣传海报。我觉得这些宣传工作做得十分到位,真正深入人心。

如果要说哪类人群的网络安全知识更需要加强普及,老人和孩子是重点。老年人手里有积蓄,但网络防范意识薄弱,近些年大量电信诈骗、金融诈骗案件,受害群体大多是缺少家人陪伴的中老年人。而未成年人平时喜爱玩网络游戏、使用各类社交软件,也很容易被不法分子盯上。

丁道师
资深互联网观察家、媒体专栏作家

特别声明:文章版权归原作者所有,文章内容为作者个人观点,不代表大咖秀专栏的立场,转载请联系原作者获取授权。(有任何疑问都请联系wemedia@yesky.com)