一副眼镜解锁19款手机的视频,瑞莱智慧RealAI发布的人脸识别安全研究引发社会热议。这一破解原理到底是什么?它的危害边界有多大?面对大规模的广泛应用,人脸识别的安全性如何保障?普通公众又该如何该保障个人隐私安全?在近期央视新闻《法治在线》、广东卫视3·15栏目的专题深度报道中,RealAI团队给出了相应的解答。

央视新闻《法治在线》专题报道

广东卫视3·15晚会专题报道

一、背后源自深度学习算法的结构性缺陷

RealAI技术人员解释到,攻击背后使用的是“对抗样本”技术,通过结合攻击者与攻击对象的图像特征自动生成一张“干扰图案”,对于普通人来说,肉眼能明显识别戴上眼镜的攻击者与攻击对象是有区别的,但算法看来两者的特征数值是相近的。

而“对抗样本”存在的根本性原因在于深度学习算法的结构性缺陷,黑盒的深度学习导致人类难以理解它的内在逻辑,即便是设计开发人员也无法理解和安全控制算法的输出、算法的执行逻辑,这就导致必然会有一些执行过程跟设计者的意图不吻合,也就给恶意攻击留下了空间。

除了手机的面部解锁,一些常用的人脸识别门禁系统、考勤打卡系统,包括线上APP的身份认证系统也存在相似的安全漏洞。但这也并非是人脸识别技术的专属,RealAI研究人员表示,这本质上是深度学习方法的漏洞,语音识别、文本处理等技术都可能存在被对抗样本攻击的可能。

二、理性看待人脸识别应用,加强技术防护必不可少

虽然对抗算法的研发存在较高的技术门槛,一般的黑灰产从业者难以掌握,但如果存在黑客恶意开源,对抗样本实现的成本就变得非常低,将可能导致财产损失、隐私泄漏等威胁。

但正如清华大学人工智能研究院院长张钹院士所说,面对人脸识别应用也切不可因噎废食,应该在隐私保护、技术便利和公共安全三者之间找到平衡点。

在治理手段的选择上,“技术”和“制度”两个层面需要同步推进。一方面是从法律法规、道德伦理层面去限制或者制约人类对人工智能技术的误用或者滥用,第二个方面从技术层面去发展新的技术,克服人工智能算法本身的不安全性和脆弱性。

RealAI目前开展的一系列算法攻防研究,就是采用“以子之矛、攻子之盾”的技术路线,通过攻防对抗不断升级,演练出针对性的防御技术,比如打造出类似于人脸识别系统的防火墙,应用到现有的人脸识别应用上,就可以先于黑客发现并修补漏洞,为人脸识别筑起安全防线。对于普通公众而言,RealAI技术人员则表示,无需过度恐慌,加强并重视日常生活的安全防护工作,比如不在社交媒体平台上发个人正面清晰照,保护好身份证号等重要信息,以及尽可能选择安全级别更高的人脸识别设备。

最后,针对人脸识别这类前沿技术的治理,推动相关技术标准、增强行业自律至关重要,作为安全人工智领域的代表性企业,RealAI也依托自身技术优势, 与公安部、工信部等相关单位开展合作，积极参与到行业规范的工作中,为推动人工智能产业可持续发展贡献力量。