人脸识别防护系统:常见绕过方式与防御手段分析 - 嘶吼 RoarTalk – 网络安全行业综合服务平台,4hou.com

人脸识别防护系统:常见绕过方式与防御手段分析

爱加密 技术 2024-02-05 14:23:05
35969
收藏

导语:人脸识别防护问题已成焦点。

近日人脸识别防护问题已成焦点,嘉峪关网警、大连市银行协会发布信息,称市民A先生与不法分子视频通话期间手机被犯罪分子控制,未接收到验证码,通话后手机收到消息提示,银行定期存款已被销户,银行人脸识别系统未发挥效果,资金已被转出。经侦查后发现,犯罪分子事先获取了A先生的身份证影像信息,并通过技术手段合成了短视频,使用该视频成功应对了银行大额资金转账时的人脸识别验证。

目前人脸识别防护技术存在明确的安全隐患,人脸信息发生泄露的风险主要存在于收集、存储、使用、加工、传输,其中使用、加工、传输需要金融机构等厂商提高重视度,收集、存储环境也需消费者提高警惕心。消费者不应随意同陌生人的视频聊天、下载来源不明的App、随意参与App内的录制视频/声音活动,北京互联网法院综合审判三庭副庭长曾表示“一些营销短视频、音频的商家经常在未经当事人许可和同意的情况下进行换脸、换声操作,以此获利”,降低人脸信息的收集、存储环节的安全隐患。消费者应保护好银行卡号、密码、身份证等个人信息;人脸、指纹等个人生物信息,发现可疑行为及时报警。

个人生物信息一旦泄露便后患无穷,尤其是人脸信息,上述案例中的收集人脸信息、通过技术手段攻击人脸识别防护系统,攻破后进行盗取转移资金等违法行为的犯罪链已较为成熟。通过AI技术攻击人脸识别防护系统的手段可分为深度伪造攻击与对抗样本攻击。深度伪造攻击是将一个人的面部表情移植到另一个人照片的面部,从而让被移植人照片活化起来;对抗样本攻击是在人脸照片上添加难以察觉的微小扰动使人脸识别系统误判。本次案例中,不法分子极可能是利用视频通话采集受害者人脸信息并基于深度伪造攻击手法骗过银行的人脸识别防护系统,窃取用户存款,此类案件层出不穷。

不法分子的攻击目标早已不局限于金融系统,政务系统也是重点攻击目标之一,根据天津网信办报道,不法分子获取公民身份信息和人脸照片后,利用AI技术破解相关政务APP的“人脸识别”认证,在当事人毫不知情的情况下,几分钟就能利用他人信息注册公司。

针对人脸识别防护系统的攻击与防御,是一场双方都在不断升级的攻防对抗,目前针对人脸识别防护系统的攻击手段已经过多次进化。多数人脸识别算法厂商聚焦于人脸特征提取、人脸差异,对深度伪造攻击、对抗样本攻击及针对应用的攻击的防护能力极为有限,为此业内新增了三类检测功能,但均有一定局限性。

1、增强活体检测模块,以识别对抗眼镜及表情操纵攻击此种防御方式对于屏幕重放攻击有一定的防御效果,但是若采用摄像头绕过方式即可绕过,对于安全加密强度不够的APP,采用公开手机模拟器即可绕过摄像头,直接将准备好的伪造图像传输给后台人脸比对算法。

2、增强人脸特征比对算法,存在异常即拦截该方法本质上是提升了比对算法的阈值,在提升自身安全性的同时,也降低了对于用户的友好体验,往往要进行反复拍照、核验才能通过比对,并不能从根本上解决人脸伪造的攻击方式。

3、增加脸部异常结构的识别该方式,旨在防范对抗眼镜样本的攻击方式,但对抗样本的攻击方式千变万化,可以是眼镜形式外的任何形式,此方法并不能解决对抗样本本身带来的攻击危害。

此外攻击者还可以通过注入应用破坏系统内核利用接口防护不当与设计缺陷尝试绕过人脸识别防护系统的活体检测环节。

1、注入应用绕过人脸识别防护系统活体检测攻击者通过注入应用的方式来篡改程序,绕过活体检测,使用一张静态照片就可以通过人脸识别。还可以通过查看当前APP的数据结构,修改参数来篡改活体检测完成后的图片,从而达到活体检测由任意一个人完成都可以通过的效果,这样只需要拿着被攻击者的照片来通过静态人脸识别,然后其他人眨眼抬头来破解活体检测。

2、破坏系统内核绕过人脸识别防护系统活体检测通过修改Android系统源代码,在底层直接修改并返回相关函数的调用结果。劫持摄像头,指定视频存放位置,在活体检测后替换人脸识别图片、视频,绕过活体检测。

3、利用接口防护不当和各种设计缺陷部分APP在使用上传人脸图像时,没有对图像数据进行签名,导致图片可以被工具截获然后篡改,而有的则是在数据报文没有加入时间戳,可以通过重放数据报文的方式来实施破解。有些人脸识别的成功与否,是通过返回报文中的一个阈值来决定的,相当于考试中的“及格分数”,如果人脸匹配度超过该阈值就可以通过,不幸的是,部分APP没有对这个返回报文加签名,导致该报文可以被篡改,最终通过调低该阈值的方式破解了它的人脸识别防护系统。人脸识别技术正面临着日益严峻的新型攻击威胁和重大财产损失的风险,想提高安全性须采用成体系可应对上述各类攻击手段的人脸识别安全方案。为加强安全防护能力,爱加密推出了“查、打、防”三位一体的人工智能安全体系、爱加密人脸安全综合防护系统,从人工智能应用的生命周期进行检测,治疗和预防。

image.png

爱加密人脸安全综合防护系统可全面加固任意人脸识别系统。通过集成终端风险感知、业务端实时伪造检测、运营风险挖掘三大类功能,实现在人脸核身、在线视频等典型场景中有效抵御对抗样本攻击、深度伪造攻击等新型安全风险,大幅提升人脸识别系统的安全性。

image.png

爱加密将持续关注人脸识别防护安全,在此呼吁各大机构提高对人脸信息的重视度,加强对个人隐私信息的保护力度,提升人脸识别防护系统的安全性。爱加密通过十余年技术积累和丰富的行业服务经验研发,助力人脸识别防护系统的安全运营,未来将继续凭借自身技术优势、业务资质优势、产品方案优势等,守护互联世界。

如若转载,请注明原文地址
  • 分享至
取消

感谢您的支持,我会继续努力的!

扫码支持

打开微信扫一扫后点击右上角即可分享哟

发表评论

 
本站4hou.com,所使用的字体和图片文字等素材部分来源于原作者或互联网共享平台。如使用任何字体和图片文字有侵犯其版权所有方的,嘶吼将配合联系原作者核实,并做出删除处理。
©2022 北京嘶吼文化传媒有限公司 京ICP备16063439号-1 本站由 提供云计算服务