AI 换脸技术已能成功骗过部分人脸识别系统,用于实施金融诈骗。人脸识别存在安全漏洞,2D 识别易被照片 / 视频破解,3D 识别也可能被伪造数据欺骗。黑产已形成相关产业链,国家与技术公司正加强防御,但用户需提高警惕,谨慎使用人脸识别。
逆天,现在 AI 换脸骗过人脸识别系统的操作,已经越来越猖狂了。


嫌疑人先是收集了 195 万多条别人的姓名、照片啥的,然后用 AI 换脸软件,绕过了某个金融支付平台的人脸识别系统, 一顿操作猛如虎,最后得手一万五。
但重点是,他试图绕过人脸识别系统的行为,最后竟然得逞了。
不查不知道,一查发现不光账号密码被改了,就连公司法人都被换了。
甚至有些人脸识别系统的算法粗糙到,不需要 AI 出马,就能轻而易举绕过去。
人脸识别系统的工作原理很简单,先用摄像头找到你的脸在哪,然后扒五官细节,把你这张脸,翻译成计算机能看懂的数据之后,再拿数据去跟你本人的信息比对。
这套流程,有两个很关键的地方,一个是数据怎么来,以及算法怎么处理这些数据。
像平时比较常见的小区门禁、公司考勤机器,用的多是 2D 人脸识别技术,是平面、静态的 。
优点是便宜,但安全性就不好说了,一张高分辨率的照片或者视频就可能糊弄过去。
相比之下,3D 人脸识别技术要比 2D 更安全。
像一些金融和政务服务,都会用到 3D 人脸识别技术,甚至还会叠加 2D、3D、红外等好几个多模态的 Buff。


不过问题又来了,如果这张脸是 AI 精心打扮过的呢?
网络安全业内人士傲客表示, 大概在 2017 年,就已经有人用 GAN(生成对抗网络)来攻击人脸识别系统了, 这么多年来一直没消停过。
生成式 AI,更是让骗子狂得有点不知天地为何物。10 分钟骗走 430 万,冒充公司 CFO 诈骗将近 2 亿元…… 再加上开头提到的那些案例,用伪造好的 AI 换脸视频和面具骗过摄像头,已经是比较常见的欺骗手法了。
就算加了让你摇摇头、张个嘴的活体检测,AI 换脸的视频同样也有概率能绕过去。
至于原因,跟系统的工作原理脱不了干系。
根据傲客的说法,系统不光会在收集人脸数据的时候出岔子,数据处理、使用还有存储环节,同样也有漏洞。
傲客举了个,当年牛奶里掺了三聚氰胺的例子。机器检测牛奶里蛋白质含量的方法,是检测牛奶里的氮元素含量,而三聚氰胺的氮含量高还便宜,机器才不管你这玩意儿人喝了有没有毒。


对应到人脸识别上也一样,算法只认可以被测量的指标,那你只需要取巧,在这些指标上作弊就行。
说不担心是假的,主要现在动不动就要刷脸,这玩意儿还没法儿改密码,唯一的方法只有回娘胎重造……
总的来说,围绕人脸识别的攻和防,这么多年一直都是此消彼长,那些黑产也跟蟑螂似的,总能找到阴暗的角落疯狂生长。
咱们没法儿置身事外,但至少长个心眼,别把自己这张脸轻易交出去。