Select Language

AI社区

数据要素产业

AI并非完美:中美团队用红外线投射成功“变脸”骗过人脸识别

12-08 01:17 TAG: 脸部识别 人工智能

随着人工智能(AI)技术持续进步,图像辨识系统已经广泛的在生活中存在.一些设备也开始运用了脸部辨识技术来进行身份认证,但这项技术的安全性真的是无懈可击吗?

正如同先前迷幻贴纸、棉花田演唱会图片的研究,研究人员正试图透过测试任何潜在的黑客手段,让图像辨识技术能够更加安全,而来自中美两国研究团队近日则在 arXiv 平台上公布了一篇论文,详细介绍了他们发现如何欺骗“脸部辨识”应用的细节。

▲ 帽子中放置的红外线 LED。(Source:Zhe Zhou)

其实团队的概念非常简单,要欺骗脸部辨识应用,最直接的就是为受辨识者“替换”一张脸。为了达成这一点,团队先是运用深度神经网络解读一些人物脸部图像,再透过棒球帽中连接的微型红外线 LED,将解读过的人脸图像运用无数个红外线光点投射到受辨识者脸上,进而达成掩盖身份的效果。

而当然,由于投射的是其他人的脸孔,只要概念成功,在以脸部辨识系统做为身份认证的前提下,让受辨识者冒充他人身份也是可以做到的。

为了检验这项理论,研究团队选择了 4 张随机照片尝试欺骗脸部辨识软件,其中也包含了美国音乐人魔比(Moby)的照片。研究人员在实验中发现,只要受辨识者与投射脸孔来源长相有些微的相似,这个欺骗脸部辨识系统的成功率约可达到 70%。

▲ 下方第一列数字指的是受辨识者与投射脸孔来源对象的距离,第二列则是理论上应用后的差距,第三列则是实际差距。(Source:Zhe Zhou)

由于红外线(Infrared)是一种非可见光,人们单凭肉眼并无法察觉,同时贴在帽沿内侧的 LED 体积也非常小,甚至也可以藏在其他穿戴物中使用,即使有着人类保全也很难察觉系统被欺骗的情况,这让被利用的可能性又更加提升。

当然必须提及的是,这只是一个小型研究还未经过同行评审,因此可能存在一些争议,但基于这些研究结果和测试,团队认为以身份认证或监控关键场景的需求来说,现今的脸部辨识技术距离安全可靠还有很长一段距离。

“相关研究者应该更加关注红外线的威胁性。”(来源:Technews科技新报