对抗“终结者”的手段:Facebook发明新“反识别”算法

黄琨

人脸识别

关于AI对人类威胁的讨论经久不息,对于“机器文明”的警惕也从未消失,因此在AI发展的过程中,不少人也在关注对抗机器智能的能力。近年比较火热的是“反人脸识别”技术的研究。

目前这一技术的最新成果来自Facebook,据美媒报道,他们已经可以在视频中更改人脸面部特征,骗过识别算法。早前已有不少公司研发了类似“反识别”技术,不过大多只能用在照片上,能用在视频中的,这还是第1个。Facebook表示,他们的目标是在迷惑人脸识别系统的同时,又能让人们认出这个人的样貌。

据悉,研究人员使用的是一种新颖的、在高级人脸图像上进行了大量训练的前馈编码-解码器网络架构。他们解释:“这个网络架构是全球性的,它不需要再为特定的视频或特定的身份进行培训,而且它创建的图像序列看起来很自然,在时间上几乎没有失真。”

研究人员使用对抗式的自动编码器和一个训练有素的人脸分类器,以反事实的方式训练,根据系统的条件设置,在关键方面设计了与输入不同的输出,生成高度语义化的任务。随后,研究人员用工具“将输出视频的人脸描述符与目标图像的人脸描述符隔离开”。

他们表示:“目标图像不需要基于来自输入视频的帧,提高该方法的适用性,使其可以应用于实时视频。”

在接受美媒采访时,Facebook表示,该公司目前还没有将这种“反识别”技术实用化的打算。然而,研究人员认为,他们的工作将有助于保护人们隐私的技术的发展。

同样在这方面,国内企业也做了不少研究。例如在2019年8月9日的美国黑帽大会腾讯玄武实验室的安全人员通过给“无意识”的人员戴上专门设计的眼镜,成功打开了iPhone的面部解锁。

这意味着这种方法可以在你睡梦中绕过苹果手机的活体检测和眼球检测,直接登录你的手机。而这个“专门设计”的眼镜,用到的也只是一副眼镜和少许胶带而已。研究人员只是在镜片中央贴上黑色胶带,黑色胶带上再贴上一小块白色胶带,模仿眼睛的外观,就能访问机主的iPhone并通过移动支付应用程序向他们自己转账。

不过,这种方法比较简单,只是利用了多数手机面部识别算法针对佩戴眼镜目标时不从眼部区域提取3D信息这一点进行的,针对性强,但无法普及,而且据说成功率也有限。

相较而言,华为莫斯科研究院和莫斯科国立大学科学家共同发现的“画符”方法则很容易复现,对多数人脸识别算法有用。他们把一张平面矩形图像弯曲成三维抛物线,然后旋转,然后把高质量的人脸图像投到变形后的“贴纸”上,并加入随机噪声,之后再根据对抗样本不断迭代,当获得类似人眉毛的图像后,将其贴在额头,就能完全骗过大多数人脸识别算法。

可行性研究报告

广告、内容合作请点这里:寻求合作

咨询·服务

相关阅读

精彩推荐