据报道,来自莫斯科国立大学和华为莫斯科研究中心的两位研究人员利用一张贴纸攻破了目前最好的公共Face ID系统 ——ArcFace。
攻击一个 AI 系统不是什么新鲜事,但我们成功地在现实世界中做到了:只需要打印一张彩色贴纸,然后将其粘贴到帽子上,就能使人脸与真值的相似性显著下降,甚至这种攻击方法还可以迁移去攻击其他顶级的 Face ID 模型。两位作者Stepan Komkov和Aleksandr Petiushko公开了demo,并开源了他们的方法。
莫斯科两位研究人员称这种对抗攻击为 AdvHat,相比其他方法的优势有:
•利用帽子上的贴纸,对最先进的公共人脸识别系统进行了现实世界的对抗性攻击。
•这种攻击很容易重现,只需打印一张彩色贴纸;
•攻击可以在不同的光照条件下工作;
•提出了一种新颖的粘贴投影技术,使攻击过程中的图像具有真实感;
•此外,同样的攻击还可以转移到其他面部识别模型。