[论文解读] Towards Privacy Protection by Generating Adversarial Identity Masks

Xiao Yang, Yinpeng Dong+3 more|arXiv (Cornell University)|Mar 15, 2020

Adversarial Robustness in Machine Learning参考文献 26被引用 6

一句话总结

本文提出 TIP-IM，一种面向目标身份保护的迭代方法，通过向人脸图像添加对抗性身份掩码，以生成外观自然的人脸图像，从而隐藏身份信息，避免被人脸识别系统识别。该方法在保持高视觉质量的同时，有效阻断了最先进的模型对身份的推断。

ABSTRACT

As billions of personal data such as photos are shared through social media and network, the privacy and security of data have drawn an increasing attention. Several attempts have been made to alleviate the leakage of identity information with the aid of image obfuscation techniques. However, most of the present results are either perceptually unsatisfactory or ineffective against real-world recognition systems. In this paper, we argue that an algorithm for privacy protection must block the ability of automatic inference of the identity and at the same time, make the resultant image natural from the users' point of view. To achieve this, we propose a targeted identity-protection iterative method (TIP-IM), which can generate natural face images by adding adversarial identity masks to conceal ones' identity against a recognition system. Extensive experiments on various state-of-the-art face recognition models demonstrate the effectiveness of our proposed method on alleviating the identity leakage of face images, without sacrificing? the visual quality of the protected images.

研究动机与目标

• 为应对社交媒体和在线平台因个人照片广泛传播而导致的身份泄露日益严重的担忧。
• 克服现有图像混淆技术的局限性，这些技术要么视觉上不自然，要么对现实世界中的识别系统无效。
• 开发一种方法，同时阻断自动身份推断并保持用户视角下的感知自然性。
• 在多种最先进的面部识别模型上实现稳健的隐私保护。

提出的方法

• 该方法采用迭代优化过程，生成专门针对人脸图像中身份编码特征的对抗性身份掩码。
• 对抗性掩码设计为对人类不可察觉，同时干扰人脸识别模型的特征提取过程。
• 该方法整合感知损失以保持视觉质量，确保受保护图像保持自然外观。
• 采用有针对性的攻击策略，专注于改变身份嵌入，而不修改与身份无关的特征。
• 通过迭代应用该方法，不断优化掩码，直至识别模型无法正确识别目标。
• 该框架在多个最先进的面部识别模型上进行训练和评估，以确保泛化能力。

实验结果

研究问题

• RQ1 是否可以生成一种在保持视觉自然性的同时有效隐藏身份的对抗性身份掩码？
• RQ2 所提出的方法在多种最先进的面部识别模型上阻断身份识别的效率如何？
• RQ3 与现有混淆技术相比，该方法在视觉质量保持方面表现如何？
• RQ4 迭代优化过程是否能提升对现实世界人脸识别系统身份保护的鲁棒性？

主要发现

• 所提出的 TIP-IM 方法成功隐藏了所有测试的最先进的面部识别模型中的身份，表现出强大的泛化能力。
• 受保护图像保持了高视觉质量，因为对抗性掩码在感知上自然，未降低图像外观质量。
• 该方法在不重新训练识别模型的情况下实现了有效的身份保护，表明其具有鲁棒性。
• 迭代优化过程增强了对抗性掩码在干扰身份推断方面的有效性。