[論文レビュー] Towards Privacy Protection by Generating Adversarial Identity Masks

Xiao Yang, Yinpeng Dong+3 more|arXiv (Cornell University)|Mar 15, 2020

Adversarial Robustness in Machine Learning参考文献 26被引用数 6

ひとこと要約

本論文では、顔認識システムからの顔の特定を防ぐために、敵対的顔認識マスクを追加することで自然な外観の顔画像を生成する、標的型身元保護反復手法TIP-IMを提案する。この手法は、最先端のモデルを問わず顔の特定を効果的に遮断する一方で、高い視覚的品質を維持する。

ABSTRACT

As billions of personal data such as photos are shared through social media and network, the privacy and security of data have drawn an increasing attention. Several attempts have been made to alleviate the leakage of identity information with the aid of image obfuscation techniques. However, most of the present results are either perceptually unsatisfactory or ineffective against real-world recognition systems. In this paper, we argue that an algorithm for privacy protection must block the ability of automatic inference of the identity and at the same time, make the resultant image natural from the users' point of view. To achieve this, we propose a targeted identity-protection iterative method (TIP-IM), which can generate natural face images by adding adversarial identity masks to conceal ones' identity against a recognition system. Extensive experiments on various state-of-the-art face recognition models demonstrate the effectiveness of our proposed method on alleviating the identity leakage of face images, without sacrificing? the visual quality of the protected images.

研究の動機と目的

• ソーシャルメディアやオンラインプラットフォームでの個人写真の広範な共有に伴う身元漏洩の懸念を解決すること。
• 視覚的に不自然であるか、実世界の認識システムに対して効果が薄い既存の画像のぼかし技術の限界を克服すること。
• 自動的な身元特定を同時に遮断し、ユーザーの視点から見た視覚的自然さを維持する手法を開発すること。
• 多様な最先端の顔認識モデルにわたる強力なプライバシー保護を達成すること。

提案手法

• 顔画像の身元符号化特徴に特に焦点を当てた、敵対的身元マスクを生成する反復最適化プロセスを採用する。
• 人間には見えにくく、顔認識モデルの特徴抽出プロセスを攪乱するように設計されたマスクを用いる。
• 視覚的品質を保つために感知損失を統合し、保護された画像が自然な外観を保つようにする。
• 非身元関連特徴を変更せずに、身元埋め込みを変更することに焦点を当てた標的攻撃戦略を採用する。
• 認識モデルが被写体を正しく同定できなくなるまで、マスクを反復的に最適化する。
• 汎用性を確保するため、複数の最先端の顔認識モデル上で訓練および評価を行う。

実験結果

リサーチクエスチョン

• RQ1 視覚的に自然な外観を保ちながら、効果的に身元を隠蔽できる敵対的身元マスクを生成できるか？
• RQ2 提案手法は、多様な最先端の顔認識モデルにおいて、身元特定をどれほど効果的に遮断できるか？
• RQ3 既存のぼかし技術と比較して、この手法は視覚的品質をどの程度維持できるか？
• RQ4 反復的精錬プロセスは、実世界の認識システムに対する身元保護の強度を向上させることができるか？

主な発見

• 提案されたTIP-IM手法は、テストされたすべての最先端の顔認識モデルから身元を効果的に隠蔽し、優れた汎用性を示した。
• 敵対的マスクが感知的に自然であるため、保護された画像は高い視覚的品質を維持しており、画像の外観が劣化していない。
• 認識モデルの再訓練を必要としないため、強力な耐性を示している。
• 反復的最適化プロセスにより、身元特定の攪乱効果が向上した。