[論文レビュー] Threat of Adversarial Attacks on Face Recognition: A Comprehensive Survey.

Fatemeh Vakhshiteh, Raghavendra Ramachandra+1 more|arXiv (Cornell University)|Jul 22, 2020

Adversarial Robustness in Machine Learning参考文献 62被引用数 10

ひとこと要約

この論文は、深層顔認識システムを標的とする敵対的攻撃について包括的なサーベイを提供し、新たな分類法を用いて攻撃および防御戦略を分類している。技術の特徴を評価し、主な脆弱性と対策を特定し、実世界のFR応用における耐性向上のための構造的概要を提示している。

ABSTRACT

Face recognition (FR) systems have demonstrated outstanding verification performance, suggesting suitability for real-world applications, ranging from photo tagging in social media to automated border control (ABC). In an advanced FR system with deep learning-based architecture, however, promoting the recognition efficiency alone is not sufficient and the system should also withstand potential kinds of attacks designed to target its proficiency. Recent studies show that (deep) FR systems exhibit an intriguing vulnerability to imperceptible or perceptible but natural-looking adversarial input images that drive the model to incorrect output predictions. In this article, we present a comprehensive survey on adversarial attacks against FR systems and elaborate on the competence of new countermeasures against them. Further, we propose a taxonomy of existing attack and defense strategies according to different criteria. Finally, we compare the presented approaches according to techniques' characteristics.

研究の動機と目的

• 深層学習に基づく顔認識システムに対する敵対的攻撃の脅威状況を体系的に分析すること。
• 人間が認識できないか、自然な外観の敵対的摂動によって引き起こされる最新のFRモデルの脆弱性を特定すること。
• 攻撃および防御戦略を、複数の基準に基づいた構造的な分類法を用いて分類・比較すること。
• FRにおける敵対的脅威に対する提案された対策の有効性と特徴を評価すること。

提案手法

• 攻撃タイプ、摂動タイプ、標的の明確さといった基準に基づき、顔認識における敵対的攻撃および防御を分類する多次元的分類法を提案する。
• 既存の攻撃手法をレビューし、分類する。白箱攻撃、ブラックボックス攻撃、トランスファーに基づく攻撃を焦点として、FR性能に与える影響を検討する。
• 敵対的訓練、入力前処理、耐性のあるアーキテクチャ設計といった防御メカニズムを分析し、さまざまな攻撃タイプに対する耐性を評価する。
• 攻撃成功率、摂動の可視性、モデル間でのトランスファービリティといった、主な特徴に基づいて技術を比較する。
• 最近の研究からの知見を統合し、顔認識における敵対的耐性研究のトレンドとギャップを明らかにする。

実験結果

リサーチクエスチョン

• RQ1 顔認識システムを標的とする主な敵対的攻撃タイプは何か。また、それらは実装方法や有効性においてどのように異なるか。
• RQ2 異なる防御戦略はどのように敵対的脅威を軽減するのか。また、実世界での導入におけるその限界は何か。
• RQ3 顔認識における攻撃および防御技術を体系的に分類・比較するのに使用できる基準は何か。
• RQ4 トランスファービリティと人間が認識できない摂動は、顔認識システムに対する敵対的攻撃の成功度と実用性にどのように影響を与えるか。

主な発見

• 深層学習に基づく顔認識システムは、人間が認識できない敵対的摂動により著しく認識精度が低下するという極めて高い脆弱性を示している。
• トランスファーに基づく攻撃は、異なるモデル間で高い成功率を示しており、実世界への導入にあたって深刻なリスクを示している。
• 敵対的訓練のような防御策は耐性を向上させるが、通常はクリーンデータに対する性能が低下するという代償を伴う。
• 入力前処理技術は、再訓練なしに攻撃成功率を低下させる可能性を示しているが、多様な攻撃タイプに一般化するとは限らない。
• 提案された分類法により、攻撃および防御戦略の明確な比較と理解が可能となり、現在の研究におけるギャップが顕在化された。