[논문 리뷰] Threat of Adversarial Attacks on Face Recognition: A Comprehensive Survey.

Fatemeh Vakhshiteh, Raghavendra Ramachandra외 1명|arXiv (Cornell University)|2020. 07. 22.

Adversarial Robustness in Machine Learning참고 문헌 62인용 수 10

한 줄 요약

이 논문은 딥 페이스 인식 시스템을 대상으로 하는 적대적 공격에 대한 종합적인 서베이를 제공하며, 새로운 분류 체계를 통해 공격 및 방어 전략을 분류한다. 기술의 특성과 핵심 취약점 및 대응 조치를 평가하여 실생활 FR 응용 분야에서의 강건성 향상에 기여하는 체계적인 개요를 제공한다.

ABSTRACT

Face recognition (FR) systems have demonstrated outstanding verification performance, suggesting suitability for real-world applications, ranging from photo tagging in social media to automated border control (ABC). In an advanced FR system with deep learning-based architecture, however, promoting the recognition efficiency alone is not sufficient and the system should also withstand potential kinds of attacks designed to target its proficiency. Recent studies show that (deep) FR systems exhibit an intriguing vulnerability to imperceptible or perceptible but natural-looking adversarial input images that drive the model to incorrect output predictions. In this article, we present a comprehensive survey on adversarial attacks against FR systems and elaborate on the competence of new countermeasures against them. Further, we propose a taxonomy of existing attack and defense strategies according to different criteria. Finally, we compare the presented approaches according to techniques' characteristics.

연구 동기 및 목표

• 딥 러닝 기반 얼굴 인식 시스템에 대한 적대적 공격의 위협 환경을 체계적으로 분석하기 위해.
• 미세한 또는 자연스러운 보기에 가까운 적대적 편향으로 인해 최신 FR 모델에 존재하는 취약점을 규명하기 위해.
• 다양한 기준에 기반한 체계적인 분류 체계를 활용하여 기존의 공격 및 방어 전략을 분류하고 비교하기 위해.
• FR에서의 적대적 위협에 대응하기 위해 제안된 보완 조치의 효과성과 특성을 평가하기 위해.

제안 방법

• 공격 유형, 편향 유형, 대상 특이성 등의 기준을 바탕으로 얼굴 인식에서의 적대적 공격 및 방어를 분류하는 다차원 분류 체계를 제안한다.
• 기존 공격 방법을 검토하고 분류하며, 화이트박스,_BLK박스, 전이 기반 공격 등을 포함한 공격 유형을 중심으로 FR 성능에 미치는 영향을 분석한다.
• 적대적 훈련, 입력 전처리, 강건한 아키텍처 설계 등의 방어 기법을 분석하여 다양한 공격 유형에 대한 내성 강도를 평가한다.
• 공격 성공률, 편향의 가시성, 모델 간 전이성 등의 주요 특성에 따라 기법을 비교한다.
• 최근 연구의 통찰을 종합하여 얼굴 인식에서의 적대적 강건성 연구의 추세와 격차를 부각시킨다.

실험 결과

연구 질문

• RQ1 얼굴 인식 시스템을 대상으로 하는 주요 적대적 공격 유형은 무엇이며, 구현 방식과 효과성 측면에서 어떻게 다릅니까?
• RQ2 다양한 방어 전략은 적대적 위협을 어떻게 완화하는가, 그리고 실생활 구현에서의 한계는 무엇입니까?
• RQ3 얼굴 인식에서 공격 및 방어 기법을 체계적으로 분류하고 비교하기 위해 사용할 수 있는 기준은 무엇입니까?
• RQ4 전이성과 미세한 편향은 얼굴 인식 시스템에 대한 적대적 공격의 성공률과 실용성에 어떻게 영향을 미칩니까?

주요 결과

• 딥 러닝 기반 얼굴 인식 시스템은 심각한 정확도 저하를 초래할 수 있는 인식할 수 없는 적대적 편향으로 매우 취약하다.
• 전이 기반 공격는 다양한 모델 간에 높은 성공률를 보이며, 실생활 구현에 있어 심각한 위험을 암시한다.
• 적대적 훈련과 같은 방어 조치는 강건성을 향상시키지만, 일반 데이터에 대한 성능 저하를 동반하는 경우가 많다.
• 입력 전처리 기법은 재학습 없이도 공격 성공률를 감소시키는 데 잠재력이 있지만, 다양한 공격 유형에 일반화되지는 않는다.
• 제안된 분류 체계는 공격 및 방어 전략의 비교와 이해를 명확히 하며, 현재 연구의 격차를 부각시킨다.