[논문 리뷰] Seeing is Living? Rethinking the Security of Facial Liveness Verification in the Deepfake Era

Changjiang Li, Li Wang외 5명|arXiv (Cornell University)|2022. 02. 22.

Face recognition and analysis인용 수 13

한 줄 요약

이 논문은 실세계 환경에서 얼굴 생체 인식 검증(FLV)의 보안성을 평가하기 위한 새로운 딥페이크 기반 프레임워크인 LiveBugger를 소개한다. 이 연구는 대부분의 상용 FLV API가 딥페이크 공격에 매우 취약하며, 효과적인 딥페이크 방지 기능을 갖추지 못하고 있음을 드러내며, 성공률을 최대 70% 향상시키는 이중 단계 공격 방법을 제안한다. 또한 실세계 응용 프로그램에서의 실질적 악용 가능성을 입증한다.

ABSTRACT

Facial Liveness Verification (FLV) is widely used for identity authentication in many security-sensitive domains and offered as Platform-as-a-Service (PaaS) by leading cloud vendors. Yet, with the rapid advances in synthetic media techniques (e.g., deepfake), the security of FLV is facing unprecedented challenges, about which little is known thus far. To bridge this gap, in this paper, we conduct the first systematic study on the security of FLV in real-world settings. Specifically, we present LiveBugger, a new deepfake-powered attack framework that enables customizable, automated security evaluation of FLV. Leveraging LiveBugger, we perform a comprehensive empirical assessment of representative FLV platforms, leading to a set of interesting findings. For instance, most FLV APIs do not use anti-deepfake detection; even for those with such defenses, their effectiveness is concerning (e.g., it may detect high-quality synthesized videos but fail to detect low-quality ones). We then conduct an in-depth analysis of the factors impacting the attack performance of LiveBugger: a) the bias (e.g., gender or race) in FLV can be exploited to select victims; b) adversarial training makes deepfake more effective to bypass FLV; c) the input quality has a varying influence on different deepfake techniques to bypass FLV. Based on these findings, we propose a customized, two-stage approach that can boost the attack success rate by up to 70%. Further, we run proof-of-concept attacks on several representative applications of FLV (i.e., the clients of FLV APIs) to illustrate the practical implications: due to the vulnerability of the APIs, many downstream applications are vulnerable to deepfake. Finally, we discuss potential countermeasures to improve the security of FLV. Our findings have been confirmed by the corresponding vendors.

연구 동기 및 목표

• 발전하는 딥페이크 기술에 대비하여 실세계에 구현된 얼굴 생체 인식 검증(FLV) API의 보안성을 체계적으로 평가하기 위해.
• 실제로 구현된 FLV 시스템에 대한 딥페이크 기반 공격의 효과성에 영향을 주는 핵심 요인을 규명하고 분석하기 위해.
• 실세계 응용 프로그램에 대한 개념 증명 공격을 통해 FLV 취약성의 실질적 영향을 입증하기 위해.
• 현대의 합성 미디어 위협에 대비하여 FLV 서비스의 보안을 향상시키기 위한 실천 가능한 권고 사항을 제공하기 위해.

제안 방법

• 최신 딥페이크 기법을 통합한 사용자 정의가 가능하고 자동화된 프레임워크인 LiveBugger를 설계하고 구현하여 실세계 FLV 보안 평가를 위한 기반을 마련하기 위해.
• 주요 클라우드 PaaS 제공업체의 대표적 상용 FLV API를 대상으로 대규모 실증 평가를 수행하기 위해.
• 딥페이크 기법, 입력 품질, 인구 통계적 편향(예: 성별, 인종)을 다양하게 변화시켜 공격 효과성에 대한 심층 분석을 수행하기 위해.
• FLV 시스템의 동작에 기반해 딥페이크 생성을 최적화하는 이중 단계 공격 전략을 도입하여, 공격 성공률을 최대 70% 향상시키기 위해.
• 실제 클라이언트 애플리케이션에 대한 개념 증명 공격을 수행하여 FLV 취약성의 실질적 영향을 검증하기 위해.
• 공급업체와 협력하여 결과를 확인하고 실증 결과를 바탕으로 보안 권고 사항을 제시하기 위해.

실험 결과

연구 질문

• RQ1 RQ1: 실세계에 배포된 시스템에서 얼굴 생체 인식 검증(FLV)은 딥페이크 기반 공격에 얼마나 취약한가?
• RQ2 RQ2: 다양한 딥페이크 기법은 FLV 시스템을 우회하는 데 있어 어떤 정도의 효과를 보이는가?
• RQ3 RQ3: FLV API에 대한 딥페이크 기반 공격의 성공률에 영향을 주는 핵심 요인은 무엇인가?
• RQ4 RQ4: 실무자들은 새로운 딥페이크 위협에 대비하여 어떻게 FLV 시스템의 보안을 향상시킬 수 있는가?

주요 결과

• 대부분의 상용 FLV API는 효과적인 딥페이크 탐지 메커니즘을 구현하지 않아 합성 미디어 공격에 매우 취약하다.
• 딥페이크 탐지 기능이 있다고 주장하는 FLV 시스템조차도 방어가 일관되지 않으며, 일부는 고품질의 가짜를 탐지하지만 저품질의 가짜는 탐지하지 못한다.
• FLV 시스템 내 성별 또는 인종에 기반한 인구 통계적 편향은 공격자가 더 취약한 대상을 선별하는 데 이용될 수 있다.
• 딥페이크 모델의 적대적 훈련은 FLV 시스템을 우회하는 능력을 크게 향상시킨다.
• 입력 품질은 다양한 딥페이크 기법에 따라 공격 성공률에 다른 영향을 미치며, 일부 기법은 저품질 입력에 더 강건하다.
• 맞춤형 이중 단계 공격 접근 방식은 기존 방법 대비 FLV 시스템 우회 성공률을 최대 70% 향상시킨다.