[논문 리뷰] FakeSpotter: A Simple yet Robust Baseline for Spotting AI-Synthesized Fake Faces

Run Wang, Felix Juefei-Xu외 5명|arXiv (Cornell University)|2019. 09. 13.

Digital Media Forensic Detection참고 문헌 55인용 수 32

한 줄 요약

FakeSpotter는 딥 페이스 인식 모델 내의 계층별 활성화 패턴을 분석하여 AI로 생성된 위조 얼굴을 탐지하는 데 있어 뉴런 커버리지 기반의 새로운 접근법을 제안한다. 이는 다양한 위조 얼굴 유형(DeepFake, 속성 편집, 표정 조작 포함)에 대해 90% 이상의 평균 탐지 정확도를 달성하며, 네 가지 페르투베이션 공격(노이즈, 블러, 압축, 크기 조정)에 대해 평균 3.77% 이내의 AUC 점수 저하를 보이며 높은 강건성과 효과성을 입증한다.

ABSTRACT

In recent years, generative adversarial networks (GANs) and its variants have achieved unprecedented success in image synthesis. They are widely adopted in synthesizing facial images which brings potential security concerns to humans as the fakes spread and fuel the misinformation. However, robust detectors of these AI-synthesized fake faces are still in their infancy and are not ready to fully tackle this emerging challenge. In this work, we propose a novel approach, named FakeSpotter, based on monitoring neuron behaviors to spot AI-synthesized fake faces. The studies on neuron coverage and interactions have successfully shown that they can be served as testing criteria for deep learning systems, especially under the settings of being exposed to adversarial attacks. Here, we conjecture that monitoring neuron behavior can also serve as an asset in detecting fake faces since layer-by-layer neuron activation patterns may capture more subtle features that are important for the fake detector. Experimental results on detecting four types of fake faces synthesized with the state-of-the-art GANs and evading four perturbation attacks show the effectiveness and robustness of our approach.

연구 동기 및 목표

• 위조 얼굴의 현실성과 광범위한 유포로 인해 증가하는 보안 및 개인정보 위협으로 인해 AI로 생성된 위조 얼굴에 대한 강력한 탐지 기술이 절실한 상황을 해결한다.
• 이전 방법들이 다양한 위조 얼굴 생성 방식과 적대적 페르투베이션을 종합적으로 평가하지 못하는 한계를 극복한다.
• 실제 배포 환경에서 흔히 발생하는 이미지 변환 및 페르투베이션에 대해 효과적이고 내구성이 뛰어난 탐지 프레임워크를 개발한다.
• 실제 얼굴과 위조 얼굴을 구분하는 데 신뢰할 수 있는 신호로 뉴런 활성화 패턴을 설정함으로써 딥 러닝 기반 위조 탐지의 새로운 패러다임을 제시한다.

제안 방법

• 딥 페이스 인식 모델을 특징 추출기로 활용하고, 계층별 뉴런 활성화 패턴을 모니터링하여 실제 얼굴과 위조 얼굴 간의 미세한 차이를 탐지한다.
• 각 계층에서 활성화된 뉴런의 비율을 측정하는 뉴런 커버리지 통계량을 입력 특징으로 사용하여 이진 분류기 구축.
• 다섯 가지 다른 유형의 위조 얼굴에서 훈련 및 평가 수행: 전체 얼굴 생성(StyleGAN2), 얼굴 속성 편집(STGAN), 표정 조작(StyleGAN/STGAN), DeepFake(FaceForensics++ 및 DFDC).
• 강건성 테스트 및 일반화 성능 평가를 위해 다양한 강도의 네 가지 일반적인 페르투베이션 공격(노이즈, 블러, 압축, 크기 조정) 적용.
• 주요 평가 지표로 AUC 점수 사용. 이미지 및 영상 데이터셋에서 이전 연구인 AutoGAN과의 성능 비교.
• Celeb-DF(v2)에 대해 영상 탐지로 방법을 확장하여 프레임 단위 특징 추출 및 영상 시퀀스 전역에서 예측 값 집계.

실험 결과

연구 질문

• RQ1 딥 페이스 인식 모델의 계층 간 뉴런 활성화 패턴이 AI로 생성된 위조 얼굴을 탐지하는 데 신뢰할 수 있는 신호가 될 수 있는가?
• RQ2 FakeSpotter는 전체 얼굴 생성, 속성 편집, 표정 조작, DeepFake를 포함한 다양한 위조 얼굴 생성 방식에서 어떻게 성능을 발휘하는가?
• RQ3 실제 환경에서 흔히 발생하는 노이즈, 블러, 압축, 크기 조정과 같은 일반적인 이미지 페르투베이션에 대해 FakeSpotter는 어느 정도 강건한가?
• RQ4 이미지 및 영상 위조 탐지 벤치마크에서 기존 최첨단 기법인 AutoGAN과 비교해 FakeSpotter의 성능은 어떠한가?
• RQ5 뉴런 커버리지 기반 접근법은 위조 생성 기법이 더 복잡하고 다양한 고품질 영상 데이터셋인 Celeb-DF(v2)에 일반화될 수 있는가?

주요 결과

• FakeSpotter는 네 가지 유형의 AI로 생성된 위조 얼굴에 대해 평균 90% 이상의 탐지 정확도를 달성하여 뛰어난 효과성을 입증한다.
• 네 가지 다른 페르투베이션 공격을 다섯 단계의 강도로 적용했을 때 FakeSpotter의 AUC 점수는 평균 3.77% 이내로 저하되며, 높은 강건성을 보여준다.
• Celeb-DF(v2) 영상 데이터셋에서 FakeSpotter는 AUC 점수 66.8%를 기록하여 벤치마크에 나열된 모든 기존 방법을 능가한다.
• 특히 노이즈와 압축에 대해 뛰어난 내구성을 보이며, 고강도 페르투베이션에서도 성능 변동이 미미하다.
• DFDC 데이터셋에서는 음성 교체 공격가 포함되어 있어 이미지 전용 탐지 메커니즘의 범위를 초월하기 때문에 성능이 낮게 나타난다.
• 뉴런 커버리지 기반 접근법은 위조 탐지에 대해 새로운 일반화 가능한 신호를 드러내며, 허위 음성 또는 영상과 같은 다른 모odal로의 확장 가능성을 제시한다.