[논문 리뷰] Towards Generalizable Deepfake Detection with Locality-aware AutoEncoder

Mengnan Du, Shiva Pentyala외 2명|arXiv (Cornell University)|2019. 09. 13.

Digital Media Forensic Detection참고 문헌 39인용 수 13

한 줄 요약

이 논문은 훈련 중에 픽셀 단위 마스크 정규화를 통해 모델이 위조 영역에 집중하도록 유도함으로써 일반화 능력을 향상시키는 지역감지 자동에코더(Locality-Aware AutoEncoder, LAE)를 제안한다. 주어진 위조 유형에 대해 사전에 훈련되지 않은 위조 기법들에 대해 최신 기술 대비 각각 6.52%, 12.03%, 3.08% 향상된 정확도를 달성하기 위해 액티브 러닝을 도입하여 레이블링 비용을 절감하였다.

ABSTRACT

With advancements of deep learning techniques, it is now possible to generate super-realistic images and videos, i.e., deepfakes. These deepfakes could reach mass audience and result in adverse impacts on our society. Although lots of efforts have been devoted to detect deepfakes, their performance drops significantly on previously unseen but related manipulations and the detection generalization capability remains a problem. Motivated by the fine-grained nature and spatial locality characteristics of deepfakes, we propose Locality-Aware AutoEncoder (LAE) to bridge the generalization gap. In the training process, we use a pixel-wise mask to regularize local interpretation of LAE to enforce the model to learn intrinsic representation from the forgery region, instead of capturing artifacts in the training set and learning superficial correlations to perform detection. We further propose an active learning framework to select the challenging candidates for labeling, which requires human masks for less than 3% of the training data, dramatically reducing the annotation efforts to regularize interpretations. Experimental results on three deepfake detection tasks indicate that LAE could focus on the forgery regions to make decisions. The analysis further shows that LAE outperforms the state-of-the-arts by 6.52%, 12.03%, and 3.08% respectively on three deepfake detection tasks in terms of generalization accuracy on previously unseen manipulations.

연구 동기 및 목표

• 보유된 테스트 세트에서는 높은 정확도를 보이지만, 이전에 본 적 없는 위조 기법에 대해서는 실패하는 딥페이크 탐지 모델의 일반화 격차 문제를 해결한다.
• 기존 모델들이 표면적인 특징이나 위조 영역이 아닌 영역에 의존하는 경향을 줄이기 위해 실제 위조 영역에 주의를 기울이도록 강제한다.
• 위조 마스크의 인간 레이블링 부담을 줄이기 위해, 훈련 데이터의 3% 미만만 레이블링이 필요한 액티브 러닝 프레임워크를 도입한다.
• CAM(Class Activation Mapping)을 통합하여 국소적 설명 가능성을 확보함으로써 학습 과정을 위조 패턴의 내재적 특성에 맞추어 가이드한다.
• 훈련 시 미리 보지 못한 위조 유형의 데이터가 포함되지 않더라도 다양한 GAN 기반 위조 기법에 대해 일반화되는 방법을 개발한다.

제안 방법

• 지역화된 위조 영역에서 표현을 학습하는 데 초점을 맞춘, 압축된 인코더-디코더 아키텍처를 사용하는 지역감지 자동에코더(LAE)를 제안한다.
• 훈련 중에 픽셀 단위 마스크 정규화를 도입하여, 비위조 특징을 억제하고 모델이 위조 영역에 집중하도록 명시적으로 유도한다.
• CAM(Class Activation Mapping)을 미분 가능한 설명 방법으로 사용하여 위조 영역에 대한 주의를 시각화하고 감독함으로써, backpropagation를 통한 엔드 투 엔드 훈련을 가능하게 한다.
• 가장 불확실하고 도전적인 샘플을 선택하여 인간 레이블링을 수행하는 액티브 러닝 프레임워크를 설계하여, 전체 감독 학습이 필요한 데이터의 3% 미만으로 줄인다.
• 재구성 손실과 분류 손실의 조합을 사용하여 LAE 모델을 엔드 투 엔드로 훈련하며, 마스크 정규화를 통해 모델이 내재된 위조 특징을 학습하도록 보장한다.
• CAM의 해석 가능성에 기반하여, 모델의 예측이 우연한 상관관계나 잡음 등이 아닌 실제 위조 영역에 기반한 것임을 검증한다.

실험 결과

연구 질문

• RQ1 지역화된 위조 영역에 집중함으로써, 이전에 본 적 없는 위조 기법에 대해 더 높은 일반화 성능을 달성할 수 있는가?
• RQ2 픽셀 단위 마스크 정규화가 표면적인 특징 대신 내재된 위조 표현을 학습하도록 모델을 얼마나 효과적으로 유도하는가?
• RQ3 액티브 러닝을 통해 위조 마스크의 레이블링 비용을 얼마나 줄일 수 있으며, 이로 인해 높은 탐지 성능를 유지할 수 있는가?
• RQ4 CAM을 통한 국소적 설명 가능성을 강제함으로써, 다양한 GAN 기반 딥페이크 생성 방법에 대해 모델의 강건성과 일반화 능력이 향상되는가?
• RQ5 지역화된 주의를 갖는 자기지도 학습 자동에코더가 기존 최신 기술 대비 이전에 보지 못한 위조 기법에서 더 뛰어난 성능을 내는가?

주요 결과

• LAE는 이전에 보지 못한 위조 기법에 대해 평가했을 때, 세 가지 다른 딥페이크 탐지 작업에서 최신 기술 대비 각각 6.52%, 12.03%, 3.08% 향상된 일반화 성능을 보였다.
• CAM 기반의 시각화 지도를 통해, 모델의 예측이 항상 위조 영역에 집중되어 있음을 확인하여 LAE가 의미 있는 국소적 표현을 학습하고 있음을 입증했다.
• 액티브 러닝 프레임워크는 인간 레이블링이 필요한 위조 마스크를 훈련 데이터의 3% 미만으로 줄여, 레이블링 노력의 급격한 감소를 이끌었다.
• 기본 모델이 근처 무작위 성능(약 50%)으로 떨어지는 반면, LAE는 이전에 보지 못한 위조 기법에서도 높은 탐지 정확도를 달성하여 강건성을 입증했다.
• 해석 가능성 분석을 통해, 모델이 비위조 특징이나 데이터셋 특유의 편향이 아닌 실제 위조 영역에 의존하고 있음을 경험적으로 검증했다.
• 개선된 성능에도 불구하고, 테스트 세트와 다른 미리 보지 못한 데이터셋 간에 작은 일반화 격차가 남아 있어, 전이 학습이나 다중 도메인 적응 기법을 통해 추가 향상 가능성이 있음을 시사한다.