[논문 리뷰] Robustness and Generalizability of Deepfake Detection: A Study with Diffusion Models

Haixu Song, Shi‐Yu Huang외 2명|arXiv (Cornell University)|2023. 09. 05.

Generative Adversarial Networks and Image Synthesis인용 수 7

한 줄 요약

이 논문은 디퓨전 모델과 InsightFace를 사용하여 생성한 합성 셀럽 얼굴의 대규모 데이터셋인 DeepFakeFace(DFF)를 소개하며, 딥페이크 탐지의 강건성과 일반화 능력을 연구한다. 두 가지 새로운 평가 프로토콜—교차 생성기 탐지 및 열악한 조건의 이미지 분류—를 제안하여, 탐지 성능이 생성 방법과 이미지 왜곡에 따라 크게 달라짐을 입증함으로써, 보다 적응형 탐지 전략의 필요성을 강조한다.

ABSTRACT

The rise of deepfake images, especially of well-known personalities, poses a serious threat to the dissemination of authentic information. To tackle this, we present a thorough investigation into how deepfakes are produced and how they can be identified. The cornerstone of our research is a rich collection of artificial celebrity faces, titled DeepFakeFace (DFF). We crafted the DFF dataset using advanced diffusion models and have shared it with the community through online platforms. This data serves as a robust foundation to train and test algorithms designed to spot deepfakes. We carried out a thorough review of the DFF dataset and suggest two evaluation methods to gauge the strength and adaptability of deepfake recognition tools. The first method tests whether an algorithm trained on one type of fake images can recognize those produced by other methods. The second evaluates the algorithm's performance with imperfect images, like those that are blurry, of low quality, or compressed. Given varied results across deepfake methods and image changes, our findings stress the need for better deepfake detectors. Our DFF dataset and tests aim to boost the development of more effective tools against deepfakes.

연구 동기 및 목표

• 셀럽에 대한 딥페이크 이미지의 증가하는 위협, 특히 허위 정보 유포와 디지털 미디어에 대한 신뢰도 저하를 해결하기 위해.
• 표준 데이터셋을 넘어서 강건성과 일반화 능력을 중점으로 하여 딥페이크 탐지 모델을 평가할 수 있는 종합적인 벤치마크를 개발하기 위해.
• 최신 기술인 디퓨전 모델과 얼굴 조작 도구를 활용하여 다양하고 고품질의 합성 셀럽 얼굴 데이터셋을 구축하기 위해.
• 두 가지 새로운 평가 철학을 도입: 교차 생성기 탐지(다양한 생성 방법 간 일반화 능력 테스트) 및 열악한 조건의 이미지 분류(이미지 품질 열악화에 대한 강건성 평가).
• DFF 데이터셋과 평가 프로토콜를 공개하여 딥페이크 탐지 분야의 연구를 가속화하기 위해.

제안 방법

• 고해상도 및 신원 유지 성능을 갖춘 얼굴 생성을 위해 디퓨전 모델(Stable Diffusion v1.5, Inpainting)과 InsightFace를 활용하여 DeepFakeFace(DFF) 데이터셋을 구축하였다.
• Stable Diffusion v1.5, Stable Diffusion Inpainting, InsightFace의 세 가지 다른 생성 방법을 통해 총 90,000개의 합성 셀럽 얼굴을 생성하였다.
• 한 생성 방법에서 학습한 탐지기가 다른 생성 방법으로 생성된 딥페이크에 일반화 가능한지 평가하기 위해 교차 생성기 탐지 평가 프로토콜를 설계하였다.
• 일상적인 실세계 이미지 열악화 조건—색상 대비, 채도, 가우시안 블러, 텍스처 분해—에서 탐지기 성능을 평가하기 위해 열악한 조건의 이미지 분류 프로토콜를 구현하였다.
• 다양한 생성 방법과 왜곡 유형에서의 성능를 평가하기 위해 RECCE 모델을 베이스라인 탐지기로 사용하였다.
• 정확도(Acc), AUC, 등가 오류율(EER)과 같은 표준 지표를 활용하여 다양한 조건 하에서 탐지 성능을 정량적으로 평가하였다.

(a) Images from IMDB-WIKI dataset [ 26 ] .

실험 결과

연구 질문

• RQ1 Stable Diffusion를 기반으로 학습한 딥페이크 탐지기가, 다른 생성 방법(예: InsightFace)으로 생성된 딥페이크를 얼마나 잘 탐지할 수 있는가?
• RQ2 가우시안 블러, 텍스처 분해, 색상 변경 등의 일반적인 이미지 열악화 조건이 딥페이크 탐지기 성능에 어떤 영향을 미치는가?
• RQ3 다양한 디퓨전 기반 생성 기법 간 딥페이크의 상대적 탐지 가능성은 어떻게 다른가?
• RQ4 가우시안 블러나 텍스처 분해 등의 이미지 왜곡이 탐지 성능을 떨어뜨리거나 오히려 향상시키는가?
• RQ5 소스 생성 방법과 이미지 품질 조건에 따라 탐지기의 일반화 능력은 얼마나 달라지는가?

주요 결과

• RECCE 탐지기는 InsightFace로 생성된 딥페이크에서는 정확도 58.99%를 기록했고, Stable Diffusion Inpainting에서는 51.35%, Stable Diffusion v1.5에서는 단지 38.14%에 그쳐 생성 방법 간 성능 격차가 뚜렷하게 드러났다.
• 가우시안 블러와 색상 채도 변화 등의 이미지 왜곡은 탐지 성능에 미미하거나 오히려 약간의 긍정적 영향을 미쳤으며, 일부 방법에서는 블러 조건에서 정확도가 향상된 바가 있었다(예: Stable Diffusion v1.5의 경우 블러 조건에서 52.68%로 상승).
• 텍스처 분해는 Stable Diffusion v1.5의 성능을 떨어뜨렸다(정확도 42.49%로 하락), 그러나 InsightFace에는 덜 영향을 미쳤다(54.59%). 이는 각 생성 방법이 열악한 조건에 대해 서로 다른 민감도를 보임을 시사한다.
• 색상 대비 조정은 모든 방법에서 탐지 성능에 거의 영향을 주지 않았으며, 정확도와 EER에 미미한 변동만을 보였다.
• 교차 생성기 탐지 작업을 통해 한 생성 방법에서 학습한 탐지기가 다른 방법으로 생성된 딥페이크에 대해 일반화되지 못하는 경우가 많다는 점이 드러났으며, 이는 보다 강건하고 일반화 능력이 뛰어난 탐지 아키텍처의 필요성을 강조한다.
• 열악한 조건의 이미지 분류 작업을 통해 일부 왜곡, 특히 블러는 특정 생성 방법에 대해 탐지 가능성 향상을 유도할 수 있음을 확인하였으며, 이는 열악한 조건이 항상 탐지 성능을 떨어뜨린다는 가정을 도전한다.

(b) Deepfake images from FaceForensics++ [ 25 ] .