[논문 리뷰] Mitigating Adversarial Attacks in Deepfake Detection: An Exploration of Perturbation and AI Techniques

Saminder Dhesi, Laura Fontes외 4명|arXiv (Cornell University)|2023. 02. 22.

Adversarial Robustness in Machine Learning인용 수 4

한 줄 요약

이 논문은 적대적 공격에 대한 강건성을 향상시키기 위해 흰상자 기반 편향 기반 방어를 통해 맞춤형 컨볼루션 신경망(CNN)을 제안한다. 모델은 DFDC 데이터셋에서 76.2%의 정밀도를 기록하며, 적대적 공격 하에서 분류 신뢰도가 크게 감소하여 회피 공격에 대한 개선된 저항성을 입증한다.

ABSTRACT

Deep learning constitutes a pivotal component within the realm of machine learning, offering remarkable capabilities in tasks ranging from image recognition to natural language processing. However, this very strength also renders deep learning models susceptible to adversarial examples, a phenomenon pervasive across a diverse array of applications. These adversarial examples are characterized by subtle perturbations artfully injected into clean images or videos, thereby causing deep learning algorithms to misclassify or produce erroneous outputs. This susceptibility extends beyond the confines of digital domains, as adversarial examples can also be strategically designed to target human cognition, leading to the creation of deceptive media, such as deepfakes. Deepfakes, in particular, have emerged as a potent tool to manipulate public opinion and tarnish the reputations of public figures, underscoring the urgent need to address the security and ethical implications associated with adversarial examples. This article delves into the multifaceted world of adversarial examples, elucidating the underlying principles behind their capacity to deceive deep learning algorithms. We explore the various manifestations of this phenomenon, from their insidious role in compromising model reliability to their impact in shaping the contemporary landscape of disinformation and misinformation. To illustrate progress in combating adversarial examples, we showcase the development of a tailored Convolutional Neural Network (CNN) designed explicitly to detect deepfakes, a pivotal step towards enhancing model robustness in the face of adversarial threats. Impressively, this custom CNN has achieved a precision rate of 76.2% on the DFDC dataset.

연구 동기 및 목표

• 딥페이크 탐지 시스템에서의 증가하는 적대적 공격 위협이 모델의 신뢰성과 신뢰성에 미치는 영향을 해결하기 위해.
• 오류 분류를 유도하는 미세하고 눈에 띄지 않는 편향에 대한 딥페이크 탐지 모델의 강건성을 향상시키기 위해.
• 사전 공격을 통해 사전 훈련 및 모델 저항성 평가를 위한 방어 기반 기법을 개발하기 위해.
• 미디어 무결성, 명성 관리 및 사이버보안 분야에서의 딥페이크 윤리적 및 실용적 영향을 탐구하기 위해.
• 영상 포렌식을 넘어서 로봇 공학 분야의 3D 객체 정렬과 같은 더 넓은 분야로 탐지 프레임워크의 적용 가능성을 확장하기 위해.

제안 방법

• 실제 대 조작 영상 간의 이진 분류를 위해 특별히 설계된 맞춤형 컨볼루션 신경망(CNN) 아키텍처를 설계한다.
• 실제 회피 공격를 시뮬레이션하고 모델의 강건성을 평가하기 위해 대상 편향을 활용한 흰상자 적대적 공격를 적용한다.
• 영상 시퀀스의 시간적 의존성을 캡처하기 위해 프레임 단위 분석을 활용하여 탐지 정확도를 향상시킨다.
• 훈련 중 모델 정확도와 데이터 프라이버시의 균형을 맞추기 위해 차별적 프라이버시 기법을 활용한다.
• 자르기, 압축 및 하위 샘플링된 네트워크 평가를 적용하여 적대적 입력에 대한 모델 저항성 평가 및 향상한다.
• DFDC 및 코로나19 관련 데이터셋을 활용해 훈련 및 평가를 수행하며, 일관성을 확보하기 위해 입력 치수를 표준화한다.

Figure 1: Customised 7-layer CNN architecture. The network is composed of 3 convolutional layers, 3 fully connected layer and the classification layer.

실험 결과

연구 질문

• RQ1 표준 모델 대비 적대적 편향 하에서 맞춤형 CNN이 딥페이크 탐지에 얼마나 효과적인가?
• RQ2 대상 흰상자 적대적 공격가 딥페이크 탐지 시스템의 분류 신뢰도를 어느 정도 감소시키는가?
• RQ3 편향을 통한 적대적 훈련이 회피 공격에 대한 딥페이크 탐지기의 강건성을 향상시킬 수 있는가?
• RQ4 실제 응용 분야에 AI 기반 딥페이크 탐지 시스템을 도입할 경우 윤리적 및 사회적 영향은 무엇인가?
• RQ5 제안된 방법론을 음성-영상 미디어 및 자율 시스템과 같은 다른 분야의 적대적 조작 탐지에 어떻게 확장할 수 있는가?

주요 결과

• 제안된 CNN은 DFDC 데이터셋에서 76.2%의 정밀도를 기록하여 딥페이크 탐지에 강력한 기초 성능을 입증했다.
• 흰상자 적대적 공격 하에서 실사 대 가짜 영상 데이터셋의 분류 확률은 10.9에서 2.26e-18로 감소하여 모델의 심각한 취약성을 나타냈다.
• 코로나19 데이터셋의 경우도 적대적 편향 하에서 분류 확률이 11.1에서 1.46e-16로 감소하여 일관된 모델 성능 저하를 확인했다.
• 훈련 중 적대적 편향을 활용함으로써 정확한 예측에 대한 모델 신뢰도가 크게 감소하여 강건한 방어 기반 기법의 필요성을 강조했다.
• 차별적 프라이버시 및 데이터 정제 기법의 통합은 정보 泄露를 완화하고 모델 일반화 능력을 향상시켰다.
• 이 방법론은 음성 딥페이크 탐지 및 로봇 응용 분야의 3D 객체 정렬 분야로의 확장 가능성을 보이며, 더 넓은 적용 가능성을 시사한다.

Figure 2: The epochs and Accuracy on Real vs. Fake dataset with CNN model