[논문 리뷰] Making GAN-Generated Images Difficult To Spot: A New Attack Against Synthetic Image Detectors.

Xinwei Zhao, Matthew C. Stamm|arXiv (Cornell University)|2021. 04. 25.

Digital Media Forensic Detection참고 문헌 45인용 수 5

한 줄 요약

이 논문은 적대적으로 훈련된 생성기로 GAN에 의해 생성된 이미지에 합성 흔적을 삽입하여 최신 검출 모델이 실사 이미지와 구분할 수 없도록 하는 새로운 반포악 공격 기법을 제안한다. 이 방법은 다양한 GAN들에 대해 여덟 개의 최신 기술 검출 컨볼루션 네트워크(CNN)를 성공적으로 속일 수 있을 정도로 높은 전이성(transferability)을 달성한다.

ABSTRACT

Visually realistic GAN-generated images have recently emerged as an important misinformation threat. Research has shown that these synthetic images contain forensic traces that are readily identifiable by forensic detectors. Unfortunately, these detectors are built upon neural networks, which are vulnerable to recently developed adversarial attacks. In this paper, we propose a new anti-forensic attack capable of fooling GAN-generated image detectors. Our attack uses an adversarially trained generator to synthesize traces that these detectors associate with real images. Furthermore, we propose a technique to train our attack so that it can achieve transferability, i.e. it can fool unknown CNNs that it was not explicitly trained against. We demonstrate the performance of our attack through an extensive set of experiments, where we show that our attack can fool eight state-of-the-art detection CNNs with synthetic images created using seven different GANs.

연구 동기 및 목표

• GAN에 의해 생성된 합성 이미지가 허위 정보 확산에 미치는 증가하는 위협을 다루기 위해.
• 일般적으로 깊은 신경망인 포악 감지기들이 적대적 공격에 취약한 점을 극복하기 위해.
• 실사 이미지의 흔적을 모방하는 흔적을 내재한 GAN 생성 이미지를 만들어 감지 회피를 가능하게 하기 위해.
• 훈련 중에 사용되지 않은, 알려지지 않은 검출 컨볼루션 네트워크(CNN)를 속일 수 있도록 전이성이 보장되는 공격을 확보하기 위해.

제안 방법

• 실사 이미지와 관련된 포악 흔적을 내재한 GAN 생성 이미지를 합성하기 위해 적대적으로 훈련된 생성기를 사용한다.
• 목표 검출 모델이 이미지를 실사로 분류하도록 유도하기 위해 손실 함수를 사용하여 공격를 훈련한다.
• 훈련 중에 전이성 목표를 통합하여 공격가가 훈련 중에 사용되지 않은 검출 CNN에 일반화될 수 있도록 보장한다.
• 생성기의 최적화를 위해 적대적 훈련을 활용하여, 검출기의 아키텍처나 가중치에 대한 접근 없이도 검출기를 속이는 이미지를 생성한다.

실험 결과

연구 질문

• RQ1 최신 기술 검출 모델이 실사 이미지와 구분할 수 없도록 하는 반포악 공격을 설계할 수 있는가?
• RQ2 훈련 중에 볼 수 없었던 다른 검출 컨볼루션 네트워크(CNN)에 대해 공격의 성능 전이 능력은 얼마나 효과적인가?
• RQ3 다양한 GAN 아키텍처가 생성하는 합성 이미지에 대해 공격가가 얼마나 널리 일반화될 수 있는가?
• RQ4 적대적 훈련이 반포악 생성기의 강건성과 전이성에 어떤 영향을 미치는가?

주요 결과

• 제안된 공격는 훈련 중에 사용되지 않은 여덟 개의 최신 기술 이미지 검출 컨볼루션 네트워크(CNN)를 성공적으로 속였다.
• 공격는 훈련 중에 사용되지 않은, 다른 데이터셋과 아키텍처를 가진 CNN에 대해서도 효과적으로 감지 회피를 구현하며 강력한 전이성을 보였다.
• 고도로 높은 시각적 사실성과 함께 실사 이미지의 흔적을 모방하는 흔적을 내장하여 현실감을 유지했다.
• 공격는 일곱 가지의 다른 GAN 아키텍처에서 효과를 보이며 현재의 GAN 기반 이미지 합성 파이프라인에 광범위하게 적용 가능함을 시사한다.