[논문 리뷰] Towards Privacy Protection by Generating Adversarial Identity Masks

Xiao Yang, Yinpeng Dong외 3명|arXiv (Cornell University)|2020. 03. 15.

Adversarial Robustness in Machine Learning참고 문헌 26인용 수 6

한 줄 요약

이 논문은 얼굴 인식 시스템으로부터 신원을 숨기기 위해 적대적 신원 마스크를 추가함으로써 자연스러운 얼굴 이미지를 생성하는 대상 지능 보호 반복 방법인 TIP-IM을 제안한다. 이 방법은 최첨단 모델들 사이에서 신원 추론을 효과적으로 차단하면서도 높은 시각적 품질을 유지한다.

ABSTRACT

As billions of personal data such as photos are shared through social media and network, the privacy and security of data have drawn an increasing attention. Several attempts have been made to alleviate the leakage of identity information with the aid of image obfuscation techniques. However, most of the present results are either perceptually unsatisfactory or ineffective against real-world recognition systems. In this paper, we argue that an algorithm for privacy protection must block the ability of automatic inference of the identity and at the same time, make the resultant image natural from the users' point of view. To achieve this, we propose a targeted identity-protection iterative method (TIP-IM), which can generate natural face images by adding adversarial identity masks to conceal ones' identity against a recognition system. Extensive experiments on various state-of-the-art face recognition models demonstrate the effectiveness of our proposed method on alleviating the identity leakage of face images, without sacrificing? the visual quality of the protected images.

연구 동기 및 목표

• 소셜 미디어 및 온라인 플랫폼에서 개인 사진이 널리 공유되면서 증가하는 신원 泄露 문제를 다루기 위해.
• 기존의 이미지 왜곡 기법들이 시각적으로 부자연스럽거나 실제 세계의 인식 시스템에 효과적이지 못한 한계를 극복하기 위해.
• 자동화된 신원 추론을 차단하면서도 사용자의 시각적 자연스러움을 유지하는 방법을 개발하기 위해.
• 다양한 최첨단 얼굴 인식 모델에 걸쳐 강력한 프라이버시 보호를 달성하기 위해.

제안 방법

• 이 방법은 얼굴 이미지의 신원 인코딩 특징을 전적으로 타겟으로 삼는 적대적 신원 마스크를 생성하기 위해 반복 최적화 과정을 활용한다.
• 적대적 마스크는 인간에게는 눈에 띄지 않게 설계되었지만, 얼굴 인식 모델의 특징 추출 과정을 방해하도록 한다.
• 시각적 품질을 유지하기 위해 인지 손실을 통합하여 보호된 이미지가 자연스럽게 보이도록 한다.
• 비신원 관련 특징을 수정하지 않고 신원 임베딩만을 변경하는 대상 공격 전략을 사용한다.
• 인식 모델이 주제를 정확히 식별하지 못할 때까지 마스크를 반복적으로 개선한다.
• 일반화를 보장하기 위해 여러 최첨단 얼굴 인식 모델에 대해 프레임워크를 훈련하고 평가한다.

실험 결과

연구 질문

• RQ1 적대적 신원 마스크를 생성함으로써 시각적 자연스러움을 유지하면서도 효과적으로 신원을 숨길 수 있는가?
• RQ2 제안된 방법이 다양한 최첨단 얼굴 인식 모델에서 신원 인식을 얼마나 효과적으로 방해하는가?
• RQ3 기존의 왜곡 기법들과 비교해 볼 때, 이 방법이 시각적 품질을 어느 정도 유지하는가?
• RQ4 반복적인 정밀 조정 과정이 실제 세계의 인식 시스템에 대한 신원 보호의 강건성을 향상시키는가?

주요 결과

• 제안된 TIP-IM 방법은 테스트된 모든 최첨단 얼굴 인식 모델에서 신원을 성공적으로 숨기며 뛰어난 일반화 능력을 보였다.
• 적대적 마스크가 인지적으로 자연스럽고 이미지 외관을 떨어뜨리지 않기 때문에 보호된 이미지가 높은 시각적 품질을 유지했다.
• 인식 모델의 재학습이 필요 없이도 효과적인 신원 보호를 달성했기 때문에 강건성을 입증했다.
• 반복 최적화 과정이 신원 추론 방해에 있어 적대적 마스크의 효과를 향상시켰다.