[논문 리뷰] Reversible Adversarial Examples.

Jiayang Liu, Dongdong Hou외 2명|arXiv (Cornell University)|2018. 11. 01.

Adversarial Robustness in Machine Learning참고 문헌 30인용 수 7

한 줄 요약

이 논문은 복원 가능한 이미지 복원 기반으로 가역적 악성 예측 예제를 생성하는 새로운 방법을 제안한다. 이는 딥 뉴럴 네트워크가 잘못 분류하도록 하면서도 원본 이미지를 왜곡 없이 완전히 복원할 수 있도록 한다. 이 방법은 악성 예측 변형을 가역적으로 삽입하여 복호화 후에도 이미지의 정밀도를 유지한다.

ABSTRACT

Deep Neural Networks have recently led to significant improvement in many fields such as image classification and speech recognition. However, these machine learning models are vulnerable to adversarial examples which can mislead machine learning classifiers to give incorrect classifications. In this paper, we take advantage of reversible data hiding to construct reversible adversarial examples which are still misclassified by Deep Neural Networks. Furthermore, the proposed method can recover original images from reversible adversarial examples with no distortion.

연구 동기 및 목표

• 딥 뉴럴 네트워크의 악성 예측 예제에 대한 취약성을 해결하기 위해 가역적 메커니즘을 도입하는 것.
• 원본 이미지를 영구적으로 변경하지 않는 악성 예측 예제 생성을 가능하게 하는 것.
• 악성 예측 변형 제거 후에도 원본 입력 이미지를 완전히 재구성할 수 있도록 보장하는 것.
• 이미지 무결성을 유지하면서도 악성 공격에 의한 오분류 비율을 높이는 것.

제안 방법

• 정확한 재구성 가능성을 보장하기 위해 악성 예측 변형을 가역적으로 삽입하는 가역적 데이터 숨기기 기법을 활용한다.
• 악성 노이즈를 가장 낮은 비트 또는 유사한 가역적 구조에 인코딩하는 가역적 삽입 프레임워크를 사용한다.
• 수정된 이미지에 딥 뉴럴 네트워크 분류기를 적용하여 오분류를 유도하면서도 가역성 특성을 유지한다.
• 악성 예측 변형을 추출하고 원본 이미지를 왜곡 없이 복원하는 복호화 프로세스를 구현한다.
• 분류기의 오용을 유도할 수 있는 효과적인 악성 예측 예제를 유지하면서도 손실 없는 원본 이미지 복원을 보장한다.

실험 결과

연구 질문

• RQ1 원본 이미지를 완전히 복원할 수 있도록 하는 방식으로 악성 예측 예제를 구성할 수 있는가?
• RQ2 가역적 데이터 숨기기가 이미지 무결성을 훼손하지 않으면서도 효과적인 악성 공격를 가능하게 하는가?
• RQ3 가역적으로 수정된 예측 예제로 딥 뉴럴 네트워크를 속일 수 있는가?
• RQ4 이 프레임워크에서 공격 성공률과 가역성 사이의 상충 관계는 어떠한가?

주요 결과

• 제안된 방법은 높은 공격 성공률로 딥 뉴럴 네트워크를 오분류하는 데 성공적으로 악성 예측 예제를 생성한다.
• 악성 예측 예제에서 원본 이미지가 왜곡 없이 복원되어 완전한 가역성이 확인된다.
• 이 방법은 예측 예제의 악성 성격을 유지하여 타겟 모델이 잘못 분류하도록 보장한다.
• 가역적 데이터 숨기기가 악성 예측 예제 생성에 효과적으로 통합될 수 있음을 보여준다.