[논문 리뷰] Maximum Mean Discrepancy is Aware of Adversarial Attacks

Ruize Gao, Feng Liu외 5명|arXiv (Cornell University)|2020. 10. 22.

Adversarial Robustness in Machine Learning참고 문헌 81인용 수 10

한 줄 요약

이 논문은 깊이 있는 커널, 渐近 통계를 통한 검정력 최적화, 비독립 동일분포가 아닌 데이터를 다루기 위한 와일드 부트스트랩을 적용함으로써 최대 평균 차이(MMD) 검정이 적대적 공격을 탐지할 수 있음을 보여준다. 개선된 MMD 검정은 자연 데이터와 적대적 데이터 간의 분포 차이를 성공적으로 식별하며, 이는 적대적 탐지에 있어서 이중표본 검정이 실현 가능하고 타당한 프레임워크임을 입증한다.

ABSTRACT

The maximum mean discrepancy (MMD) test could in principle detect any distributional discrepancy between two datasets. However, it has been shown that the MMD test is unaware of adversarial attacks -- the MMD test failed to detect the discrepancy between natural and adversarial data. Given this phenomenon, we raise a question: are natural and adversarial data really from different distributions? The answer is affirmative -- the previous use of the MMD test on the purpose missed three key factors, and accordingly, we propose three components. Firstly, the Gaussian kernel has limited representation power, and we replace it with an effective deep kernel. Secondly, the test power of the MMD test was neglected, and we maximize it following asymptotic statistics. Finally, adversarial data may be non-independent, and we overcome this issue with the wild bootstrap. By taking care of the three factors, we verify that the MMD test is aware of adversarial attacks, which lights up a novel road for adversarial data detection based on two-sample tests.

연구 동기 및 목표

• 이전의 MMD 검정이 이론적으로는 가능함에도 불구하고 적대적 공격을 탐지하지 못한 이유를 탐구하기 위해.
• 이전 MMD 응용에서의 세 가지 핵심한 한계—얕은 커널 표현, 낮은 검정력, i.i.d. 가정 위반—를 식별하고 수정하기 위해.
• 자연적 데이터와 적대적 데이터 분포를 효과적으로 구분할 수 있는 강력한 MMD 기반 방법을 개발하기 위해.
• 이중표본 검정이 적대적 데이터 탐지에 있어서 실현 가능하고 이론적으로 타당한 접근법임을 확립하기 위해.

제안 방법

• 복잡한 데이터 분포를 위한 표현 능력을 향상시키기 위해 표준 가우시안 커널을 깊이 있는 커널로 대체하기 위해.
• 점근적 통계 이론을 활용하여 MMD 검정의 검정력을 최대화함으로써 분포 차이에 대한 민감도를 향상시키기 위해.
• 적대적 데이터에서의 의존성 가능성을 고려하기 위해 와일드 부트스트랩 방법을 적용하여 비독립 동일분포 조건 하에서도 타당한 추론을 보장하기 위해.
• 세 가지 구성 요소—깊이 있는 커널, 검정력 최적화, 와일드 부트스트랩—을 통합하여 적대적 탐지에 적합한 통합 MMD 프레임워크를 구축하기 위해.
• 최종적으로 개선된 MMD 검정을 사용하여 이중표본 검정 설정에서 자연 데이터와 적대적 데이터 분포를 비교하기 위해.

실험 결과

연구 질문

• RQ1 왜 이전의 MMD 검정은 자연 데이터와 적대적 데이터 간의 분포 차이를 탐지하지 못했는가?
• RQ2 MMD 검정이 내재된 한계를 보완함으로써 적대적 공격에 민감하게 만들 수 있는가?
• RQ3 깊이 있는 커널의 사용이 MMD 검정이 적대적 예제로 인한 미세한 분포 이탈을 탐지하는 능력을 향상시키는가?
• RQ4 검정력 최적화가 MMD 검정의 적대적 변형에 대한 민감도에 어떤 영향을 미치는가?
• RQ5 와일드 부트스트랩 방법은 적대적 데이터의 비독립 동일분포가 아닌 구조를 효과적으로 다룰 수 있으며 타당한 통계적 추론을 보장하는가?

주요 결과

• 개선된 MMD 검정은 자연 데이터와 적대적 데이터 간의 분포 차이를 성공적으로 탐지하여, 이러한 데이터가 실제로 서로 다른 분포에서 유래되었음을 확인한다.
• 가우시안 커널을 깊이 있는 커널로 대체함으로써 MMD 검정의 표현 능력과 탐지 능력이 크게 향상된다.
• 점근적 통계를 활용한 검정력 최적화로 인해 MMD 검정은 미세하지만 의미 있는 분포 이탈에 대해 민감도가 향상된다.
• 와일드 부트스트랩 방법은 적대적 데이터의 비독립 동일분포가 아닌 구조를 효과적으로 처리하여 신뢰할 수 있는 p-값과 타당한 통계적 추론을 보장한다.
• 깊이 있는 커널, 검정력 최적화, 와일드 부트스트랩의 조합은 다양한 데이터셋과 모델에서 적대적 공격을 신뢰성 있게 탐지할 수 있도록 한다.