[논문 리뷰] Anomaly scores for generative models

Václav Šmídl, Jan Bím외 1명|arXiv (Cornell University)|2019. 05. 28.

Anomaly Detection Techniques and Applications참고 문헌 38인용 수 5

한 줄 요약

이 논문은 재매개변수화된 우도를 사용하여 데이터를 다양체와 잔차 성분으로 분해함으로써, 특히 변분 오토에인코더(VAEs)와 GANs에 대해 이론적으로 근거가 있는 이상치 점수를 제안한다. 이 방법은 재구성 오차와 잠재 공간 확률을 결합하여 계산 효율성이 높은 점수를 도출하며, 다양한 데이터셋에서 감독 및 비감독 하이퍼파rameter 선택 모두에서 표준 재구성 오차보다 뛰어난 성능을 보인다.

ABSTRACT

Reconstruction error is a prevalent score used to identify anomalous samples when data are modeled by generative models, such as (variational) auto-encoders or generative adversarial networks. This score relies on the assumption that normal samples are located on a manifold and all anomalous samples are located outside. Since the manifold can be learned only where the training data lie, there are no guarantees how the reconstruction error behaves elsewhere and the score, therefore, seems to be ill-defined. This work defines an anomaly score that is theoretically compatible with generative models, and very natural for (variational) auto-encoders as they seem to be prevalent. The new score can be also used to select hyper-parameters and models. Finally, we explain why reconstruction error delivers good experimental results despite weak theoretical justification.

연구 동기 및 목표

• 재구성 오차가 생성 모델에서 이상치 점수로 사용될 때 이론적 근거가 부족한 문제를 해결하기 위해.
• VAEs와 GANs와 호환되는 방식으로 재구성 오차와 잠재 공간 확률을 통합하는 점수를 개발하기 위해.
• 특히 레이블이 없는 이상치가 존재하는 비감독 설정에서 신뢰할 수 있는 하이퍼파rameter 및 모델 선택을 가능하게 하기 위해.
• 정확한 우도 평가에 필요한 고차원 적분의 계산 가능 대안을 제공하기 위해.

제안 방법

• 데이터를 잠재 공간의 사영과 노이즈로 구성하는 다양체-잔차 분해를 통해 생성 모델를 재구성한다.
• 변수변환 공식을 사용하여 정확한 우도를 유도함으로써, 정규화 상수 없이도 정밀한 이상치 점수 계산이 가능해진다.
• 매개변수화된 인코더 $ g_{\phi} $ 와 생성자 $ f_{\theta} $ 를 사용하며, $ g_{\phi} $ 는 $ f_{\theta} $ 의 가상역행을 근사한다.
• 동일한 우도 프레임워크를 활용하여 VAEs와 GANs 모두에 점수를 적용함으로써, 재구성 오차에만 의존하지 않도록 한다.
• 레이블이 없는 이상치 상황에서도 훈련 중에 정확한 우도를 최대화함으로써 모델 선택에 점수를 활용한다.
• 잠재 코드 $ z' $ 에 대해 최적화함으로써 정규화 상수 근사 향상을 위한 방법을 도입하여 점수 정확도를 향상시킨다.

실험 결과

연구 질문

• RQ1 재구성 오차와 잠재 확률을 통합하는 이론적으로 타당한 이상치 점수를 생성 모델에 도출할 수 있는가?
• RQ2 재구성 오차가 이론적 기반은 약하지만 실무에서는 왜 잘 작동하는가?
• RQ3 제안된 점수가 레이블이 없는 이상치가 존재하는 비감독 이상 탐지에서 하이퍼파rameter 선택을 향상시킬 수 있는가?
• RQ4 제안된 점수가 감독 및 비감독 모델 선택 시나리오 양쪽에서 재구성 오차를 능가하는가?
• RQ5 저차원 다양체 가정이 이상 탐지에 유리한가? 그리고 성능에 어떤 영향을 미치는가?

주요 결과

• 레이블이 있는 이상치를 사용해 하이퍼파rameter를 선택할 경우, 제안된 이상치 점수가 모든 테스트 문제에서 재구성 오차보다 AUC에서 뚜렷이 뛰어나다.
• 레이블이 없는 비감독 설정에서, 제안된 점수는 10개 문제 중 9개에서 재구성 오차보다 높은 AUC를 기록한다.
• 제안된 점수 기반 이상 탐지 성능은 4~6개의 잠재 차원에서 최고로 나타나, 저차원 다양체가 모델링에 유리함을 시사한다.
• 재구성 오차 점수의 경우 잠재 차원에 민감도가 낮은 반면, 제안된 점수의 경우 명확한 최적 범위를 보이며 다양체 가정을 뒷받침한다.
• 논문은 재구성 오차의 실용적 성공이 이론적 강건성 때문이 아니라 유리한 데이터 분포 정렬 때문일 수 있음을 입증한다.
• 이 방법은 레이블이 없는 경우에도 정확한 우도 최대화를 통해 신뢰할 수 있는 점수를 제공함으로써, 하이퍼파rameter 튜닝을 위한 정확한 모델 선택이 가능하다.