[논문 리뷰] Normalizing flows for deep anomaly detection

A. Ryzhikov, M. Borisyak외 2명|arXiv (Cornell University)|2019. 12. 19.

Anomaly Detection Techniques and Applications참고 문헌 5인용 수 12

한 줄 요약

이 논문은 클래스 불균형이 있는 데이터에서 이상 탐지에 정규화 흐름 기반의 방법을 제안한다. 학습 시에는 정상 샘플만 이용 가능하다. 정상 데이터 분포를 모델링하고 적절한 베이지안 추론을 통해 사후 확률을 추정함으로써, 이상 레이블이 없는 환경에서도 희귀한 이상 현상을 효과적으로 식별할 수 있으며, 기준 데이터셋에서 최고 성능을 달성한다.

ABSTRACT

Anomaly detection for complex data is a challenging task from the perspective of machine learning. In this work, weconsider cases with missing certain kinds of anomalies in the training dataset, while significant statistics for the normal class isavailable. For such scenarios, conventional supervised methods might suffer from the class imbalance, while unsupervised methodstend to ignore difficult anomalous examples. We extend the idea of the supervised classification approach for class-imbalanceddatasets by exploiting normalizing flows for proper Bayesian inference of the posterior probabilities.

연구 동기 및 목표

• 정상 데이터는 풍부하지만 이상 현상은 학습 데이터에서 희귀하거나 존재하지 않는 상황에서 이상 탐지 문제를 해결하는 것.
• 클래스 불균형 상황에서의 지도 학습 방법의 한계와 이상 현상이 잘 드러나지 않는 비지도 학습 방법의 한계를 극복하는 것.
• 제한된 이상 데이터 조건에서 정규화 흐름을 활용하여 정확한 사후 확률 추정을 수행하는 방법을 개발하는 것.
• 역행 가능성을 갖는 생성 모델링을 통해 정상 데이터의 진정된 기저 분포를 모델링함으로써 효과적인 이상 탐지 구현

제안 방법

• 이 방법은 정상 데이터의 복잡한 분포에서 단순한 기저 분포로의 탄성 가능한 변환을 학습하기 위해 정규화 흐름을 활용한다.
• 학습된 정규화 흐름을 사용하여 정상 분포 하에서 입력 샘플의 가능도를 계산하며, 이를 이상도 점수로 활용한다.
• 정확도를 높이기 위해 베이지안 추론을 도입하여 저자료 환경에서의 신뢰성을 향상시킨다.
• 이상 레이블이 필요 없도록 정상 샘플만으로 학습한다.
• 가능도 추정은 변수 변화 공식을 통해 수행되어 정확한 밀도 추정이 가능하다.
• 모델은 엔드 투 엔드로 미분 가능하여 흐름과 이상 탐지 목적 함수를 함께 최적화할 수 있다.

실험 결과

연구 질문

• RQ1 학습 데이터에서 이상 현상이 존재하지 않을 때 정규화 흐름이 정상 데이터 분포를 효과적으로 모델링할 수 있는가?
• RQ2 베이지안 사후 확률 추정은 클래스 불균형 상황에서 이상 탐지 성능을 얼마나 향상시킬 수 있는가?
• RQ3 제안된 방법은 기준 이상 탐지 데이터셋에서 기존의 비지도 및 준지도 방법보다 뛰어난 성능을 보일 수 있는가?
• RQ4 비정상 샘플과 시각적 또는 구조적으로 유사한 어려운 이상 현상은 어느 정도 탐지 가능한가?

주요 결과

• 제안된 방법은 다양한 기준 데이터셋에서 최고 성능을 달성하며, 기존의 비지도 및 준지도 방법을 능가한다.
• 정규화 흐름을 통해 정상 분포를 모델링함으로써 정상 샘플은 높은 가능도를, 이상 샘플은 낮은 가능도를 기록한다.
• 베이지안 사후 추정은 특히 희소한 이상 현상이 존재하는 저자료 환경에서 탐지 신뢰도를 향상시킨다.
• 이 방법은 이미지 및 표 형식 데이터와 같은 복잡한 데이터 구조와 분포 이탈 상황에서도 강건함을 보였다.