[논문 리뷰] Multi-view anomaly detection via robust probabilistic latent variable models

Tomoharu Iwata, Makoto Yamada|arXiv (Cornell University)|2016. 12. 05.

Anomaly Detection Techniques and Applications참고 문헌 24인용 수 30

한 줄 요약

이 논문은 다중 시각 이상 탐지에 대한 강건한 확률적 잠재변수 모델을 제안한다. 정상적인 인스턴스는 시각 간 공유되는 단일 잠재 벡터에서 생성되며, 이에 비해 이상적인 인스턴스는 다수의 시각별로 특화된 잠재 벡터로 모델링된다. 각 인스턴스의 잠재 벡터 수를 추론하기 위해 딜레트 프로세스 사전분포를 사용함으로써 비모수적 추론이 가능해지고, 이는 확률적 추론을 위한 스토하스틱 EM 알고리즘을 통해 실현된다. 이는 노이즈가 있는 다중 시각 데이터에서 향상된 탐지 성능을 달성한다.

ABSTRACT

We propose probabilistic latent variable models for multi-view anomaly detection, which is the task of finding instances that have inconsistent views given multi-view data. With the proposed model, all views of a non-anomalous instance are assumed to be generated from a single latent vector. On the other hand, an anomalous instance is assumed to have multiple latent vectors, and its different views are generated from different latent vectors. By inferring the number of latent vectors used for each instance with Dirichlet process priors, we obtain multi-view anomaly scores. The proposed model can be seen as a robust extension of probabilistic canonical correlation analysis for noisy multi-view data. We present Bayesian inference procedures for the proposed model based on a stochastic EM algorithm. The effectiveness of the proposed model is demonstrated in terms of performance when detecting multi-view anomalies.

연구 동기 및 목표

• 다양한 시각 간의 불일치가 이상성을 나타내는 다중 시각 데이터에서 이상 탐지를 해결하는 것.
• 정상적인 인스턴스를 시각 간 공유되는 단일 잠재 표현으로 모델링하는 것과 동시에, 이상적인 인스턴스가 다수의 시각별로 특화된 잠재 벡터를 가질 수 있도록 허용하는 것.
• 비모수적 베이지안 사전분포를 통해 각 인스턴스의 잠재 벡터 수를 자동으로 추론할 수 있도록 하는 것.
• 기존 방법들(예: 확률적 CCA)과 비교해 다중 시각 데이터의 노이즈에 더 강건한 성능을 확보하는 것.
• 스토하스틱 EM 알고리즘을 사용하여 제안된 모델에 대한 확장 가능한 베이지안 추론 절차를 개발하는 것.

제안 방법

• 모든 시각에서 동일한 공유 잠재 벡터에서 생성된 정상적인 인스턴스를 모델링하여 일관성을 확보한다.
• 불일치를 반영하기 위해 이상적인 인스턴스를 다수의 시각별로 특화된 잠재 벡터에서 생성된 것으로 모델링한다.
• 각 인스턴스의 잠재 벡터 수에 대해 딜레트 프로세스 사전분포를 사용하여 비모수적 추론을 가능하게 한다.
• 잠재 변수와 모델 파라미터의 베이지안 추론을 위해 스토하스틱 기대최대화(SEM) 알고리즘을 적용한다.
• 각 시각의 가능도를 그 시각의 잠재 벡터에 기반하여 기술하며, 잠재 구조에 조건부 독립을 가정한다.
• 잠재 벡터 구조를 통해 시각별 변동성을 민첩하게 모델링함으로써 노이즈에 대한 강건성을 확보한다.

실험 결과

연구 질문

• RQ1 불일치하는 시각을 식별함으로써 다중 시각 데이터에서 이상을 효과적으로 탐지할 수 있는 방법은 무엇인가?
• RQ2 비모수적 사전분포를 갖는 확률적 잠재변수 모델은 노이즈가 있는 다중 시각 환경에서 이상 탐지 성능을 얼마나 향상시킬 수 있는가?
• RQ3 사전 지식 없이도 각 인스턴스의 잠재 벡터 수를 신뢰성 있게 추론할 수 있는가?
• RQ4 노이즈 조건 하에서 제안된 모델은 확률적 공통성 기저 분석(PCA)에 비해 성능 면에서 어떻게 비교되는가?
• RQ5 스토하스틱 EM 알고리즘의 사용이 확장성과 추론 정확도에 어떤 영향을 미치는가?

주요 결과

• 제안된 모델은 노이즈가 있는 데이터에서 기준 방법들에 비해 다중 시각 이상 탐지 성능이 뛰어나다.
• 딜레트 프로세스 사전분포의 사용으로 각 인스턴스의 잠재 벡터 수를 데이터 기반으로 자동으로 추론할 수 있다.
• 모델은 이상 인스턴스를 나타내는 데 핵심적인 시각의 불일치를 효과적으로 포착한다.
• 스토하스틱 EM을 통한 베이지안 추론은 잠재변수 모델의 안정적이고 확장 가능한 파라미터 추정을 제공한다.
• 이 방법은 표준 확률적 CCA보다 다중 시각 이상 탐지 작업에서 노이즈에 더 강건함을 입증한다.
• 실험 결과는 제안된 모델의 이상도가 기존 접근 방식보다 이상 인스턴스를 더 구분력 있게 평가함을 확인한다.