[논문 리뷰] Multi-criteria Anomaly Detection using Pareto Depth Analysis

Ko-Jen Hsiao, Kevin S. Xu외 2명|arXiv (Cornell University)|2011. 10. 17.

Anomaly Detection Techniques and Applications참고 문헌 22인용 수 11

한 줄 요약

이 논문은 비모수적 다기준 이상 탐지 방법인 파레토 깊이 분석(Pareto Depth Analysis, PDA)을 제안한다. PDA는 사전 정의된 가중치가 필요 없이 다수의 이질성 기준에서 이상치를 파악하기 위해 파레토 최적성(Pareto optimality)을 활용한다. 쌍(데이터 샘플 간의 쌍)의 다중 수준 파레토 프론트를 계산하고, 각 샘플을 그 쌍들이 이러한 프론트에 어떻게 분포되어 있는지에 따라 깊이(depth)로 할당함으로써, 깊이의 불균형을 기반으로 이상치를 탐지한다. 이는 기준 수에 대해 선형 스케일링을 보이며, 이론적·실증적으로 선형 조합 방법보다 뛰어나다.

ABSTRACT

We consider the problem of identifying patterns in a data set that exhibit anomalous behavior, often referred to as anomaly detection. In most anomaly detection algorithms, the dissimilarity between data samples is calculated by a single criterion, such as Euclidean distance. However, in many cases there may not exist a single dissimilarity measure that captures all possible anomalous patterns. In such a case, multiple criteria can be defined, and one can test for anomalies by scalarizing the multiple criteria using a linear combination of them. If the importance of the different criteria are not known in advance, the algorithm may need to be executed multiple times with different choices of weights in the linear combination. In this paper, we introduce a novel non-parametric multi-criteria anomaly detection method using Pareto depth analysis (PDA). PDA uses the concept of Pareto optimality to detect anomalies under multiple criteria without having to run an algorithm multiple times with different choices of weights. The proposed PDA approach scales linearly in the number of criteria and is provably better than linear combinations of the criteria.

연구 동기 및 목표

• 다양한 이상 패턴을 포괄하지 못하는 단일 기준 이상 탐지의 한계를 해결하기 위해.
• 다기준 이상 탐지에서 수동 또는 격자 기반의 가중치 선택이 필요 없도록 하기 위해.
• 파레토 최적성을 활용하여 다양한 이질성 측정 기준에서 강력한 이상 탐지가 가능한 확장 가능한 비모수적 방법을 개발하기 위해.
• 부드러운 밀도 가정 하에 PDA가 선형 조합 기반 이상 탐지보다 이론적·실증적으로 뛰어나다는 것을 입증하기 위해.

제안 방법

• 다양한 기준(예: 속도, 형태, 거리)에서 데이터 샘플 간의 상대적 이질성 측정을 위한 쌍(dyads)을 구성한다.
• 비지배되는 쌍을 반복적으로 제거함으로써 다중 파레토 프론트를 계산하고, 각 쌍에 대해 해당 프론트 수준에 해당하는 깊이를 할당한다.
• 시험 샘플과 관련된 쌍의 깊이 분포를 사용하여 이 샘플을 정상 또는 이상으로 분류한다—정상 샘플은 浅수준 프론트에 집중되고, 이상 샘플은 더 깊은 프론트에 분포한다.
• 각 기준에 대해 $k_i$개의 최근접 이웃 수를 독립적으로 선택하며, 이는 훈련 샘플의 $k_i$-최근접 이웃 그래프가 연결되어 있도록 보장한다.
• 합성 및 실세계 데이터(예: 보행자 궤적 분석)에 대해 이 방법을 적용하며, 연결성과 민감도를 균형 잡는 히우리스틱을 사용해 $k_i$ 값을 선택한다.
• 이론적 분석을 통해 PDA가 부드러운 $K$-차원 밀도 가정 하에 선형 조합 테스트를 능가함을 보였다.

실험 결과

연구 질문

• RQ1 여러 이질성 기준이 존재할 때, 파레토 깊이 분석이 선형 조합 방법보다 이상 탐지 성능이 뛰어나게 작용할 수 있는가?
• RQ2 제안된 방법은 기준 간 가중치 조정이 필요 없으며, 기준 수에 따라 어떻게 스케일링되는가?
• RQ3 다기준 환경에서 정상 샘플과 이상 샘플 간의 쌍의 깊이 분포는 어떻게 다를까?
• RQ4 사전에 최적 가중치를 알지 못하더라도, 연결된 $k$-최근접 이웃 그래프를 기반으로 한 히우리스틱이 기준별로 이웃 수를 신뢰성 있게 선택할 수 있는가?

주요 결과

• Pareto Depth Analysis는 기준 수에 대해 선형적으로 스케일링되며, 기준 수가 증가함에 따라 기하급수적으로 증가하는 격자 탐색 방법과는 대조된다.
• 이론적 분석을 통해 PDA는 부드러운 다기준 밀도 가정 하에 선형 조합 테스트보다 이상 탐지 성능이 뛰어나다는 것이 입증되었다.
• 보행자 궤적 실험에서 PDA는 수동으로 가중치를 조정한 최적 AUC에 매우 가까운 성능을 기록했으며, 모든 단일 기준 방법보다 뛰어났다.
• 연결된 $k$-최근접 이웃 그래프 기반의 $k_i$ 값 선택 히우리스틱은 진정한 최적 파rameter가 알려지지 않은 상황에서도 최적에 가까운 AUC를 안정적으로 도출하였다.
• 이상 샘플은 항상 더 깊은 파레토 프론트 깊이와 연관되었고, 정상 샘플은 더 浅수준 프론트에 집중되어 있어 신뢰성 있는 분류가 가능했다.