[논문 리뷰] Near-optimal Anomaly Detection in Graphs using Lovasz Extended Scan Statistic

James Sharpnack, Akshay Krishnamurthy외 1명|arXiv (Cornell University)|2013. 12. 11.

Anomaly Detection Techniques and Applications참고 문헌 29인용 수 47

한 줄 요약

이 논문은 일반화된 최대우도 비율 검정(GSS)의 계산적으로 비가능한 해에 대한 효율적인 근사로, 가우시안 노이즈 하에서 잘 연결된 비정상적인 클러스터를 탐지하기 위한 Lovász 확장 스캔 통계량(LESS)을 제안한다. 하위모듈라리티와 마르코프 무작위 필드(MRF) 및 전기 회로 이론과의 연결을 활용함으로써, LESS는 알려진 하한값에 가까운 최적의 탐지 성능를 달성하면서도, 연속적인 최소 s-t 컷 최적화를 통해 다항식 시간 내에 계산이 가능하다.

ABSTRACT

The detection of anomalous activity in graphs is a statistical problem that arises in many applications, such as network surveillance, disease outbreak detection, and activity monitoring in social networks. Beyond its wide applicability, graph structured anomaly detection serves as a case study in the difficulty of balancing computational complexity with statistical power. In this work, we develop from first principles the generalized likelihood ratio test for determining if there is a well connected region of activation over the vertices in the graph in Gaussian noise. Because this test is computationally infeasible, we provide a relaxation, called the Lovasz extended scan statistic (LESS) that uses submodularity to approximate the intractable generalized likelihood ratio. We demonstrate a connection between LESS and maximum a-posteriori inference in Markov random fields, which provides us with a poly-time algorithm for LESS. Using electrical network theory, we are able to control type 1 error for LESS and prove conditions under which LESS is risk consistent. Finally, we consider specific graph models, the torus, k-nearest neighbor graphs, and epsilon-random graphs. We show that on these graphs our results provide near-optimal performance by matching our results to known lower bounds.

연구 동기 및 목표

• . 이 논문은 가우시안 노이즈 하에서 잘 연결된 비정상적인 클러스터를 탐지하는 문제에 도전한다.
• . 그래프 구조 이상 탐지에서 통계적 검정력과 계산 가능성의 균형을 찾고자 한다.
• . 대규모 그래프에 대해 통계적으로 강력하고 계산 가능성이 있는 검정법을 개발하고자 한다.
• . 제안된 방법에 대한 제1종 오류 통제 및 위험 일致성에 대한 이론적 보장을 제공하고자 한다.
• . 특정 그래프 모델에서 알려진 하한값과 성능를 일치시킴으로써, 제안된 방법이 거의 최적임을 입증하고자 한다.

제안 방법

• . 이 논문은 비정상 클러스터 탐지를 위한 최적의 해이지만 계산적으로 비가능한 일반화된 최대우도 비율 검정(GSS)을 유도한다.
• . GSS의 완화로 하위모듈라리티를 활용한 Lovász 확장 스캔 통계량(LESS)을 도입하여 계산 가능성 확보한다.
• . LESS는 연속적인 최소 s-t 컷 문제를 통해 계산되며, 다항식 시간 내에 계산이 가능하다.
• . LESS는 마르코프 무작위 필드(MRF)에서의 최대 a-posteriori(MAP) 추론과 연결되어 확률적 해석을 제공한다.
• . 제1종 오류 통제는 전기 회로 이론을 활용하여, 검정 임계값을 그래프 컷의 유효 저항과 연결한다.
• . 이론적 분석을 통해 탐지 성능를 유효 저항과 연결함으로써, 위험 일치성 및 거의 최적성 보장을 가능하게 한다.

실험 결과

연구 질문

• RQ1 . 가우시안 노이즈 하에서 잘 연결된 비정상 클러스터를 탐지하기 위한 계산적으로 효율적인 검정법을 개발할 수 있는가?
• RQ2 . 제안된 LESS 방법이 알려진 통계적 하한값과 비교해 거의 최적의 탐지 성능를 달성하는가?
• RQ3 . 유효 저항과 같은 그래프 이론적 개념을 사용해 LESS에서 제1종 오류를 통제할 수 있는가?
• RQ4 . 적절한 신호 대 잡음비(SNR) 조건 하에서 LESS 방법이 이론적으로 위험 일치성을 갖는가?
• RQ5 . LESS 방법은 그래프 컷 알고리즘을 통해 효율적으로 계산될 수 있으며, MRF 추론과 어떤 관계가 있는가?

주요 결과

• . Lovász 확장 스캔 통계량(LESS)은 다양한 그래프 모델에서 알려진 하한값에 로그 인자 정도의 오차로 가까운 최적의 탐지 성능를 달성한다.
• . 1차원 토러스와 같은 간선 대칭 그래프에서는 µ = ω(max{√(ρ/d log p), log p})일 때 H0와 H1를 구분할 수 있다.
• . k-최근접 이웃 그래프에서 k/p → 0 이고 k(k/p)²/D → ∞ 이면, µ = ω(max{√(ρ/k log p), log p})일 때 LESS는 이상을 탐지할 수 있다.
• . ǫ-그래프에서 ǫ → 0 이고 nǫD+2 → ∞ 이면, µ = ω(max{√(ρ/(pǫD log p)), log p})일 때 LESS는 이상을 탐지할 수 있다.
• . 제1종 오류는 유효 저항에서 유도된 임계값을 사용해 수준 α로 통제되며, 계산이 불가능한 GSS에 비해 성능 손실가 최소이다.
• . 실험 결과는 LESS가 토러스, k-NN, ǫ-그래프 모델에서 스펙트럼 스캔 통계량과 UST 웨이블릿 검출기보다 ROC 성능에서 뛰어나다는 것을 보여준다.