[논문 리뷰] Anomaly Detection in Big Data

Chandresh Kumar Maurya|arXiv (Cornell University)|2022. 03. 03.

Anomaly Detection Techniques and Applications인용 수 4

한 줄 요약

이 박사학위논문은 고차원성, 희소성, 확장성 문제를 다루기 위해 비용 감수 학습, 확률적 최적화, 분산 프레임워크를 활용하여 빅데이터에서 이상 탐지에 적합한 새로운 알고리즘—PAGMEAN, ASPGD, DSCIL, CILSD—을 제안한다. 주요 기여는 G-mean 성능 향상과 분산 환경에서의 강건성 향상이며, 특히 KDDCup 2008을 포함한 실제 데이터셋과 벤치마크 데이터셋에서 뛰어난 성능을 보였다.

ABSTRACT

Anomaly is defined as a state of the system that do not conform to the normal behavior. For example, the emission of neutrons in a nuclear reactor channel above the specified threshold is an anomaly. Big data refers to the data set that is \emph{high volume, streaming, heterogeneous, distributed} and often \emph{sparse}. Big data is not uncommon these days. For example, as per Internet live stats, the number of tweets posted per day has gone above 500 millions. Due to data explosion in data laden domains, traditional anomaly detection techniques developed for small data sets scale poorly on large-scale data sets. Therefore, we take an alternative approach to tackle anomaly detection in big data. Essentially, there are two ways to scale anomaly detection in big data. The first is based on the \emph{online} learning and the second is based on the \emph{distributed} learning. Our aim in the thesis is to tackle big data problems while detecting anomaly efficiently. To that end, we first take \emph{streaming} issue of the big data and propose Passive-Aggressive GMEAN (PAGMEAN) algorithms. Although, online learning algorithm can scale well over large number of data points and dimensions, they can not process data when it is distributed at multiple locations; which is quite common these days. Therefore, we propose anomaly detection algorithm which is inherently distributed using ADMM. Finally, we present a case study on anomaly detection in nuclear power plant data.

연구 동기 및 목표

• 기존의 지도 학습 방법이 레이블 부족으로 실패하는 고차원성, 희소성, 분산 처리가 필요한 빅데이터 환경에서 이상 탐지 문제를 해결한다.
• 클래스 불균형과 스트리밍 데이터 특성을 처리할 수 있는 확장성 있고 효율적이며 강건한 이상 탐지 알고리즘을 개발한다.
• 최소한의 하이퍼파라미터 튜닝으로 가능하도록 분산 및 온라인 학습 프레임워크를 통해 실세계 적용을 가능하게 한다.
• 핵심 전력원 및 KDDCup 2008 데이터를 포함한 벤치마크 및 실세계 데이터셋에서 성능을 평가하여 실용적 적용 가능성을 입증한다.

제안 방법

• 비용 감수 학습에서 비볼록성을 다루기 위해 수반 손실 함수를 패assive-aggressive(PA) 프레임워크에 통합하여 G-mean 성능 향상을 이룬 PAGMEAN을 제안한다.
• 스트리밍, 고차원 데이터를 위한 비용 감수 스무드 힌지 손실 함수와 네스터프 가속을 갖춘 확률적 프락시멀 학습 알고리즘인 ASPGD를 도입한다.
• L2-정규화된 비용 감수 손실 함수를 사용하는 분산 ADMM 프레임워크를 기반으로 한 DSCIL을 개발하였으며, 최적화에 L-BFGS(L-DSCIL)와 무작위 좌표 강하(R-DSCIL)를 활용한다.
• 학습률 튜닝이 필요 없는 파라미터 프리 분산 FISTA 유사 알고리즘인 CILSD를 제안하였으며, 리프시츠 상수를 통한 적응적 스텝 사이즈를 사용한다.
• 특히 핵심 전력원 모니터링와 같이 레이블이 없는 실세계 데이터에 대해 비지도 기반 기준선으로 SVDD를 활용하여 효과성을 검증한다.
• 다양한 데이터셋과 하드웨어 구성(다중 코어 시스템)에서 G-mean, 실수율, F-measure, 수렴 속도 등의 성능 지표를 사용한다.

실험 결과

연구 질문

• RQ1 고차원성, 희소성, 분산 처리가 필요한 빅데이터 환경에서 최소한의 레이블로 이상 탐지가 효과적으로 수행될 수 있는가?
• RQ2 비용 감수 학습이 불균형 이상 탐지 작업에서 G-mean 성능 향상에 기여할 수 있으며, 동시에 낮은 실수율을 유지할 수 있는가?
• RQ3 네스터프 가속이 스트리밍 데이터를 위한 온라인 이상 탐지에서 성능에 어떤 영향을 미치는가?
• RQ4 ADMM 및 FISTA와 같은 분산 최적화 프레임워크에서 수렴 속도, 학습 시간, G-mean 간의 상호 상충 관계는 어떠한가?
• RQ5 CILSD와 같은 파라미터 프리 분산 알고리즘이 실세계 이상 탐지 시나리오에서 튜닝된 대안들보다 뛰어난 성능을 낼 수 있는가?

주요 결과

• 모든 벤치마크 데이터셋에서 PAGMEAN은 부모 알고리즘인 PA와 CSOC보다 G-mean 성능에서 뛰어나지만, 실수율이 더 높은 편이다.
• ASPGD는 여러 벤치마크 데이터셋에서 CSFSOL보다 더 높은 G-mean과 F-measure를 달성하지만, 가속화가 항상 성능 향상으로 이어지는 것은 아니다.
• L-DSCIL은 빠른 수렴 속도를 보이며 중심화된 솔루션과 유사한 G-mean 성능을 달성하지만, R-DSCIL은 무작위 좌표 업데이트로 인해 성능이 변동성이 있다.
• R-DSCIL은 다중 코어 시스템에서 실질적인 속도 향상과 확장성을 보이며, 코어 수가 증가함에 따라 학습 시간이 로그적으로 감소한다.
• CILSD는 학습률 튜닝 없이도 높은 G-mean 성능을 달성하였으며, DSCIL보다 수렴 속도가 더 빠르고 대부분의 데이터셋에서 중심화된 알고리즘을 능가하거나 동등하게 성능을 내었다.
• KDDCup 2008 데이터셋에서 R-DSCIL과 CILSD는 모두 실세계 분산 이상 탐지에 큰 잠재력을 보였으며, CILSD는 더 빠른 수렴 속도와 안정적인 성능을 보였다.