[논문 리뷰] Functional Isolation Forest

Guillaume Staerman, Pavlo Mozharovskyi외 2명|arXiv (Cornell University)|2019. 04. 09.

Anomaly Detection Techniques and Applications인용 수 18

한 줄 요약

이 논문은 기능적 데이터를 위한 비모수적 이상 탐지 방법으로, 차원 감소를 거치지 않고 무한차원 함수 공간을 랜덤 기능 분할을 통해 직접 분할하는 기능적 고립 트리(FIF)를 소개한다. FIF는 기준 데이터셋에서 최신 기술 수준의 성능을 달성하며, ECG5000에서 AUC 점수가 0.95를 초과하고 다양한 기능적 시계열에서 높은 탐지 정확도를 보이며, 계산 효율성과 해석 가능성도 유지한다.

ABSTRACT

For the purpose of monitoring the behavior of complex infrastructures (e.g. aircrafts, transport or energy networks), high-rate sensors are deployed to capture multivariate data, generally unlabeled, in quasi continuous-time to detect quickly the occurrence of anomalies that may jeopardize the smooth operation of the system of interest. The statistical analysis of such massive data of functional nature raises many challenging methodological questions. The primary goal of this paper is to extend the popular Isolation Forest (IF) approach to Anomaly Detection, originally dedicated to finite dimensional observations, to functional data. The major difficulty lies in the wide variety of topological structures that may equip a space of functions and the great variety of patterns that may characterize abnormal curves. We address the issue of (randomly) splitting the functional space in a flexible manner in order to isolate progressively any trajectory from the others, a key ingredient to the efficiency of the algorithm. Beyond a detailed description of the algorithm, computational complexity and stability issues are investigated at length. From the scoring function measuring the degree of abnormality of an observation provided by the proposed variant of the IF algorithm, a Functional Statistical Depth function is defined and discussed as well as a multivariate functional extension. Numerical experiments provide strong empirical evidence of the accuracy of the extension proposed.

연구 동기 및 목표

• 복잡한 시스템의 고속, 레이블 없음, 연속 시간 모니터링에 특화된 비모수적 이상 탐지 방법의 부족을 해결하기 위해.
• 원래 유한차원 데이터를 위한 목적 설계된 고립 트리 알고리즘을, 사전 차원 감소에 의존하지 않고 무한차원 기능 공간으로 확장하기 위해.
• 기본 기하학적 및 위상적 성질에 기반해 이상 기능적 궤적을 고립할 수 있는 유연하고 계산 효율적이며 해석 가능한 방법을 개발하기 위해.
• FIF 스코어 함수에서 유도된 기능적 깊이 측정법을 정의하여, 강력한 이상 순위 매기기와 다변량 기능적 확장을 가능하게 하기 위해.

제안 방법

• 기능적 고립 트리(FIF)의 기능적 확장을 제안하며, 사전 정의된 기저 함수 집합에서 무작위 선택된 기저 함수와의 내적을 통해 정의된 랜덤 기능 분할을 사용해 함수 공간을 반복적으로 분할한다.
• 제곱 적분 가능한 함수 공간인 힐베르트 공간에서 랜덤 분할 절차를 사용하며, 분할 방향을 함수 공간의 단위 구내에서 균일하게 무작위로 선택하여 탄력성과 편향 방지를 보장한다.
• 기능 관측치를 고립하는 데 필요한 평균 경로 길이에 기반한 스코어 함수를 사용하며, 짧은 경로가 이상 가능성의 높음을 나타낸다.
• FIF 이상 스코어에서 유도된 기능적 통계적 깊이 함수를 정의하여, 기능적 데이터의 깊이 기반 순위 매기기와 구성 요소 별 기저 적용을 통한 다변량 기능적 확장을 가능하게 한다.
• 다변량 기능적 데이터를 텐서 곱 힐베르트 공간에 투영하고, 상호 변수 간 의존성을 포괄하는 공동 기저를 사용하여 다변량 기능적 확장을 적용한다.
• 이상 탐지의 임계값 선택에 '시각적 팔꿈치 규칙'을 적용하며, MNIST 기반 숫자 윤곽선과 심전도 신호와 같은 실제 데이터셋에서 검증한다.

실험 결과

연구 질문

• RQ1 차원 감소에 의존하지 않고, 무한차원 기능적 데이터에 대해 고립 트리 알고리즘을 성공적으로 일반화할 수 있는가?
• RQ2 다양한 위상적 구조와 복잡한 기능 패턴을 지닌 함수 공간에서 랜덤 분할을 어떻게 의미 있게 정의할 수 있는가?
• RQ3 기저 선택과 분할 메커니즘의 선택이 기능적 데이터의 이상 탐지 정확도와 강건성에 미치는 영향은 무엇인가?
• RQ4 FIF 이상 스코어는 기존의 기능적 깊이 개념과 어떻게 관련되어 있으며, 새로운 기능적 깊이 측정법을 정의하는 데 사용될 수 있는가?
• RQ5 FIF 프레임워크는 다변량 기능적 데이터로 효과적으로 확장될 수 있으며, 실제 다변량 기능적 데이터셋에서 어떻게 성능을 발휘하는가?

주요 결과

• FIF는 ECG5000 데이터셋에서 AUC 점수 0.95를 기록하여 실제 기능적 이상 탐지 작업에서 뛰어난 성능을 보였다.
• ECG200 데이터셋에서 sym14 웨이브릿 기저를 사용할 경우 AUC 0.83를 달성하여 심전도 곡선의 미세한 이상에 매우 민감함을 입증했다.
• 110개 샘플의 숫자 데이터셋에서 15개 이상을 성공적으로 탐지하였으며, '7' 클래스에서 시각적으로 다를 뿐만 아니라 '2' 숫자 중 10개의 이상 중 5개를 정확히 식별했다.
• 차원 감소 과정에서 손실될 수 있는 중요한 기능적 특징을 유지함으로써, 전통적인 필터링 기반 접근법보다 우수한 성능을 보였다.
• FIF 스코어에서 유도된 기능적 깊이가 기능적 데이터의 중심성과 이질성에 대한 직관적 개념과 강력한 일치를 보였다.
• FIF의 다변량 기능적 확장은 SonyRobotAI1 및 SonyRobotAI2의 다변량 곡선에서 이상을 성공적으로 탐지하였으며, AUC 점수는 0.85 이상을 기록했다.