[论文解读] Functional Isolation Forest

Guillaume Staerman, Pavlo Mozharovskyi+2 more|arXiv (Cornell University)|Apr 9, 2019

Anomaly Detection Techniques and Applications被引用 18

一句话总结

本文提出功能隔离森林（FIF），一种用于函数型数据异常检测的隔离森林新型扩展，通过直接在无限维函数空间中进行随机函数分割，避免了降维。FIF在基准数据集上达到最先进性能，ECG5000数据集AUC分数超过0.95，对多样化函数型时间序列具有强检测精度，同时保持计算效率与可解释性。

ABSTRACT

For the purpose of monitoring the behavior of complex infrastructures (e.g. aircrafts, transport or energy networks), high-rate sensors are deployed to capture multivariate data, generally unlabeled, in quasi continuous-time to detect quickly the occurrence of anomalies that may jeopardize the smooth operation of the system of interest. The statistical analysis of such massive data of functional nature raises many challenging methodological questions. The primary goal of this paper is to extend the popular Isolation Forest (IF) approach to Anomaly Detection, originally dedicated to finite dimensional observations, to functional data. The major difficulty lies in the wide variety of topological structures that may equip a space of functions and the great variety of patterns that may characterize abnormal curves. We address the issue of (randomly) splitting the functional space in a flexible manner in order to isolate progressively any trajectory from the others, a key ingredient to the efficiency of the algorithm. Beyond a detailed description of the algorithm, computational complexity and stability issues are investigated at length. From the scoring function measuring the degree of abnormality of an observation provided by the proposed variant of the IF algorithm, a Functional Statistical Depth function is defined and discussed as well as a multivariate functional extension. Numerical experiments provide strong empirical evidence of the accuracy of the extension proposed.

研究动机与目标

• 为解决缺乏针对函数型数据的非参数异常检测方法的问题，特别是在复杂系统高采样率、无标签、连续时间监测场景下。
• 将原本专为有限维数据设计的隔离森林算法扩展至无限维函数空间，且不依赖于预先的降维处理。
• 开发一种灵活、计算高效且可解释的方法，基于函数轨迹的内在几何与拓扑特性实现异常隔离。
• 从FIF评分函数中定义一种函数深度度量，实现对异常的稳健排序，并支持多变量函数型数据的扩展。

提出的方法

• 提出一种隔离森林（FIF）的函数型扩展，通过从词典中随机选择的基函数的内积定义随机函数分割，递归地对函数空间进行划分。
• 在平方可积函数空间的希尔伯特空间中采用随机分割过程，从函数空间的单位球面上均匀随机选择分割方向，以确保灵活性并避免偏差。
• 基于集成中隔离树集合内隔离某一函数型观测所需平均路径长度设计评分函数，路径越短表示异常可能性越高。
• 从FIF异常评分中定义函数统计深度函数，实现基于深度的函数型数据排序，并通过分量式词典应用将方法扩展至多变量函数型数据。
• 通过将多变量函数型数据投影到希尔伯特空间的张量积上，并使用联合词典捕捉变量间依赖关系，实现多变量函数型扩展。
• 采用“视觉肘部法则”进行异常检测的阈值选择，在真实数据集（如基于MNIST的数字轮廓和心电图信号）上进行了验证。

实验结果

研究问题

• RQ1 隔离森林算法能否在不依赖降维的前提下成功推广至无限维函数型数据？
• RQ2 在具有多样化拓扑结构和复杂函数模式的函数空间中，如何有意义地定义随机划分？
• RQ3 词典选择与分割机制的选择对函数型数据异常检测的鲁棒性与准确性有何影响？
• RQ4 FIF异常评分与既有的函数型深度概念有何关联？能否用于定义新的函数型深度度量？
• RQ5 FIF框架能否有效扩展至多变量函数型数据？其在真实世界多变量函数型数据集上的表现如何？

主要发现

• FIF在ECG5000数据集上达到0.95的AUC分数，表明其在真实世界函数型异常检测任务中表现优异。
• 在ECG200数据集上，FIF使用sym14小波基函数时AUC达到0.83，表明对心电图曲线中细微异常具有高度敏感性。
• 该方法成功检测出110个样本数字数据集中的15个异常，在10个视觉上偏离“7”类的异常“2”数字中正确识别出5个。
• FIF优于传统基于滤波的方法，因能保留可能在降维过程中丢失的关键函数特征。
• 从FIF评分导出的函数型深度与函数型数据中中心性与离群性的直观概念高度一致。
• FIF的多变量函数型扩展在SonyRobotAI1和SonyRobotAI2等多变量曲线数据中成功检测异常，AUC分数超过0.85。