[论文解读] Learning Ensembles of Anomaly Detectors on Synthetic Data

Dmitry Smolyakov, Nadezda Sviridenko+3 more|arXiv (Cornell University)|May 20, 2019

Anomaly Detection Techniques and Applications参考文献 34被引用 4

一句话总结

该论文提出了一种基于集成的气象时间序列数据异常检测方法，利用合成异常来优化阈值选择。通过结合多种基础检测器（如LOF、OCSVM、岭回归）并利用逻辑回归进行共识，该方法在Shuttle数据集上实现了0.968的F1得分，在真实世界RWIS部署中实现了75%的召回率和20%的误报率，F1得分为0.968。

ABSTRACT

The main aim of this work is to develop and implement an automatic anomaly detection algorithm for meteorological time-series. To achieve this goal we develop an approach to constructing an ensemble of anomaly detectors in combination with adaptive threshold selection based on artificially generated anomalies. We demonstrate the efficiency of the proposed method by integrating the corresponding implementation into ``Minimax-94'' road weather information system.

研究动机与目标

• 为道路气象信息系统（RWIS）开发一种自动化、鲁棒的异常检测系统，以提高安全性和维护效率。
• 解决在时间序列气象数据中由传感器故障、环境因素和数据传输错误引起的异质性异常检测挑战。
• 通过使用合成异常来优化F1得分指标，减少阈值选择中的主观性。
• 构建一种可推广的方法，不仅适用于RWIS，还可应用于多维、非时间序列数据集，如Shuttle数据集。

提出的方法

• 构建包含LOF、椭球体异常检测、OCSVM、孤立森林和岭回归等基础异常检测器的集成模型。
• 基于真实传感器行为和故障模式，使用领域特定的数据增强技术生成合成异常。
• 应用特征袋装（feature bagging）以增强基础模型之间的多样性，提升集成模型的泛化能力。
• 使用共识函数——模型平均、加权线性变换和逻辑回归——来整合各检测器的得分。
• 利用合成数据优化决策阈值，以最大化F1得分，确保在真实数据上的鲁棒性。
• 将最终的集成模型作为Python模块集成到“Minimax-94”RWIS系统中，实现实时部署。

实验结果

研究问题

• RQ1 在检测气象时间序列数据中的异质性异常时，集成异常检测器是否能优于单一模型？
• RQ2 基于合成异常生成的F1得分阈值选择方法在真实世界异常检测中是否有效？
• RQ3 共识函数的选择（如逻辑回归、模型平均）是否显著影响集成模型的性能？
• RQ4 所提出的方法是否可推广至非时间序列、多维数据集，如Shuttle数据集？
• RQ5 基于合成数据选择的阈值与真实数据上最优阈值在F1得分上的表现相比如何？

主要发现

• 采用模型平均和逻辑回归共识的集成模型在Shuttle数据集上实现了0.968的F1得分，优于所有单一基础模型。
• 在真实RWIS数据中，最终模型检测到了75%的实际异常，同时保持20%的误报率，符合运行要求。
• 基于合成数据的阈值选择得到的阈值与真实数据上最优F1得分阈值非常接近，验证了其有效性。
• 集成方法显著提升了RWIS数据上的性能，F1得分从OCSVM的0.272提升至最佳集成模型的0.968。
• 逻辑回归作为共识函数实现了最高的F1得分，但表现出更高的不稳定性；而模型平均提供了更稳健且一致的性能。
• 该方法已成功在“Minimax-94”RWIS系统中以测试模式部署，证明了其在真实场景中的适用性和集成可行性。