[论文解读] Anomalous Example Detection in Deep Learning: A Survey

Saikiran Bulusu, Bhavya Kailkhura+3 more|arXiv (Cornell University)|Mar 16, 2020

Anomaly Detection Techniques and Applications参考文献 112被引用 9

一句话总结

本综述系统性地全面概述了深度学习模型的事后异常检测技术，根据其假设和方法对检测分布外（OOD）样本与对抗性样本的技术进行了分类。文章指出了关键挑战，包括复杂异常的检测困难以及缺乏标准化评估，并为高风险深度学习应用中的鲁棒、可泛化的异常检测指明了未来研究方向。

ABSTRACT

Deep Learning (DL) is vulnerable to out-of-distribution and adversarial examples resulting in incorrect outputs. To make DL more robust, several posthoc (or runtime) anomaly detection techniques to detect (and discard) these anomalous samples have been proposed in the recent past. This survey tries to provide a structured and comprehensive overview of the research on anomaly detection for DL based applications. We provide a taxonomy for existing techniques based on their underlying assumptions and adopted approaches. We discuss various techniques in each of the categories and provide the relative strengths and weaknesses of the approaches. Our goal in this survey is to provide an easier yet better understanding of the techniques belonging to different categories in which research has been done on this topic. Finally, we highlight the unsolved research challenges while applying anomaly detection techniques in DL systems and present some high-impact future research directions.

研究动机与目标

• 提供深度学习模型事后异常检测技术的系统性与全面性综述。
• 基于其底层假设与方法对现有技术进行分类，突出其优势与劣势。
• 识别在现实世界深度学习应用中检测复杂、自适应及未知异常的未解挑战。
• 倡导建立原则性基准与理论基础，以提升异常检测系统的评估质量与鲁棒性。
• 推动研究超越图像分类任务，拓展至其他数据类型（如文本、图）与任务（如目标检测、规划）。

提出的方法

• 基于假设（如数据分布、模型行为）与方法（如不确定性估计、重构、能量模型）提出深度学习中异常检测方法的分类体系。
• 将技术分类为事后检测器，即在模型训练后运行，无需重新训练。
• 综述了马氏距离、ODIN、能量模型及基于重构的自编码器等方法，用于检测分布外与对抗性输入。
• 强调集成方法通过结合多种检测策略，可提升鲁棒性与性能。
• 讨论利用空间与时间一致性作为归纳偏置，以检测序列或结构化数据中的异常。
• 强调需要领域泛化与元学习方法，以应对超出已知分布的未知-未知异常。

实验结果

研究问题

• RQ1 如何基于其假设与方法论，系统性地对深度学习中的异常检测技术进行分类？
• RQ2 当前事后异常检测方法在处理复杂、相关或上下文依赖异常方面存在哪些关键局限？
• RQ3 为何异常检测性能的可靠评估尤其具有挑战性？需要何种基准来解决此问题？
• RQ4 如何更好地理解并形式化深度学习中异常检测的理论基础与基本限制？
• RQ5 未来哪些研究方向最有可能推动异常检测从图像分类拓展至其他数据模态与任务？

主要发现

• 大多数现有异常检测方法集中于图像分类任务，难以泛化至文本、图或流形等其他数据类型。
• 当前评估实践常不完整或具有误导性，因其依赖于先前见过的异常，存在过拟合风险，且对未知-未知异常泛化能力差。
• 集成型检测器通过结合多种异常检测策略，相比单一方法展现出更优性能。
• 许多启发式防御与检测技术易被自适应攻击破解，凸显了更强理论基础的必要性。
• 此前研究较少关注的相关或上下文异常，对当前检测框架构成重大挑战，亟需新型检测范式。
• 亟需建立标准化、原则性的基准，以评估异常检测系统在自适应与未见异常上的表现。