[论文解读] Are all outliers alike? On Understanding the Diversity of Outliers for Detecting OODs

Ramneet Kaur, Susmit Jha+3 more|arXiv (Cornell University)|Mar 23, 2021

Anomaly Detection Techniques and Applications参考文献 36被引用 10

一句话总结

本文提出了一种基于其来源和不确定性的分布外（OOD）样本分类法——包括随机性不确定性与认知性不确定性、与预测类别距离 vs 与关联训练分布距离，以及主成分与非主成分的不确定性。该文提出了一种集成的OOD检测方法，结合多种信号，实现了在CIFAR10、SVHN和MNIST基准上的最先进性能，AUROC分数在CIFAR100上最高达99.89%，在SVHN上达99.41%。

ABSTRACT

Deep neural networks (DNNs) are known to produce incorrect predictions with very high confidence on out-of-distribution (OOD) inputs. This limitation is one of the key challenges in the adoption of deep learning models in high-assurance systems such as autonomous driving, air traffic management, and medical diagnosis. This challenge has received significant attention recently, and several techniques have been developed to detect inputs where the model's prediction cannot be trusted. These techniques use different statistical, geometric, or topological signatures. This paper presents a taxonomy of OOD outlier inputs based on their source and nature of uncertainty. We demonstrate how different existing detection approaches fail to detect certain types of outliers. We utilize these insights to develop a novel integrated detection approach that uses multiple attributes corresponding to different types of outliers. Our results include experiments on CIFAR10, SVHN and MNIST as in-distribution data and Imagenet, LSUN, SVHN (for CIFAR10), CIFAR10 (for SVHN), KMNIST, and F-MNIST as OOD data across different DNN architectures such as ResNet34, WideResNet, DenseNet, and LeNet5.

研究动机与目标

• 解决现有OOD检测方法的局限性，即假设所有异常值均相同，无法检测多样化的异常类型。
• 基于不同的不确定性类型（随机性与认知性不确定性、与预测类别距离 vs 与关联分布距离、主成分与非主成分的不确定性）识别并分类OOD样本。
• 证明当前统一的检测方法在特定异常类型上仍会失败，即使在标准基准上表现出较强的实证性能。
• 开发并验证一种集成OOD检测框架，通过结合多种检测信号来提升对多样化异常类型的鲁棒性。
• 通过在ResNet34、WideResNet、DenseNet和LeNet5上对ImageNet、LSUN和F-MNIST等多个数据集进行消融研究，提供实证证据。

提出的方法

• 基于三个维度提出OOD输入的分类法：随机性与认知性不确定性、与预测类别分布的距离 vs 与关联训练分布的距离，以及在低方差的主成分与非主成分中的不确定性。
• 采用多种检测信号：马氏距离（Mahala）、k-近邻（KNN）、SPB（基于得分的预测）、ODIN、PCA和置信度分数。
• 通过加权集成策略将这些信号的置信度分数整合到单一检测框架中。
• 采用自顶向下的推理方法，基于与预测类别分布和关联训练分布的距离来检测OOD样本。
• 在ODIN方法中应用温度缩放和输入扰动，并利用特征级重构与密度估计获取额外信号。
• 在多种DNN架构及分布内/分布外数据集组合（包括CIFAR10、SVHN、MNIST、KMNIST、F-MNIST、ImageNet和LSUN）上验证了集成方法的有效性。

实验结果

研究问题

• RQ1 是否存在一种统一的检测方法可检测所有OOD异常值，还是不同类型的异常值需要不同的检测策略？
• RQ2 现有OOD检测方法在由不确定性类型和空间分布定义的不同异常类型上的表现如何？
• RQ3 结合多种信号的集成检测框架是否能提升在多样化异常类型上的OOD检测性能？
• RQ4 随机性、认知性、主成分和非主成分不确定性在OOD检测失败中的相对贡献是什么？
• RQ5 所提出的集成方法在多样化OOD基准上相较于ODIN和马氏距离等最先进基线方法的优越程度如何？

主要发现

• 在ResNet34上，集成OOD检测方法在CIFAR100上的AUROC达到99.89%，显著优于ODIN（68.01%）和PCA（97.81%）。
• 在DenseNet上，SVHN的集成方法AUROC达到99.11%（IN/OUT），优于ODIN（84.32%）和PCA（86.62%）。
• 在ResNet34上，SVHN的集成方法在CIFAR100上的AUROC达到99.89%，而ODIN为68.01%，PCA为97.81%。
• 在ResNet34上，集成方法在CIFAR100上的DTACC达到97.36%（TPR=95%），优于ODIN（67.26%）和PCA（94.52%）。
• 消融研究显示，结合马氏距离（关联和类别特定）与基于KNN的方法在所有基准上均表现最佳。
• 研究证明，ODIN和PCA在某些异常类型上表现显著不足，特别是那些在非主成分中具有低方差的异常，验证了多信号方法的必要性。