[论文解读] Deep Anomaly Detection Using Geometric Transformations

Izhak Golan, Ran El‐Yaniv|arXiv (Cornell University)|May 28, 2018

Anomaly Detection Techniques and Applications参考文献 34被引用 291

一句话总结

本文提出一种判别式异常检测方法，通过训练多类分类器来识别对正常图像施加的几何变换，并在测试时使用基于Dirichlet的正常性分数来检测分布外样本。

ABSTRACT

We consider the problem of anomaly detection in images, and present a new detection technique. Given a sample of images, all known to belong to a "normal" class (e.g., dogs), we show how to train a deep neural model that can detect out-of-distribution images (i.e., non-dog objects). The main idea behind our scheme is to train a multi-class model to discriminate between dozens of geometric transformations applied on all the given images. The auxiliary expertise learned by the model generates feature detectors that effectively identify, at test time, anomalous images based on the softmax activation statistics of the model when applied on transformed images. We present extensive experiments using the proposed detector, which indicate that our algorithm improves state-of-the-art methods by a wide margin.

研究动机与目标

• 在分布偏移和噪声下为视觉系统提供鲁棒的异常检测动机。
• 提出一种非生成式、判别式框架，利用几何变换从正常数据中学习有信息量的特征。
• 开发一种概率评分方法，在不进行重建的前提下量化正常性。
• 在多个图像数据集上将该方法与最先进的异常检测基线进行比较评估。

提出的方法

• 通过对所有正常训练图像应用一组几何变换T来创建自标签数据集，并训练一个k类分类器以预测所应用的变换索引。
• 通过在x的所有变换版本上对softmax输出的对数似然取平均，在Dirichlet参数估计来自正常训练集的前提下，获得测试图像的正常性分数n_S(x)。
• 通过对变换后的训练输出进行固定点迭代估计每个变换i的Dirichlet参数α_i。
• 使用简化变体n_hat_S(x)，对softmax输出取平均，在初步实验中仍然取得较好表现。
• 使用在增强自标签集上训练的宽残差网络，采用标准的交叉熵损失，使用Adam优化。

实验结果

研究问题

• RQ1 在正常图像上对大量几何变换进行判别学习，是否能产生对检测异常有效的特征？
• RQ2 如何将变换后的图像预测汇聚成用于分布外检测的可靠正常性分数？
• RQ3 与现有深度方法在多个数据集上的比较，该变换基异常检测器的经验表现如何？
• RQ4 该方法是否扩展到在带标签的多类别数据集中识别分布外样本？
• RQ5 选择变换集合对异常检测性能的影响是什么？

主要发现

• 在CIFAR-10上，该方法在10个实验中显著提升了顶级基线的AUROC（平均提升报告为32%）。
• 在CatsVsDogs数据集，该方法在所报道的设置下对最佳基线实现了显著提升（67%的AUROC）。
• 在跨数据集中，该方法常常优于基于重建的以及其他深度异常检测方法，尤其是在更大图像尺寸时。
• 在CIFAR-100中，由于同类内在多样性，表现因正常类而异，某些类别显示较弱结果。
• 在fashion-MNIST上，大多数方法表现良好，所提出的方法略有优势。
• 该方法也可在带标签的多类别设置下提升分布外检测，超越报道任务中的一些既定基线。