[论文解读] Exposing Outlier Exposure: What Can Be Learned From Few, One, and Zero Outlier Images

Philipp Liznerski, Lukas Ruff+4 more|arXiv (Cornell University)|May 23, 2022

Anomaly Detection Techniques and Applications被引用 13

一句话总结

这篇论文挑战了深度异常检测（AD）需要无监督方法或大规模异常样本暴露（OE）数据的假设。它表明，仅用256张随机图像或甚至单张精心挑选的异常样本进行训练的标准分类器，即可在ImageNet和CIFAR-10基准上超越当前最先进（SOTA）的AD模型，而基于CLIP的零样本表征则无需任何训练数据即可实现SOTA性能。

ABSTRACT

Due to the intractability of characterizing everything that looks unlike the normal data, anomaly detection (AD) is traditionally treated as an unsupervised problem utilizing only normal samples. However, it has recently been found that unsupervised image AD can be drastically improved through the utilization of huge corpora of random images to represent anomalousness; a technique which is known as Outlier Exposure. In this paper we show that specialized AD learning methods seem unnecessary for state-of-the-art performance, and furthermore one can achieve strong performance with just a small collection of Outlier Exposure data, contradicting common assumptions in the field of AD. We find that standard classifiers and semi-supervised one-class methods trained to discern between normal samples and relatively few random natural images are able to outperform the current state of the art on an established AD benchmark with ImageNet. Further experiments reveal that even one well-chosen outlier sample is sufficient to achieve decent performance on this benchmark (79.3% AUC). We investigate this phenomenon and find that one-class methods are more robust to the choice of training outliers, indicating that there are scenarios where these are still more useful than standard classifiers. Additionally, we include experiments that delineate the scenarios where our results hold. Lastly, no training samples are necessary when one uses the representations learned by CLIP, a recent foundation model, which achieves state-of-the-art AD results on CIFAR-10 and ImageNet in a zero-shot setting.

研究动机与目标

• 探究大规模异常样本暴露是否为实现深度异常检测SOTA性能所必需。
• 评估极少量异常数据（少量、一张或零张样本）在训练异常检测模型方面的有效性。
• 在不同异常样本暴露条件下，比较标准分类器与一类分类方法的鲁棒性与性能。
• 评估无需任何微调即可使用预训练CLIP表征实现零样本异常检测的可行性。
• 识别监督式OE在极小数据条件下优于传统无监督或半监督方法的情境。

提出的方法

• 训练标准二分类器，以区分正常数据与一小撮随机自然图像作为异常样本暴露（OE）数据。
• 使用256张、64张、16张甚至单张OE样本，在ImageNet和CIFAR-10基准上训练分类器。
• 采用one-vs-rest异常检测基准评估性能，这是该领域的一项标准测试方法。
• 通过低通和高通滤波进行数据增强，以探究OE样本的鲁棒性。
• 利用CLIP的视觉编码器提取特征，实现无需任何训练数据的零样本异常检测。
• 比较不同OE数据类型（如自然图像、滤波图像）和优化目标（HSC、BCE）下的性能表现。

实验结果

研究问题

• RQ1 仅用256张随机图像进行训练的标准分类器，是否能在ImageNet上超越当前最先进（SOTA）的无监督异常检测方法？
• RQ2 一张精心挑选的异常样本是否足以实现具有竞争力的异常检测性能？
• RQ3 当异常数据有限或代表性不足时，监督式OE与无监督OE的性能相比如何？
• RQ4 在何种情况下，一类方法在极小量OE数据下的异常检测中优于标准分类器？
• RQ5 基于CLIP的表征能否在无需任何训练数据的情况下实现SOTA的零样本异常检测？

主要发现

• 仅用256张随机异常图像进行训练的标准分类器，在ImageNet的one-vs-rest异常检测基准上超越了当前SOTA方法。
• 仅用一张精心挑选的异常样本，分类器在ImageNet基准上实现了79.3%的AUC，表明在极小数据量下仍具有强大性能。
• 一类方法在异常样本选择不佳时比标准分类器更具鲁棒性，表明其在数据稀缺或异常样本分布偏移的场景中更具实用性。
• 对OE数据进行低通和高通滤波表明，图像的频率成分显著影响模型的泛化能力和性能表现。
• 基于CLIP的零样本表征在CIFAR-10和ImageNet上实现了SOTA结果，且无需任何训练数据，优于监督和无监督基线方法。
• 研究结果挑战了长期以来认为无监督或半监督方法是深度AD所必需的假设，表明使用极小数据量的监督式OE可极为有效。