[论文解读] Explainable Deep One-Class Classification

Philipp Liznerski, Lukas Ruff+4 more|arXiv (Cornell University)|Jul 3, 2020

Anomaly Detection Techniques and Applications参考文献 61被引用 94

一句话总结

FCDD 将完全卷积网络与单类目标结合，生成将异常热图作为解释的模型，在 MVTec-AD 上实现有竞争力的异常检测与最先进的像素级解释，并受益于使用真实异常映射进行半监督微调。

ABSTRACT

Deep one-class classification variants for anomaly detection learn a mapping that concentrates nominal samples in feature space causing anomalies to be mapped away. Because this transformation is highly non-linear, finding interpretations poses a significant challenge. In this paper we present an explainable deep one-class classification method, Fully Convolutional Data Description (FCDD), where the mapped samples are themselves also an explanation heatmap. FCDD yields competitive detection performance and provides reasonable explanations on common anomaly detection benchmarks with CIFAR-10 and ImageNet. On MVTec-AD, a recent manufacturing dataset offering ground-truth anomaly maps, FCDD sets a new state of the art in the unsupervised setting. Our method can incorporate ground-truth anomaly maps during training and using even a few of these (~5) improves performance significantly. Finally, using FCDD's explanations we demonstrate the vulnerability of deep one-class classification models to spurious image features such as image watermarks.

研究动机与目标

• 在安全、安保和决策支持场景中，激发对可解释的深度异常检测的需求。
• 开发一个输出可解释的异常热图的深度单类分类器。
• 在标准基准数据集（Fashion-MNIST、CIFAR-10、ImageNet）以及制造业数据集（MVTec-AD）上评估性能。
• 展示真实异常映射如何改进训练，以及解释揭示模型行为。

提出的方法

• 使用一个全卷积网络（FCN）通过保持空间信息的特征将图像映射到低分辨率的异常热图。
• 采用一个超球体分类器目标（HSC）变体，将正常数据推向中心，异常数据远离中心，使用伪 Huber 损失。
• 将异常热图 A(X) 定义为经过鲁棒损失变换的 FCN 输出，A(X) 的 L1 范数作为异常得分。
• 使用基于感受野的高斯上采样方案（带固定高斯核的步进转置卷积）将低分辨率热图上采样到全分辨率。
• 支持从 Outlier Exposure（OE）学习，使用合成或真实异常，并在可用时使用像素级异常映射实现半监督训练。
• 提供与异常得分内在绑定的解释机制，允许检查哪些图像区域对异常做出贡献。

实验结果

研究问题

• RQ1 单类深度学习模型是否能够产生与异常得分相关的可解释的、具空间性的异常热图？
• RQ2 FCDD 在标准异常检测基准上的表现相比现有方法如何，无论有无 outlier exposure？
• RQ3 在半监督设置中，即使是稀疏的真实异常映射的引入，是否会提升检测和解释质量？
• RQ4 所产生的解释是否对欺骗性特征（Clever Hans 效应）具有鲁棒性，且是否能揭示此类脆弱性？
• RQ5 在噪声和结构方面，热图与基于梯度的解释和重建式解释相比如何？

主要发现

• FCDD 在 CIFAR-10 和 ImageNet 上的异常检测性能接近最新技术水平，同时提供可解释的热图作为解释。
• 在 MVTec-AD 上，FCDD 在无监督像素级异常定位方面创下新颖的最先进水平，在使用真实异常映射时在半监督设置获得进一步提升。
• FCDD 热图相比梯度基解释或自编码器解释更少噪声、结构更清晰，提升检测的可解释性。
• 该方法能够揭示深度单类模型对虚假特征（Clever Hans 效应）的脆弱性，展示透明解释的价值。
• FCDD 支持有效使用 Outlier Exposure 和合成异常，即使仅有极少量有标签的异常数据，也能实现强解释。