[论文解读] Attribute Restoration Framework for Anomaly Detection

Chaoqin Huang, Fei Ye+4 more|arXiv (Cornell University)|Nov 25, 2019

Anomaly Detection Techniques and Applications参考文献 66被引用 44

一句话总结

本论文提出 ARNet 及属性抹除模块，将重建任务转化为恢复任务，从而实现语义特征学习，并在多个数据集上提升异常检测性能。

ABSTRACT

With the recent advances in deep neural networks, anomaly detection in multimedia has received much attention in the computer vision community. While reconstruction-based methods have recently shown great promise for anomaly detection, the information equivalence among input and supervision for reconstruction tasks can not effectively force the network to learn semantic feature embeddings. We here propose to break this equivalence by erasing selected attributes from the original data and reformulate it as a restoration task, where the normal and the anomalous data are expected to be distinguishable based on restoration errors. Through forcing the network to restore the original image, the semantic feature embeddings related to the erased attributes are learned by the network. During testing phases, because anomalous data are restored with the attribute learned from the normal data, the restoration error is expected to be large. Extensive experiments have demonstrated that the proposed method significantly outperforms several state-of-the-arts on multiple benchmark datasets, especially on ImageNet, increasing the AUROC of the top-performing baseline by 10.1%. We also evaluate our method on a real-world anomaly detection dataset MVTec AD and a video anomaly detection dataset ShanghaiTech.

研究动机与目标

• 在训练阶段仅有正常数据可用的无监督设置下，推动对静态图像的异常检测。
• 通过抹除语义属性以形成恢复任务，打破基于重建的方法中的信息等价性。
• 通过恢复学习语义特征嵌入，使得通过恢复误差有效区分正常和异常数据。

提出的方法

• 引入属性抹除模块 (AEM)，抹除与紧凑语义表示相关的属性（如颜色、方位等）。
• 将 ARNet 设计为一个编码器-解码器，通过使用原始数据作为监督，恢复被抹除的属性。
• 使用带有 L2 训练损失的非对称恢复目标来学习语义嵌入。
• 在测试时将异常分数定义为通过多次属性抹除得到的 L1 损失的归一化恢复误差。
• 通过考虑多种被抹除属性的配置并对恢复误差进行归一化后取平均来应对随机性抹除，以降低偏差。

实验结果

研究问题

• RQ1 抹除具有语义意义的属性是否能够促使网络学习出能够区分正常数据与异常数据的稳健语义嵌入？
• RQ2 属性恢复是否在多种数据集上相较于传统的基于重建的方法提升异常检测性能？
• RQ3 提出的跨多次抹除的恢复误差归一化对异常评分的稳定性和准确性有何影响？
• RQ4 ARNet 是否对真实世界与合成的损坏具有鲁棒性，并且是否能扩展到如 ImageNet 这样的大规模高分辨率数据集？

主要发现

• ARNet 在若干基准测试上显著优于最先进的异常检测方法，包括 ImageNet，取得显著的 AUROC 提升。
• 该方法在真实世界数据集（如 MVTec AD）以及扭曲数据集 CIFAR-10-C 上也保持鲁棒，表明其聚焦语义的恢复能力。
• 基于恢复的框架结合属性抹除比像素级重建方法产生更具判别力的语义嵌入。
• 论文提供了 T-SNE 可视化，展示由于属性恢复而在潜在空间中的语义分离。