[论文解读] CFA: Coupled-hypersphere-based Feature Adaptation for Target-Oriented Anomaly Localization

Sungwook Lee, Seunghyun Lee+1 more|arXiv (Cornell University)|Jun 9, 2022

Anomaly Detection Techniques and Applications被引用 12

一句话总结

该论文提出了一种基于耦合超球面的特征自适应方法（CFA），这是一种新颖的目标导向异常定位方法，通过度量学习和可扩展的、与尺寸无关的内存库，学习特定于目标的特征，从而减少预训练CNN带来的偏差。CFA在MVTec AD基准上实现了99.5%的I-AUROC和98.5%的P-AUROC的最先进性能，同时将内存激活减少99.9%而未造成性能下降。

ABSTRACT

For a long time, anomaly localization has been widely used in industries. Previous studies focused on approximating the distribution of normal features without adaptation to a target dataset. However, since anomaly localization should precisely discriminate normal and abnormal features, the absence of adaptation may make the normality of abnormal features overestimated. Thus, we propose Coupled-hypersphere-based Feature Adaptation (CFA) which accomplishes sophisticated anomaly localization using features adapted to the target dataset. CFA consists of (1) a learnable patch descriptor that learns and embeds target-oriented features and (2) scalable memory bank independent of the size of the target dataset. And, CFA adopts transfer learning to increase the normal feature density so that abnormal features can be clearly distinguished by applying patch descriptor and memory bank to a pre-trained CNN. The proposed method outperforms the previous methods quantitatively and qualitatively. For example, it provides an AUROC score of 99.5% in anomaly detection and 98.5% in anomaly localization of MVTec AD benchmark. In addition, this paper points out the negative effects of biased features of pre-trained CNNs and emphasizes the importance of the adaptation to the target dataset. The code is publicly available at https://github.com/sungwool/CFA_for_anomaly_localization.

研究动机与目标

• 解决预训练CNN在工业异常检测中应用时产生的特征偏差问题。
• 通过适应目标数据集分布，提升异常定位的准确性。
• 在不牺牲性能的前提下，减少内存库大小和推理成本。
• 通过有针对性的特征自适应，实现正常与异常特征之间的有效区分。
• 在多种主干网络上展示该方法的通用性与鲁棒性。

提出的方法

• CFA采用可学习的图像块描述符，通过迁移学习微调，提取偏差更小的目标导向特征。
• 引入软边界回归损失，学习一个最小超球面，使正常特征密集聚集，形成耦合超球面结构。
• 构建与目标数据集大小无关的可扩展内存库，仅存储核心正常特征，以减少内存占用。
• 通过特征自适应使正常特征聚类更紧密，提升正常与异常特征之间的可分性。
• 利用结合到超球面距离和特征置信度的评分函数计算异常分数，尤其适用于困难样本的异常。
• 采用基于子类的压缩比率对内存库进行压缩，仅保留最具代表性的特征。

实验结果

研究问题

• RQ1 预训练CNN产生的特征偏差在工业数据集上如何影响异常定位性能？
• RQ2 针对特定目标的特征自适应是否能提升正常与异常特征之间的可分性？
• RQ3 在不降低异常定位性能的前提下，内存库最多可压缩到何种程度？
• RQ4 与标准内存库方法相比，所提出的耦合超球面度量学习在多大程度上提升了定位精度？
• RQ5 该方法在不同预训练CNN主干网络及数据集类别（如纹理与物体）之间是否具备泛化能力？

主要发现

• CFA在MVTec AD基准上实现了99.5%的图像级AUROC和98.5%的像素级AUROC，创下新的最先进水平。
• 尽管将内存库激活减少了约99.9%，性能几乎未受影响，当内存库从25%压缩到2%时，P-AUROC仅下降0.08%。
• 与基线方法相比，使用VGG19、EffiNet-B5和ResNet18主干网络时，I-AUROC分别提升了2.4%、0.9%和2.1%。
• 由于推理负载降低，当内存库进一步压缩时，吞吐量最高可提升3.6倍。
• 定性结果表明，即使在边界模糊的困难样本中，正常特征也表现出清晰的聚类，异常区域定位精确。
• 该方法在MVTec AD数据集中物体类和纹理类上均表现出一致的性能，证实了其鲁棒性与泛化能力。