[论文解读] Omni-frequency Channel-selection Representations for Unsupervised Anomaly Detection

Yufei Liang, Jiangning Zhang+4 more|arXiv (Cornell University)|Mar 1, 2022

Anomaly Detection Techniques and Applications被引用 6

一句话总结

本文提出 OCR-GAN，一种基于重建的新型无监督异常检测方法，通过频率解耦（FD）模块将输入图像分解为全频段分量，并利用通道选择（CS）模块实现频段间特征交互，从而提升性能。该方法在无需额外训练数据的情况下，在 MVTec AD 数据集上实现了新的 SOTA 98.3 AUC，显著优于以往基于重建的方法，AUC 提升达 +38.1。

ABSTRACT

Density-based and classification-based methods have ruled unsupervised anomaly detection in recent years, while reconstruction-based methods are rarely mentioned for the poor reconstruction ability and low performance. However, the latter requires no costly extra training samples for the unsupervised training that is more practical, so this paper focuses on improving this kind of method and proposes a novel Omni-frequency Channel-selection Reconstruction (OCR-GAN) network to handle anomaly detection task in a perspective of frequency. Concretely, we propose a Frequency Decoupling (FD) module to decouple the input image into different frequency components and model the reconstruction process as a combination of parallel omni-frequency image restorations, as we observe a significant difference in the frequency distribution of normal and abnormal images. Given the correlation among multiple frequencies, we further propose a Channel Selection (CS) module that performs frequency interaction among different encoders by adaptively selecting different channels. Abundant experiments demonstrate the effectiveness and superiority of our approach over different kinds of methods, e.g., achieving a new state-of-the-art 98.3 detection AUC on the MVTec AD dataset without extra training data that markedly surpasses the reconstruction-based baseline by +38.1 and the current SOTA method by +0.3. Source code is available at https://github.com/zhangzjn/OCR-GAN.

研究动机与目标

• 解决缺乏额外训练数据和预训练模型时，基于重建的无监督异常检测方法性能较低的问题。
• 通过利用输入图像的频域分解来提升重建能力。
• 通过跨多个频段分支的自适应特征通道选择，建模频段间的依赖关系。
• 在无需异常样本或额外训练数据的情况下，实现在感官与语义异常检测基准上的最先进性能。
• 证明频率感知重建在异常检测中的有效性与可解释性。

提出的方法

• 频率解耦（FD）模块通过傅里叶变换将输入图像分解为多个频带，实现各频带的并行重建。
• 通道选择（CS）模块自适应地选择并融合不同频段分支的特征，以建模频段间的相关性。
• 生成器采用多条并行分支结构，每条分支负责重建特定的频率分量，从而提升细节保留能力。
• 异常分数通过原始图像与重建图像之间的重建误差计算，误差越大表示越可能是异常。
• 模型通过对抗损失和感知损失进行端到端训练，以增强重建保真度与特征一致性。
• 通过结合 L1 损失与对抗训练对框架进行优化，超参数经调优以实现最优 AUC 表现。

实验结果

研究问题

• RQ1 在不依赖额外训练数据的前提下，频域分解能否提升基于重建的异常检测性能？
• RQ2 通过自适应通道选择实现的频段间特征交互，对异常检测准确率有何影响？
• RQ3 基于频率解耦的重建框架能否在 MVTec AD 等基准数据集上实现最先进性能？
• RQ4 与现有基于重建和非基于重建的方法相比，该方法在 AUC 和鲁棒性方面表现如何？
• RQ5 模型深度与通道数量对频率感知重建网络性能有何影响？

主要发现

• OCR-GAN 在 MVTec AD 数据集上实现了新的 SOTA AUC 98.3，较之前 SOTA 提升 +0.3，较基线重建方法提升 +38.1。
• 仅使用频率解耦（FD）模块，AUC 相较基线即提升 18.3 分，证明了频率感知重建的价值。
• 加入通道选择（CS）模块后性能进一步提升，表明频段间特征交互可增强检测能力。
• 当生成器每条分支使用 4 个特征通道时，模型达到最优性能，AUC 达 98.7，表明轻量化设计可超越更大模型。
• t-SNE 可视化结果表明，OCR-GAN 的潜在表征在特征空间中能清晰分离正常与异常样本。
• 重建结果表明，OCR-GAN 更好地保留了细节，并在差异图中更显著地突出异常区域，优于基线方法。