[论文解读] MSFlow: Multi-Scale Flow-based Framework for Unsupervised Anomaly Detection

Yixuan Zhou, Xing Xu+3 more|arXiv (Cornell University)|Aug 29, 2023

Anomaly Detection Techniques and ApplicationsComputer Science被引用 3

一句话总结

MSFlow 提出了一种基于多尺度流的无监督异常检测与定位框架，通过非对称并行流和轻量级融合流捕捉多尺度表征。其在 MVTec AD 数据集上实现了最先进性能，检测 AUCROC 达 99.7%，定位 AUCROC 达 98.8%。

ABSTRACT

Unsupervised anomaly detection (UAD) attracts a lot of research interest and drives widespread applications, where only anomaly-free samples are available for training. Some UAD applications intend to further locate the anomalous regions without any anomaly information. Although the absence of anomalous samples and annotations deteriorates the UAD performance, an inconspicuous yet powerful statistics model, the normalizing flows, is appropriate for anomaly detection and localization in an unsupervised fashion. The flow-based probabilistic models, only trained on anomaly-free data, can efficiently distinguish unpredictable anomalies by assigning them much lower likelihoods than normal data. Nevertheless, the size variation of unpredictable anomalies introduces another inconvenience to the flow-based methods for high-precision anomaly detection and localization. To generalize the anomaly size variation, we propose a novel Multi-Scale Flow-based framework dubbed MSFlow composed of asymmetrical parallel flows followed by a fusion flow to exchange multi-scale perceptions. Moreover, different multi-scale aggregation strategies are adopted for image-wise anomaly detection and pixel-wise anomaly localization according to the discrepancy between them. The proposed MSFlow is evaluated on three anomaly detection datasets, significantly outperforming existing methods. Notably, on the challenging MVTec AD benchmark, our MSFlow achieves a new state-of-the-art with a detection AUORC score of up to 99.7%, localization AUCROC score of 98.8%, and PRO score of 97.1%. The reproducible code is available at https://github.com/cool-xuan/msflow.

研究动机与目标

• 解决无监督异常检测中异常尺寸不可预测变化的挑战，尤其是像素级定位问题。
• 克服现有基于流的方法在固定尺度特征表征下对小异常或大异常表现不佳的局限性。
• 设计一种多尺度架构，通过特定尺度和融合特征学习，提升图像级检测与像素级定位性能。
• 为检测与定位任务设计不同的聚合策略，以利用两者之间的内在差异。
• 在基准数据集上实现最先进性能，尤其在具有挑战性的 MVTec AD 数据集上表现优异。

提出的方法

• 利用网络低层阶段的激活输出构建多尺度特征金字塔，以保留空间细节，实现精确的定位。
• 实施非对称并行流，对高层特征应用更多流模块，以实现对全局模式的更深层次建模。
• 引入轻量级融合流，在不同层级间交换多尺度感知信息，提升表征学习能力，同时避免过度计算。
• 采用加法聚合策略进行像素级异常定位，以保留特定尺度的细节；采用乘法聚合策略进行图像级检测，以抑制噪声并突出一致的异常。
• 通过动态确定的占用率计算图像级异常分数，使用 top-K 像素级异常分数的均值得到，以增强鲁棒性。
• 采用端到端优化方式，仅使用无异常数据训练归一化流，利用似然估计识别低概率异常。

实验结果

研究问题

• RQ1 如何将基于流的模型适配以应对从微小缺陷到大范围异常的极端尺寸变化？
• RQ2 何种最优的多尺度架构能够有效结合不同层级的特征表征，以同时提升检测与定位性能？
• RQ3 针对图像级检测与像素级定位，应如何差异化地聚合多尺度似然输出以最大化性能？
• RQ4 哪些超参数设置（如 top-K 聚合中的 K）能在多种异常类型下实现鲁棒且最优的检测性能？
• RQ5 基于流的框架是否能在无需任何异常标注的情况下，实现无监督异常检测与定位的最先进性能？

主要发现

• MSFlow 在 MVTec AD 基准上达到新的最先进水平，检测 AUCROC 得分为 99.7%，超越先前方法。
• 在像素级定位方面，MSFlow 取得 98.8% 的定位 AUCROC 得分，表明其在识别异常区域方面具有高精度。
• PRO 得分为 97.1%，表明其在考虑空间连通性的区域级异常检测中表现强劲。
• 乘法聚合策略在图像级检测中优于加法策略，通过抑制噪声并强调跨尺度的一致性异常，提升性能。
• 加法聚合策略在定位任务中表现更优，因其能有效保留特定尺度的异常线索。
• 模型的检测性能对 top-K 聚合中的 K 值具有鲁棒性，在 1% 至 10% 范围内均保持超过 99.2% 的 AUCROC，最优性能出现在 2–3% 占用率时。