[论文解读] Flow-based Self-supervised Density Estimation for Anomalous Sound Detection

Kota Dohi, Takashi Endo+3 more|arXiv (Cornell University)|Mar 16, 2021

Anomaly Detection Techniques and Applications参考文献 20被引用 5

一句话总结

本文提出了一种基于流的自监督密度估计方法，用于异常声音检测，通过训练归一化流模型，使其对目标机器声音分配更高的似然度，对同类型其他机器的声音分配更低的似然度，从而提升性能。在 DCASE 2020 Challenge Task2 数据集上，使用 Glow 时 AUC 平均提升 5.8%，使用 MAF 时提升 4.6%，优于自监督和无监督分类基线方法，且表现更稳定。

ABSTRACT

To develop a machine sound monitoring system, a method for detecting anomalous sound is proposed. Exact likelihood estimation using Normalizing Flows is a promising technique for unsupervised anomaly detection, but it can fail at out-of-distribution detection since the likelihood is affected by the smoothness of the data. To improve the detection performance, we train the model to assign higher likelihood to target machine sounds and lower likelihood to sounds from other machines of the same machine type. We demonstrate that this enables the model to incorporate a self-supervised classification-based approach. Experiments conducted using the DCASE 2020 Challenge Task2 dataset showed that the proposed method improves the AUC by 4.6% on average when using Masked Autoregressive Flow (MAF) and by 5.8% when using Glow, which is a significant improvement over the previous method.

研究动机与目标

• 解决基于自监督分类的异常检测在机器声音监测中出现的不稳定性和性能下降问题。
• 通过结合分布内和分布外数据的自监督对比学习，提升基于归一化流的异常检测鲁棒性。
• 实现相较于无监督和现有自监督方法更高且更稳定的异常检测性能。
• 仅使用同类型多台机器的正常声音数据，实现有效的分布外检测。

提出的方法

• 该方法使用归一化流（Glow 和 MAF）对声音数据的似然度进行建模，并引入一种新颖的损失函数，使目标机器数据的似然度最大化，而其他同类型机器的异常数据似然度最小化。
• 损失函数定义为负对数似然的加权和：L = (1/N_D) Σ NLL(x) - (1/N_OOD) Σ NLL(x) · I[NLL(x) < c]，其中 c 是每类机器类型的阈值超参数。
• 通过将目标机器与异常机器 ID 的区分视为辅助任务，以自监督方式训练模型，从而在无需标注异常样本的情况下提升泛化能力。
• 超参数 c 通过验证数据按机器类型进行调优，MAF 的取值范围为 -800 至 -750，Glow 的取值范围为 5.53 至 5.75。
• 该方法利用归一化流的精确似然估计能力，同时增强对不同机器间结构差异的敏感性。
• 该方法在 DCASE 2020 Challenge Task2 数据集的六种机器类型上进行评估，与 VAE、VIDNN 及自监督 MobileNetV2 基线方法进行比较。

实验结果

研究问题

• RQ1 自监督对比学习目标能否提升归一化流在基于声音的机器监测中的异常检测性能？
• RQ2 对目标机器声音分配更高似然度、对同类型其他机器声音分配更低似然度，是否能带来比纯自监督分类更稳定、更准确的检测结果？
• RQ3 该方法在不同机器类型上的表现如何，尤其是在先前自监督方法失效的类型上？
• RQ4 性能提升是否依赖于目标数据与异常数据之间的结构相似性？

主要发现

• 在 DCASE 2020 Task2 数据集上，使用 Glow 时，该方法相比无监督基线平均提升 AUC 5.8%；使用 MAF 时，平均提升 4.6%。
• 使用所提损失函数（公式 5）时，Glow 的总 AUC 达到 85.2%，MAF 达到 84.7%，显著优于自监督 MobileNetV2 基线（平均 AUC 66.1%）。
• 对于 AUC 最低的机器 ID，该方法在 Glow 上达到 87.8%（公式 5），而 MobileNetV2 为 55.7%，无监督 Glow 基线为 64.2%。
• 当异常数据来自不同类型的机器（如泵 ID 0 的异常数据来自阀门或风扇）时，该方法未表现出性能增益，表明结构相似性至关重要。
• 该方法在所有机器类型上均保持高性能，当使用同类型异常数据时，所有类型中的最低 AUC 为泵 ID 0 的 70.0%，而自监督基线的最低 AUC 为 52.9%。
• 使用所提损失函数（公式 5）的模型在 Glow 上实现总 AUC 85.0%，优于无监督 Glow 基线（79.4%）和自监督 MobileNetV2（66.1%）的平均表现。