[論文レビュー] Deep Autoencoding GMM-based Unsupervised Anomaly Detection in Acoustic Signals and its Hyper-parameter Optimization

Harsh Purohit, Ryo Tanabe+4 more|arXiv (Cornell University)|Sep 25, 2020

Anomaly Detection Techniques and Applications参考文献 15被引用数 13

ひとこと要約

本稿では、深層自己符号化器（DA）と混合ガウスモデル（GMM）を組み合わせ、ハイパーパramータの自動最適化を施した、音響信号向けの新しい教師なし異常検出手法DAGMM-HOを提案する。ギャップ統計量と累積固有値を用いてGMMのコンポーネント数および自己符号化器の次元数を最適化することで、産業用ファンの音声データにおいて、従来手法比でAUCが20%向上（最良で96%に達する）した。

ABSTRACT

Failures or breakdowns in factory machinery can be costly to companies, so there is an increasing demand for automatic machine inspection. Existing approaches to acoustic signal-based unsupervised anomaly detection, such as those using a deep autoencoder (DA) or Gaussian mixture model (GMM), have poor anomaly-detection performance. In this work, we propose a new method based on a deep autoencoding Gaussian mixture model with hyper-parameter optimization (DAGMM-HO). In our method, the DAGMM-HO applies the conventional DAGMM to the audio domain for the first time, with the idea that its total optimization on reduction of dimensions and statistical modelling will improve the anomaly-detection performance. In addition, the DAGMM-HO solves the hyper-parameter sensitivity problem of the conventional DAGMM by performing hyper-parameter optimization based on the gap statistic and the cumulative eigenvalues. Our evaluation of the proposed method with experimental data of the industrial fans showed that it significantly outperforms previous approaches and achieves up to a 20% improvement based on the standard AUC score.

研究の動機と目的

• 既存の教師なし手法が音響信号解析において劣悪な異常検出性能を示す問題に対処すること。
• 従来のDAGMMモデルのハイパーパrameter感受性、特にGMMコンポーネント数と自己符号化器の潜在次元に関する課題を克服すること。
• DAGMMの最適なハイパーパrameter選定のための自動的かつデータ駆動型の手順を開発すること。
• 提案手法を実世界の産業用ファン音声データに対して評価し、最先端の教師なし異常検出技術と性能を比較すること。

提案手法

• DAGMM-HOモデルは、次元削減および再構築誤差の計算に深層自己符号化器（DA）を用い、その後に圧縮済み特徴と誤差特徴の組み合わせに対する密度推定に混合ガウスモデル（GMM）を適用する。
• ギャップ統計量を用いて、クラスタ有効性の「へこみ」点を特定することで、最適なGMMコンポーネント数を決定する。これにより、過学習を回避しつつも頑健なクラスタリングを実現する。
• 主成分分析（PCA）からの累積固有値を用いて、自己符号化器の最適な潜在次元を推定する。これにより、圧縮と情報保持のバランスを取る。
• 自己符号化器の再構築損失とGMMの負の対数尤度を同時に最小化することで、エンドツーエンドでモデルを訓練する。
• 特徴量は、1024フレームサイズ、512ホップサイズ、64メルフィルタバンクを用いたログメルスペクトログラムとして抽出され、DAGMM-HOモデルの入力となる。
• 異常スコアはエネルギースコア（式10）を用いて計算され、GMMコンポーネントへの所属確率と再構築誤差を統合し、最終的な意思決定に用いる。

実験結果

リサーチクエスチョン

• RQ1 深層自己符号化器と混合ガウスモデルの統合は、単独での手法と比較して、教師なし音響異常検出性能を顕著に向上させることができるか？
• RQ2 実世界の音響データにおいて、DAGMMのハイパーパrameter感受性（特にGMMコンポーネント数と自己符号化器の潜在次元）は、どのように効果的に軽減できるか？
• RQ3 ギャップ統計量と累積固有値解析を用いたハイパーパrameter選定は、産業音声信号におけるより頑健で汎用性の高い異常検出を実現するか？
• RQ4 提案手法DAGMM-HOは、DA、GMM、OC-SVM、およびそれらの2段階処理の組み合わせといった従来の教師なし手法と比較して、AUCおよびF1スコアの観点でどの程度優れているか？

主な発見

• 提案手法DAGMM-HOは96%のAUCスコアを達成し、最良の従来手法（79% AUC）と比較して20%の向上を示した。
• 提案手法のF1スコアは94%に達し、次に優れた手法（DAE+GMM）の79% F1スコアを著しく上回った。
• ギャップ統計量と累積固有値解析を用いたハイパーパrameter最適化により、多様な産業用ファンの種別にかかわらず感受性が低下し、モデルの一般化性能が向上した。
• 2段階処理の組み合わせ（DAE+GMM）は単一段階手法を上回ったが、自動ハイパーパrameterチューニングを施したDAGMM-HOは、それらの組み合わせをも凌駆した。
• 6種類の異なるサイズおよび構造の産業用ファンから得られた実世界の音声データにおいても、本手法は多様な音響プロファイルにわたって一貫した検出能力を示した。
• GMMへの所属確率と再構築誤差から導出されたエネルギースコアは、事前に設定された閾値を用いても、信頼性の高い異常スコアを提供し、正確な分類を可能にした。