[論文レビュー] Deep Dense and Convolutional Autoencoders for Unsupervised Anomaly Detection in Machine Condition Sounds

Alexandrine Ribeiro, Luís Miguel Matos+5 more|arXiv (Cornell University)|Jun 18, 2020

Music and Audio Processing参考文献 14被引用数 21

ひとこと要約

本稿では、メルスペクトログ램特徴量を用いて、正常な音声データのみでトレーニングする、深層畳み込み型および全結合型オートエンコーダー（AE）を提案し、機械の状態音における教師なし異常検出を実現する。正常音声サンプルのみでトレーニングされたモデルは、再構成誤差を測定することで異常を検出するが、特にスライダーやバルブ機械において優れた性能を示し、DCASE 2020のベースラインをすべての指標で上回る。

ABSTRACT

This technical report describes two methods that were developed for Task 2 of the DCASE 2020 challenge. The challenge involves an unsupervised learning to detect anomalous sounds, thus only normal machine working condition samples are available during the training process. The two methods involve deep autoencoders, based on dense and convolutional architectures that use melspectogram processed sound features. Experiments were held, using the six machine type datasets of the challenge. Overall, competitive results were achieved by the proposed dense and convolutional AE, outperforming the baseline challenge method.

研究の動機と目的

• 正常なトレーニングデータのみを用いて、機械の状態音における教師なし異常検出を実現すること。
• 事前に異常に関する知識を必要とせず、多様な機械タイプに一般化可能な深層オートエンコーダー・モデルを開発すること。
• より深いアーキテクチャとメルスペクトログラム特徴量を活用することで、DCASE 2020チャレンジのベースラインを改善すること。
• 標準的な指標を用いて、6種類の異なる機械タイプ（ToyCar, ToyConveyor, fan, pump, slider, valve）におけるモデル性能を評価すること。
• 各機械タイプごとに最良のAEを選択するハイブリッド手法を設計し、全体の異常検出性能を最大化すること。

提案手法

• 音声の時間的・周波数的特徴を表現するため、両方のオートエンコーダーにメルスペクトログラム特徴量を入力とすること。
• 4層の512ユニットを持つ全結合型オートエンコーダーを実装し、バッチ正則化、ReLU活性化関数、8ユニットのボトルネック層を含む。
• 畳み込み層と逆畳み込み層を用いて、スペクトログラムにおける階層的特徴抽出を実現する畳み込み型オートエンコーダーを設計すること。
• 正常音声サンプルのみでモデルをトレーニングし、正常パターンにおける再構成誤差を最小化すること。
• 未学習データにおける再構成誤差を計算することで異常を検出する。誤差が大きいほど異常と判断する。
• バリデーション性能に基づき、各機械タイプに対して最良のAE（全結合型またはCNN）を選択する混合モデル戦略を適用する。

実験結果

リサーチクエスチョン

• RQ1 正常なトレーニングデータのみを用いて、深層全結合型および畳み込み型オートエンコーダーが、機械の異常音を効果的に検出できるか？
• RQ2 メルスペクトログラムに基づくオートエンコーダーは、多様な機械タイプにおいてDCASE 2020ベースラインと比較してAUCおよびpAUCで優れているか？
• RQ3 畳み込み型オートエンコーダーは、音声スペクトログラムにおける空間的・時間的パターンを全結合型オートエンコーダーを上回って捉えられるか？
• RQ4 各機械タイプごとに最良のAEを組み合わせるハイブリッドモデルは、全体の異常検出性能を向上させられるか？
• RQ5 アーキテクチャの深さと正則化（バッチ正則化）は、再構成精度および異常検出のロバストネスにどのような影響を与えるか？

主な発見

• 全結合型オートエンコーダーは、全6機械タイプにおいて平均AUC（78.77% vs. ベースライン）およびpAUC（67.58% vs. ベースライン）でDCASE 2020ベースラインを上回った。
• 畳み込み型オートエンコーダーは、全モデルの中で最高の平均AUC（80.79%）およびpAUC（71.17%）を達成し、6機械タイプ中5つでベースラインを上回った。
• スライダーマシンでは、畳み込み型オートエンコーダーがAUC 98.86%、pAUC 94.47%を達成し、優れた異常識別能力を示した。
• 各機械タイプごとに最良のAEを選択する混合モデル戦略により、全体として最も優れた性能が得られ、平均AUC 83.45%、pAUC 73.50%を達成した。
• 全結合型オートエンコーダーは、ToyCar（AUC 85.97%）、ToyConveyor（AUC 76.43%）、fan（AUC 72.03%）、pump（AUC 73.06%）で最高の結果を出した一方、畳み込み型オートエンコーダーは、slider（AUC 91.77%）および valve（AUC 78.83%）で優れた性能を発揮した。
• 最も優れた性能を示したモデル（スライダーマシンにおける畳み込み型オートエンコーダー）は、AUC 98.86%を達成し、同機械タイプではほぼ完璧な異常検出能力を示した。