[論文レビュー] ID-Conditioned Auto-Encoder for Unsupervised Anomaly Detection

Sławomir Kapka|arXiv (Cornell University)|Jul 10, 2020

Anomaly Detection Techniques and Applications参考文献 22被引用数 13

ひとこと要約

本稿では、正常なサンプルが固有のIDでグループ化される音声ベースの機械状態監視における教師なし異常検出のためのID条件付きオートエンコーダ（IDCAE）を提案する。正常なサンプルのIDに条件付けられた潜在空間を用い、同一IDのサンプルのみを再構築するように訓練するとともに、非一致サンプルに対しては固定されたターゲットベクトルを用いてペナルティを与えることで、ベースラインのオートエンコーダーよりも著しく優れた異常検出性能を達成した。DCASE 2020チャレンジデータセットにおいて、最終的なmAUCは84.16を記録した。

ABSTRACT

In this paper, we introduce ID-Conditioned Auto-Encoder for unsupervised anomaly detection. Our method is an adaptation of the Class-Conditioned Auto-Encoder (C2AE) designed for the open-set recognition. Assuming that non-anomalous samples constitute of distinct IDs, we apply Conditioned Auto-Encoder with labels provided by these IDs. Opposed to C2AE, our approach omits the classification subtask and reduces the learning process to the single run. We simplify the learning process further by fixing a constant vector as the target for non-matching labels. We apply our method in the context of sounds for machine condition monitoring. We evaluate our method on the ToyADMOS and MIMII datasets from the DCASE 2020 Challenge Task 2. We conduct an ablation study to indicate which steps of our method influences results the most.

研究の動機と目的

• トレーニング時に正常なサンプルしか利用できない機械音声監視における教師なし異常検出を解決すること。
• 標準的なオートエンコーダーを改善するために、IDに基づく条件付けを組み込み、正常サンプルの再構築忠実度を向上させること。
• 分類ヘッドを別途設ける必要をなくすことで、オープンセット認識手法の複雑さを低減すること。
• 異なるIDに条件付けられることで、正常と異常な再構築誤差がより明確に分離されることを示すこと。
• 単一のトレーニングプロセスを用いて、DCASE 2020チャレンジタスク2データセットで最先端の性能を達成すること。

提案手法

• モデルはエンコーダ・デコーダアーキテクチャを採用し、2つの学習可能な関数 Hγ と Hβ を用いたアフィン変換により、ワンホットIDラベルで潜在空間を条件づける。
• トレーニング中、モデルはαの確率で一致ラベル（マッチング）を、1−αの確率で非一致ラベル（非マッチング）を入力とし、再構築損失はマッチングラベルでのみ最小化される。
• 非マッチングラベルの場合、モデルは入力ではなく固定された定数ベクトルCを再構築することを学習し、異常またはID外のサンプルに対して高い誤差を発生させる。
• 損失関数は、再構築出力とターゲット（マッチング時は入力、非マッチング時はC）との間にL1またはL2ノルムを用いる。
• 推論時、マッチングラベルのみを用い、再構築誤差を異常スコアとして使用する。
• 各マシンタイプごとに3つのモデルのアンサンブルを構築し、検証データ上でmAUCを最大化するように重み付き組み合わせを最適化する。

実験結果

リサーチクエスチョン

• RQ1 固有のIDに条件づけられたオートエンコーダーの潜在空間が、教師なし異常検出における正常サンプルの再構築忠実度を向上させるか？
• RQ2 C2AEにおける分類ヘッドの排除により、トレーニングの複雑さが低下するが、性能は維持または向上するか？
• RQ3 非マッチングラベルに対して固定定数ベクトルCを用いることで、モデルの異常検出能力にどのような影響を与えるか？
• RQ4 データの組み合わせによりトレーニング用のID数を増やすと、検出性能にどの程度の向上が見られるか？
• RQ5 多様な異常スコア予測を組み合わせることで、アンサンブルによる性能向上はどの程度達成できるか？

主な発見

• アブレーションスタディの結果、条件付け機構（Conditionステップ）を追加することで、平均pAUCが61.34から66.40に向上し、性能向上におけるその重要性が示された。
• 開発データセットに加えて追加データセット（AddDataset）を用いたトレーニングにより、平均AUCは74.75から80.71に、平均pAUCは61.34から69.95に上昇し、より多様な正常IDの恩恵が明確になった。
• 最終的なアンサンブルモデルは平均mAUCが84.16を達成し、ベースラインシステム（73.51）およびDCASE 2020チャレンジのベースラインを大きく上回った。
• トイカー機械ではAUCが91.28のピークを記録し、バルブ機械では88.27を記録しており、多様なマシンタイプにわたり優れた性能を示した。
• アーキテクチャの変更（Architect）や特徴量スケーリング（Scaler）にはほとんど影響がなく、主な向上は条件付け機構に起因していることが示唆された。
• 異常サンプルの再構築誤差が正常分布からより遠くに押し出されることで、標準的なオートエンコーダーよりも優れた分離性能を達成した。