[論文レビュー] What is Wrong with One-Class Anomaly Detection?

Junekyu Park, Jeong-Hyeon Moon+2 more|arXiv (Cornell University)|Apr 20, 2021

Anomaly Detection Techniques and Applications参考文献 25被引用数 6

ひとこと要約

本論文は、1クラス異常検出における根本的な欠陥を特定する：従来の手法は、正常データに多様な意味的クラスが含まれる場合に失敗し、過剰に緩い意思決定境界を生じる。これを解決するために、著者らはCLADを提案する。CLADは、自己教師ありクラスタリングと仮ラベル付けを用いて潜在的クラス情報を活用する信頼度ベースの自己ラベル化フレームワークであり、複数クラスの正常データにおいて、先行する1クラス手法を著しく上回る性能を発揮する。

ABSTRACT

From a safety perspective, a machine learning method embedded in real-world applications is required to distinguish irregular situations. For this reason, there has been a growing interest in the anomaly detection (AD) task. Since we cannot observe abnormal samples for most of the cases, recent AD methods attempt to formulate it as a task of classifying whether the sample is normal or not. However, they potentially fail when the given normal samples are inherited from diverse semantic labels. To tackle this problem, we introduce a latent class-condition-based AD scenario. In addition, we propose a confidence-based self-labeling AD framework tailored to our proposed scenario. Since our method leverages the hidden class information, it successfully avoids generating the undesirable loose decision region that one-class methods suffer. Our proposed framework outperforms the recent one-class AD methods in the latent multi-class scenarios.

研究の動機と目的

• 正常データに多様な意味的クラスが含まれる状況における1クラス異常検出の根本的制限要因を特定すること。
• 正常データが複数の隠れた意味的クラスを含む現実的で、潜在的クラス条件に基づく異常検出のシナリオを提示すること。
• 真のラベルが不要な状況でも、潜在的クラス情報を活用する自己教師ありフレームワークを開発すること。
• 異常ラベルが存在しない状況でも意味的認識可能な意思決定境界を実現することで、教師ありと自己教師ありの異常検出のギャップを埋めること。
• 潜在的クラス構造からの学習が、標準的な1クラス手法に比べて異常検出性能を向上させることを実証すること。

提案手法

• 対照的学習（SimCLR）を用いて事前学習された自己教師あり特徴エンコーダーにより、意味のある潜在表現を抽出する。
• 潜在特徴に対してDeep Embedding Clustering（DEC）アルゴリズムを適用し、クラスタリングと正常サンプルへの仮ラベル割り当てを実施する。
• これらの仮ラベル付き正常サンプル上で、教師あり学習により分類器（ResNet-18）を訓練し、クラス認識可能な表現を学習する。
• 推論段階では、温度スケーリングと入力摂動を用いた信頼度ベースの異常検出（ODIN）を適用して異常を検出する。
• 潜在的意味的サブクラスの監視により、クラスごとのタイトな境界を学習することで、緩い意思決定境界問題を回避する。
• 対照的事前学習、クラスタリングに基づく自己ラベル付け、教師あり分類の全パイプラインをエンドツーエンドで訓練する。

実験結果

リサーチクエスチョン

• RQ1 なぜ標準的な1クラス異常検出手法は、正常データに複数の意味的クラスが含まれる場合に失敗するのか？
• RQ2 真のラベルにアクセスできない状況でも、潜在的クラス情報は異常検出に効果的に活用可能か？
• RQ3 クラスタリングに基づく自己ラベル化フレームワークは、1クラスADにおける意思決定境界のタイトさと検出性能を向上させることができるか？
• RQ4 提案手法は、多クラス正常データのシナリオにおいて、最先端の1クラス異常検出手法と比較してどのように差をつけるか？
• RQ5 温度スケーリングと入力摂動を用いた信頼度ベースの推論は、提案フレームワークにおける異常検出性能を向上させるか？

主な発見

• 提案されたCLADフレームワークは、潜在的多クラスシナリオにおいて、最近年の1クラス異常検出手法を著しく上回り、特にMNIST-Mixedのような困難なケースでも顕著な性能向上を示す。
• MNIST、GTSRB、CIFAR-10、Tiny-ImageNetを含むすべてのデータセットで、ベースライン1クラス手法よりも高いAUCスコアを達成する。
• 自己ラベル化された仮ラベルクラスの活用により、モデルはよりタイトでクラスごとの意思決定境界を学習でき、緩いカバレッジに起因する偽陰性を低減する。
• アブレーションスタディの結果、クラスタリングによる自己ラベル付けが性能向上に不可欠であることが確認され、これを除去すると性能はベースライン水準まで低下する。
• 推論段階における温度スケーリングと入力摂動により、検出の信頼度とAUCがさらに向上し、ODINベースの信頼度キャリブレーションの有効性が裏付けられる。
• フレームワークは多様なデータセットに広く一般化可能であり、異種の正常クラスを含む現実世界のシナリオにおいても、高い頑健性を示す。