[論文レビュー] SPADE: Semi-supervised Anomaly Detection under Distribution Mismatch

Jinsung Yoon, Kihyuk Sohn+3 more|arXiv (Cornell University)|Nov 30, 2022

Anomaly Detection Techniques and Applications被引用数 9

ひとこと要約

SPADEは、アンサンブルによるワンクラス分類器を用いた疑似ラベル付けと、検証データを必要としないハイパーパラメータ自動設定手法を採用することで、ラベル付きデータとラベルなしデータの分布不一致に対して頑健な半教師付き異常検出フレームワークを提案する。この手法は、実世界の分布シフトに挑戦的な状況下でも最先端の性能を達成し、表形式データではAUCが最大10.6%向上、画像データでは3.6%向上を達成した。

ABSTRACT

Semi-supervised anomaly detection is a common problem, as often the datasets containing anomalies are partially labeled. We propose a canonical framework: Semi-supervised Pseudo-labeler Anomaly Detection with Ensembling (SPADE) that isn't limited by the assumption that labeled and unlabeled data come from the same distribution. Indeed, the assumption is often violated in many applications - for example, the labeled data may contain only anomalies unlike unlabeled data, or unlabeled data may contain different types of anomalies, or labeled data may contain only 'easy-to-label' samples. SPADE utilizes an ensemble of one class classifiers as the pseudo-labeler to improve the robustness of pseudo-labeling with distribution mismatch. Partial matching is proposed to automatically select the critical hyper-parameters for pseudo-labeling without validation data, which is crucial with limited labeled data. SPADE shows state-of-the-art semi-supervised anomaly detection performance across a wide range of scenarios with distribution mismatch in both tabular and image domains. In some common real-world settings such as model facing new types of unlabeled anomalies, SPADE outperforms the state-of-the-art alternatives by 5% AUC in average.

研究の動機と目的

• ラベル付きデータとラベルなしデータの分布が異なるという一般的な現実世界の課題に対処すること。これは、標準的な半教師付き学習の仮定を満たさない。
• ラベル付きデータに異常のみ、または容易なサンプルのみ、あるいはラベルなしデータとは異なる異常タイプが含まれる状況でも、高い性能を維持できる手法を開発すること。
• 検証データを必要としない、データ効率的で自動的な疑似ラベル付け閾値の設定手法を導入することで、ハイパーパラメータチューニングにおける検証データの必要性を排除すること。
• アンサンブルベースの疑似ラベル付けと自己教師付き学習を統合することで、分布シフト下での半教師付き異常検出の頑健性と一般化性能を向上させること。

提案手法

• 分布不一致下での疑似ラベル付けの頑健性を向上させるために、ワンクラス分類器（OCC）のアンサンブルを疑似ラベル生成器として使用する。
• 検証データが利用できない状況においても、最適な疑似ラベル付け閾値を自動的に特定できる部分一致法を適用する。これは、データが少ない状況で特に重要である。
• ラベル付きデータに対する教師あり損失と、ラベルなしデータに対する疑似ラベル付け損失を、学習可能な重みハイパーパラメータαを用いて統合する。
• 特徴量の質とモデルの一般化性能を向上させるために、自己教師付き表現学習（例：対照的学習）を統合する。
• 個々のモデルのノイズを低減するために、OCCアンサンブル全体の一致投票を用いて信頼性の高い疑似ラベルを生成する。
• ラベル付きデータと疑似ラベルが付与されたラベルなしデータの両方を用いて最終的な異常検出器を訓練し、分布シフトに対応するための損失重みの適応的調整を実施する。

実験結果

リサーチクエスチョン

• RQ1 ラベル付きデータとラベルなしデータが異なる分布から抽出される状況下でも、半教師付き異常検出フレームワークが高い性能を維持できるか？
• RQ2 検証データにアクセスできない状況で、疑似ラベル付けのハイパーパラメータを自動的に選択する方法は何か？
• RQ3 単一モデルアプローチと比較して、アンサンブルベースの疑似ラベル付けは分布シフト下でどれほど頑健性を向上させるか？
• RQ4 自己教師付き表現学習の導入は、ラベル付きデータが少ない状況下での性能にどのように影響を与えるか？
• RQ5 投票戦略（例：全員一致 vs. 多数決）の違いが、疑似ラベルの品質および最終的な異常検出性能に与える影響は何か？

主な発見

• SPADEは、新しい異常タイプ、進化するデータ分布、偏ったラベリングを含む多様な現実世界のシナリオにおいて、最先端の性能を達成した。
• 新しい異常タイプを含む表形式データセットでは、最良のベースラインと比較してAUCが最大10.6%向上した。
• 同様の分布シフト下での画像データセットでは、最先端手法と比較してAUCが3.6%向上した。
• 部分一致法は、検証データを一切使用せずに最適な疑似ラベル付け閾値を正確に特定でき、手動によるハイパーパラメータチューニングへの依存を低減した。
• アブレーションスタディの結果、アンサンブル、部分一致法、自己教師付き学習、全員一致投票の各要素が性能向上に顕著に寄与しており、自己教師付き学習はAUCに0.018の寄与、全員一致投票は多数決投票よりも0.024の向上をもたらした。
• ハイパーパラメータαに対してフレームワークは頑健であり、さまざまな値でも性能が安定しており、α=0（疑似ラベルなし）の場合に著しく性能が低下するため、ラベルなしデータの価値が確認された。