[論文レビュー] Deep One-Class Classification Using Data Splitting.

Patrick Schlachter, Yi-Wen Liao+1 more|arXiv (Cornell University)|Feb 4, 2019

Anomaly Detection Techniques and Applications参考文献 11被引用数 3

ひとこと要約

本稿では、正常な訓練データを典型および特異なサブセットに分割することで、バイナリ損失を用いたエンドツーエンド学習を可能にする、深層1クラス分類の新規手法を提案する。潜在空間における距離制約を課す補助サブネットワークを導入することで、密な閉じた意思決定境界を実現し、7つのベースラインを上回り、3つの画像データセットで最先端の性能を達成した。

ABSTRACT

This paper introduces a generic method which enables to use conventional deep neural networks as end-to-end one-class classifiers. The method is based on splitting given data from one class into two subsets. In one-class classification, only samples of one normal class are available for training. During inference, a closed and tight decision boundary around the training samples is sought which conventional binary or multi-class neural networks are not able to provide. By splitting data into typical and atypical normal subsets, the proposed method can use a binary loss and defines an auxiliary subnetwork for distance constraints in the latent space. Various experiments on three well-known image datasets showed the effectiveness of the proposed method which outperformed seven baselines and had a better or comparable performance to the state-of-the-art.

研究の動機と目的

• 深層ニューラルネットワークを用いた1クラス分類において、閉じたかつタイトな意思決定境界を学習する課題に対処すること。
• 訓練中に異常データが存在しないにもかかわらず、従来の深層ニューラルネットワークがエンドツーエンドの1クラス分類器として機能できるようにすること。
• 正常データを典型および特異なサブセットに分割することで、一般化性能および異常検出性能を向上させること。
• 標準的な深層学習フレームワークと互換性があり、汎用的かつ即席に利用可能なソリューションを提供すること。
• 最先端の1クラス分類手法と比較して、同等または優れた性能を達成すること。

提案手法

• 単一の正常クラスを、典型および特異な正常サンプルの2つのサブセットに分割する。
• 分割されたデータを用いて、メインネットワークの学習にバイナリ交差エントロピー損失を適用する。
• 潜在空間における距離制約を強制するための補助サブネットワークを導入し、正常サンプルの周囲のコンパクト性を促進する。
• 典型サンプルの潜在表現は重心に近づけるように制約され、特異なサンプルは遠ざけられる。
• バイナリ分類損失と距離正則化の組み合わせ損失を用いて、エンドツーエンドでモデルを訓練する。
• 二重サブセットの監視と潜在空間制約のおかげで、意思決定境界が暗黙的に閉じてタイトに学習される。

実験結果

リサーチクエスチョン

• RQ1 典型および特異なサブセットへのデータ分割が、深層1クラス分類器の性能を向上させることができるか？
• RQ2 提案手法は、既存の1クラス分類ベースラインと比較して、異常検出精度においてどのように差をつけるか？
• RQ3 標準的な深層ニューラルネットワークが、明示的な異常データなしにバイナリ損失と潜在空間制約を用いて、閉じてタイトな意思決定境界を学習できるか？
• RQ4 距離制約用の補助サブネットワークが、正常クラス表現のコンパクト性を向上させるか？
• RQ5 提案手法は、異なる画像データセットおよびアーキテクチャに一般化可能か？

主な発見

• 提案手法は、3つの代表的な画像データセットにおいて7つのベースライン1クラス分類手法を上回った。
• 1クラス分類タスクにおいて、最先端の手法と同等の性能を達成した。
• データ分割と潜在空間距離制約の活用により、正常サンプルの周囲でよりタイトで閉じた意思決定境界が実現された。
• 訓練中に正常データのみに依存しているにもかかわらず、強力な一般化性能を示した。
• 補助サブネットワークのおかげで、潜在空間における正常クラス埋め込みのコンパクト性が顕著に向上した。
• アーキテクチャの変更なしに、標準的な深層ニューラルネットワークに適用可能な有効で汎用的なアプローチであることが示された。