[論文レビュー] OLED: One-Class Learned Encoder-Decoder Network with Adversarial Context Masking for Novelty Detection

John Jewell, Vahid Reza Khazaie+1 more|arXiv (Cornell University)|Mar 27, 2021

Anomaly Detection Techniques and Applications被引用数 5

ひとこと要約

本論文は、自己符号化器ベースの異常検出における再構成性能を向上させるために、意味的に情報を持つ画像マスクを学習するための敵対的に訓練されたマスクモジュールを備えた、1クラスの新奇度検出フレームワークOLEDを提案する。再構成器（R）が再構成誤差を最小化し、マスクモジュール（MM）がそれを最大化するように同時に訓練することで、OLEDはより豊かな表現を学習し、UCSD動画データで99.02%のAUC、MNISTで98.45%のAUCを達成し、最先端の性能を実現した。

ABSTRACT

Novelty detection is the task of recognizing samples that do not belong to the distribution of the target class. During training, the novelty class is absent, preventing the use of traditional classification approaches. Deep autoencoders have been widely used as a base of many unsupervised novelty detection methods. In particular, context autoencoders have been successful in the novelty detection task because of the more effective representations they learn by reconstructing original images from randomly masked images. However, a significant drawback of context autoencoders is that random masking fails to consistently cover important structures of the input image, leading to suboptimal representations - especially for the novelty detection task. In this paper, to optimize input masking, we have designed a framework consisting of two competing networks, a Mask Module and a Reconstructor. The Mask Module is a convolutional autoencoder that learns to generate optimal masks that cover the most important parts of images. Alternatively, the Reconstructor is a convolutional encoder-decoder that aims to reconstruct unperturbed images from masked images. The networks are trained in an adversarial manner in which the Mask Module generates masks that are applied to images given to the Reconstructor. In this way, the Mask Module seeks to maximize the reconstruction error that the Reconstructor is minimizing. When applied to novelty detection, the proposed approach learns semantically richer representations compared to context autoencoders and enhances novelty detection at test time through more optimal masking. Novelty detection experiments on the MNIST and CIFAR-10 image datasets demonstrate the proposed approach's superiority over cutting-edge methods. In a further experiment on the UCSD video dataset for novelty detection, the proposed approach achieves state-of-the-art results.

研究の動機と目的

• コンテキスト自己符号化器におけるランダムマスキングの限界を是正する。これは、意味的に重要な画像構造を一貫してカバーできないためである。
• トレーニング中にマスキング戦略を最適化することで、1クラスの新奇度検出の表現学習を向上させる。
• インライヤーの再構成忠実度を向上させつつ、アウトライヤーの再構成を劣化させる、エンドツーエンドで学習可能なフレームワークを構築する。
• 最先端の手法と比較して、画像および動画の異常検出ベンチマークにおいて優れた性能を示す。

提案手法

• 活性マップを生成し、しきい値処理によってバイナリマスクを出力する畳み込み自己符号化器としてのマスクモジュール（MM）を導入する。
• 再構成器（R）とマスクモジュール（MM）を敵対的設定で訓練する：Rは再構成誤差を最小化し、MMはそれを最大化する。
• マスクされた入力の再構成誤差を異常スコアとして使用する。最適なマスキングにより表現品質が向上する。
• テスト時にマスキングを適用することで、重要な画像構造に焦点を当て、検出性能をさらに向上させる。
• 標準的なバックプロパゲーションを用いて、エンドツーエンドで全システムを訓練する。これにより、既存の自己符号化器パイプラインへのスムーズな統合が可能になる。
• 敵対的ダイナミクスを活用して、MMが意味的に顕著な領域を特定・マスクするよう促進し、より頑健な表現を生み出す。

実験結果

リサーチクエスチョン

• RQ1 マスク生成器と再構成器の間で敵対的トレーニングを実施することで、1クラスの新奇度検出における表現品質が向上するか？
• RQ2 学習されたコンテキストに依存したマスキングは、異常検出においてランダムマスキングを上回るか？
• RQ3 テスト時のマスキングは、1クラス設定における検出性能をどの程度向上させるか？
• RQ4 提案されたフレームワークは、画像や動画を含む多様なデータモダリティに一般化可能か？
• RQ5 標準ベンチマークデータセットにおいて、提案手法は最先端の手法と比較してどのように差をつけるか？

主な発見

• OLEDはUCSD動画異常検出ベンチマークで99.02%の受容器下面積（AUC）を達成し、最近のSOTAモデルを顕著に上回った。
• MNISTデータセットでは、平均異常スコアを用いて98.45%のAUCを達成し、ベースラインのコンテキスト自己符号化器（CAE）の5.7パーセンテージポイント上回った。
• アブレーションスタディにより、学習されたマスキングがランダムマスキングよりも性能を向上させることが確認され、MNISTではOLEDのAUCが98.45%、CAEが87.68%であった。
• マスクモジュールは強力な意味的セグメンテーション能力を示し、インライヤーおよびアウトライヤー両方のサンプルにおいて、重要な画像構造を効果的に特定した。
• テスト時のマスキングはOLEDの性能をさらに向上させた一方で、CAEの性能を劣化させた。これは、不適切なランダムマスキングが再構成スコアにノイズをもたらすことを裏付けた。
• 本手法は良好に一般化され、インライヤーに対して高い再構成忠実度を達成し、アウトライヤーに対しては劣化した再構成を示した。これは、本手法のコア設計原理が正当化されたことを示している。