[論文レビュー] AND: Autoregressive Novelty Detectors.

Davide Abati, Angelo Porrello+2 more|arXiv (Cornell University)|Jul 4, 2018

Anomaly Detection Techniques and Applications参考文献 57被引用数 19

ひとこと要約

本稿では、自己符号化器に自己回帰モジュールを組み合わせた教師なしワンクラス異常検出モデルであるAND（Autoregressive Novelty Detectors）を提案する。このモデルは、圧縮された潜在表現の尤度を最大化することを目的としている。潜在表現の密度を自己回帰的手法でモデル化することで、異常ラベルなしの画像および動画の異常検出ベンチマークにおいて優れた性能を達成する。

ABSTRACT

We propose an unsupervised model for novelty detection. The subject is treated as a density estimation problem, in which a deep neural network is employed to learn a parametric function that maximizes probabilities of training samples. This is achieved by equipping an autoencoder with a novel module, responsible for the maximization of compressed codes' likelihood by means of autoregression. We illustrate design choices and proper layers to perform autoregressive density estimation when dealing with both image and video inputs. Despite a very general formulation, our model shows promising results in diverse one-class novelty detection and video anomaly detection benchmarks.

研究の動機と目的

• ラベル付き異常例が存在しない状況でも、未知の異常を検出する課題に対処すること。
• 自己回帰的尤度最大化を用いて、圧縮された潜在表現の密度をモデル化することで、ワンクラス異常検出の性能を向上させること。
• 画像および動画入力に適用可能な汎用的なフレームワークを設計すること。
• 正常なサンプルに対して尤度を高く、分布外または異常なサンプルに対しては尤度を低く学習できるエンドツーエンドのモデル訓練を可能にすること。

提案手法

• モデルは、入力データを潜在コードに圧縮するためのディープオートエンコーダーを採用し、密度推定の基盤を形成する。
• 新しい自己回帰モジュールを導入し、潜在コードの尤度を、その同時確率を条件付き確率の積に分解することでモデル化する。
• 自己回帰モジュールは、潜在空間における正常な訓練サンプルの対数尤度を最大化するように学習される。
• 画像および動画データに対しては、標準的なディープラーニング層（畳み込み層およびデコンボリューション層）を用い、適切な正則化および活性化関数を適用する。
• 異常ラベルなしで、正常データのみを用いて最大尤度の目的関数に基づきエンドツーエンドでモデルを訓練する。
• 最終的な異常スコアは、潜在表現の負の対数尤度から導出され、スコアが高いほどノイズや異常度が高くなる。

実験結果

リサーチクエスチョン

• RQ1 潜在表現の自己回帰的モデリングは、画像および動画データにおけるワンクラス異常検出の性能向上に寄与するか？
• RQ2 訓練時に異常ラベルが提供されない状況でも、本手法は分布外のサンプルを効果的に検出できるか？
• RQ3 画像および動画の潜在空間における自己回帰的密度推定において、最も効果的なアーキテクチャ選択と層タイプは何か？
• RQ4 本手法は、画像および動画異常検出の多様なベンチマークに一般化可能か？

主な発見

• 提案されたANDモデルは、複数のワンクラス異常検出ベンチマークで競争力ある性能を示し、異常ラベルなしでも優れた一般化性能を発揮する。
• 自己回帰モジュールは、潜在コードの密度を効果的にモデル化でき、正常サンプルと異常サンプルの区別を正確に行える。
• 動画異常検出においても、有望な結果を示しており、時系列データに適した性能を有している。
• 一般化された定式化と効果的な潜在密度推定のおかげで、画像および動画の異なるデータタイプに対して、モデルの性能が安定している。