[論文レビュー] Deep Anomaly Detection Using Geometric Transformations

Izhak Golan, Ran El‐Yaniv|arXiv (Cornell University)|May 28, 2018

Anomaly Detection Techniques and Applications参考文献 34被引用数 291

ひとこと要約

本論文は、正常画像に適用された幾何変換を識別する多クラス分類器を学習させる識別的異常検知法を提案し、推定時にDirichletベースの正規性スコアを用いて分布外サンプルを検出する。

ABSTRACT

We consider the problem of anomaly detection in images, and present a new detection technique. Given a sample of images, all known to belong to a "normal" class (e.g., dogs), we show how to train a deep neural model that can detect out-of-distribution images (i.e., non-dog objects). The main idea behind our scheme is to train a multi-class model to discriminate between dozens of geometric transformations applied on all the given images. The auxiliary expertise learned by the model generates feature detectors that effectively identify, at test time, anomalous images based on the softmax activation statistics of the model when applied on transformed images. We present extensive experiments using the proposed detector, which indicate that our algorithm improves state-of-the-art methods by a wide margin.

研究の動機と目的

• 分布シフトやノイズ下でのビジョンシステムに対する頑健な異常検知を動機づける。
• 幾何変換を活用して正常データから有意な特徴を学習する非生成的で識別的なフレームワークを提案する。
• 再構成を用いずに正規性を定量化する確率的スコアリング手法を開発する。
• 複数の画像データセットで最先端の異常検知ベースラインと比較して手法を評価する。

提案手法

• 正規の訓練画像全体に一連の幾何変換 T を適用して自己ラベル付きデータを作成し、適用された変換インデックスを予測する k クラス分類器を訓練する。
• 正規性スコア n_S(x) を、x のすべての変換版に対する softmax 出力の対数尤度を平均することにより、訓練データから推定されたDirichletパラメータの下で得る。
• 各変換 i に対して Dirichlet パラメータ alpha_i を、変換後の訓練出力に対して固定点反復を用いて推定する。
• softmax 出力を平均する簡略化バリアント n_hat_S(x) を用い、予備実験でも依然として高い性能を達成する。
• 拡張された自己ラベル付きデセットで訓練された Wide ResNet を用い、標準のクロスエントロピー損失、Adam によって最適化する。

実験結果

リサーチクエスチョン

• RQ1 正規画像の多数の幾何変換を識別することを学習することで、異常検知に有効な特徴を得られるだろうか？
• RQ2 変換済み画像の予測を、分布外検出の信頼できる正規性スコアへどのように統合できるか？
• RQ3 複数データセットにおける従来の深層法と比較した、変換ベースの異常検知器の実証的性能はどうか？
• RQ4 ラベル付き多クラスデータセットにおける分布外サンプルの識別に手法は拡張可能か？
• RQ5 変換集合の選択が異常検知の性能に与える影響は何か？

主な発見

• CIFAR-10 では、10 回の実験を通じてトップのベースラインAUROCを大幅に上回り（平均向上率は32%と報告）。
• CatsVsDogs では、報告設定で最良ベースラインを大きく上回り（67% AUROC）。
• データセットを超えて、再構成ベースおよび他の深層異常検知法よりしばしば優れており、特に大きい画像サイズで顕著。
• CIFAR-100 では、同一クラス内の多様性のため正常クラスごとに性能が異なり、いくつかのクラスで結果が弱い。
• fashion-MNIST では大半の手法が良好に機能し、提案手法はわずかな優位性を示す。
• 提案手法は、ラベル付き多クラス設定での分布外検出を改善することができ、報告された課題でいくつかの既存ベースラインを上回る。