[論文レビュー] Attribute Restoration Framework for Anomaly Detection

Chaoqin Huang, Fei Ye+4 more|arXiv (Cornell University)|Nov 25, 2019

Anomaly Detection Techniques and Applications参考文献 66被引用数 44

ひとこと要約

本論文は、Attribute Erasing Module を備えた ARNet を提案します。再構成を restoration タスクへと転換することで、セマンティック特徴学習を可能にし、複数のデータセットにおける異常検知を改善します。

ABSTRACT

With the recent advances in deep neural networks, anomaly detection in multimedia has received much attention in the computer vision community. While reconstruction-based methods have recently shown great promise for anomaly detection, the information equivalence among input and supervision for reconstruction tasks can not effectively force the network to learn semantic feature embeddings. We here propose to break this equivalence by erasing selected attributes from the original data and reformulate it as a restoration task, where the normal and the anomalous data are expected to be distinguishable based on restoration errors. Through forcing the network to restore the original image, the semantic feature embeddings related to the erased attributes are learned by the network. During testing phases, because anomalous data are restored with the attribute learned from the normal data, the restoration error is expected to be large. Extensive experiments have demonstrated that the proposed method significantly outperforms several state-of-the-arts on multiple benchmark datasets, especially on ImageNet, increasing the AUROC of the top-performing baseline by 10.1%. We also evaluate our method on a real-world anomaly detection dataset MVTec AD and a video anomaly detection dataset ShanghaiTech.

研究の動機と目的

• 学習時に正常データのみが利用可能な教師なし設定における静止画像の異常検知を動機づける。
• 意味属性を消去して restoration task を形成することにより、再構成ベースの手法における情報の同値性を崩す。
• restoration を通じてセマンティック特徴埋め込みを学習し、 restoration 誤差を通じて正常データと異常データを効果的に分離できるようにする。

提案手法

• コンパクトなセマンティック表現に関連する属性を消去する Attribute Erasing Module (AEM) を導入する（例: 色や配向など）。
• オリジナルデータを監督信号として欠落した属性を復元するエンコーダ–デコーダとして Attribute Restoration Network (ARNet) を設計する。
• semantic embeddings を学習するため、l2 トレーニング損失を用いた非対称の restoration 目的を使用する。
• テスト時には、複数の attribute erasures にわたる l1 損失を用いて正規化した restoration エラーを異常スコアとして定義する。
• 確率的な erasing へ対処するため、複数の erased-attribute 構成を考慮し、バイアスを減らすために正規化した restoration エラーを平均化する。

実験結果

リサーチクエスチョン

• RQ1 意味論的に意味のある属性を消去することで、正常データと異常データを区別する頑健なセマンティック埋め込みをネットワークに学習させることができますか？
• RQ2 属性回復は多様なデータセットで従来の再構成ベース手法より異常検知性能を改善しますか？
• RQ3 複数の erasure に跨る restoration エラーの正規化提案は、異常スコアの安定性と精度にどのような影響を与えますか？
• RQ4 ARNet は実世界および合成の破損に対して頑健ですか、ImageNet のような大規模・高解像度データセットへスケールしますか？

主な発見

• ARNet は ImageNet を含むいくつかのベンチマークで最先端の異常検知手法を大幅に上回り、AUROC の顕著な向上を達成します。
• 本手法は MVTec AD のような実世界データセットや CIFAR-10-C のような歪んだデータセットでも頑健であり、セマンティック中心の restoration を示唆しています。
• 属性消去を備えた restoration ベースのフレームワークは、ピクセルレベルの再構成アプローチよりも識別力の高いセマンティック埋め込みを得られます。
• 本論文は属性 restoration による潜在空間でのセマンティック分離を示す T-SNE 可視化を提供します。