[論文レビュー] Exposing Outlier Exposure: What Can Be Learned From Few, One, and Zero Outlier Images

Philipp Liznerski, Lukas Ruff+4 more|arXiv (Cornell University)|May 23, 2022

Anomaly Detection Techniques and Applications被引用数 13

ひとこと要約

この論文は、深層異常検出（AD）が自己教師あり手法や大規模な外れ値露出（OE）データを必要とするという仮定に挑戦する。標準的な分類器をたった256枚のランダムな画像、あるいは1枚の適切に選ばれた外れ値サンプルで訓練するだけで、ImageNetおよびCIFAR-10ベンチマークで最先端のADモデルを上回る性能を達成できることを示している。また、CLIPベースのゼロショット表現は、訓練データを一切用いずに最先端の性能を達成する。

ABSTRACT

Due to the intractability of characterizing everything that looks unlike the normal data, anomaly detection (AD) is traditionally treated as an unsupervised problem utilizing only normal samples. However, it has recently been found that unsupervised image AD can be drastically improved through the utilization of huge corpora of random images to represent anomalousness; a technique which is known as Outlier Exposure. In this paper we show that specialized AD learning methods seem unnecessary for state-of-the-art performance, and furthermore one can achieve strong performance with just a small collection of Outlier Exposure data, contradicting common assumptions in the field of AD. We find that standard classifiers and semi-supervised one-class methods trained to discern between normal samples and relatively few random natural images are able to outperform the current state of the art on an established AD benchmark with ImageNet. Further experiments reveal that even one well-chosen outlier sample is sufficient to achieve decent performance on this benchmark (79.3% AUC). We investigate this phenomenon and find that one-class methods are more robust to the choice of training outliers, indicating that there are scenarios where these are still more useful than standard classifiers. Additionally, we include experiments that delineate the scenarios where our results hold. Lastly, no training samples are necessary when one uses the representations learned by CLIP, a recent foundation model, which achieves state-of-the-art AD results on CIFAR-10 and ImageNet in a zero-shot setting.

研究の動機と目的

• 大規模な外れ値露出（OE）が、深層異常検出における最先端の性能を達成するために必要かどうかを調査すること。
• 少数、1枚、あるいはゼロ枚の外れ値データが、異常検出モデルの学習にどの程度有効であるかを評価すること。
• さまざまな外れ値露出の条件下で、標準的な分類器と1クラス分類法のロバストネスと性能を比較すること。
• 微調整なしに事前学習済みCLIP表現を用いたゼロショット異常検出の実現可能性を評価すること。
• 最小限のデータを用いた教師ありOEが、従来の自己教師ありまたは半教師あり手法を上回る条件を特定すること。

提案手法

• 正常データと少数のランダムな自然画像を外れ値露出（OE）データとして用い、標準的なバイナリ分類器を訓練する。
• ImageNetおよびCIFAR-10ベンチマークで、256枚、64枚、16枚、あるいは1枚のOEサンプルを用いて分類器を訓練する。
• 分類器の性能を、分野の標準的テストとしてのone-vs-rest異常検出ベンチマークで評価する。
• 低域および高域フィルタリングによるデータ拡張を適用し、OEサンプルのロバストネスを調査する。
• CLIPの視覚エンコーダーを用いて、訓練データを一切用いずに特徴量を抽出し、ゼロショット異常検出を実行する。
• OEデータの種別（例：自然画像、フィルタリング済み画像）や最適化目的（HSC、BCE）ごとの性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 256枚のランダムな画像でのみ学習した標準的な分類器が、ImageNetのone-vs-rest異常検出ベンチマークで最先端の自己教師あり異常検出手法を上回ることができるか？
• RQ2 1枚の適切に選ばれた外れ値サンプルがあれば、競争力のある異常検出性能を達成できるか？
• RQ3 外れ値データが限られたり、代表的でなかったりする状況下で、教師ありOEと自己教師ありOEの性能はどのように異なるか？
• RQ4 最小限のOEデータを用いた異常検出において、1クラス手法が標準的な分類器を上回る状況はどのようなものか？
• RQ5 CLIPベースの表現を用いたゼロショット異常検出は、訓練データを一切用いずに最先端の性能を達成できるか？

主な発見

• たった256枚のランダムな外れ値画像で学習した標準的な分類器が、ImageNetのone-vs-rest異常検出ベンチマークで現在の最先端の性能を上回った。
• 1枚の適切に選ばれた外れ値サンプルでのみ学習した分類器が、ImageNetベンチマークで79.3%のAUCを達成し、最小限のデータでも高い性能を示した。
• 1クラス手法は、外れ値の選択が不適切であっても標準的な分類器よりもロバストであることが判明し、データが不足しているか、外れ値が偏っている状況での有用性が示された。
• OEデータに低域および高域フィルタリングを適用した結果、画像の周波数成分がモデルの一般化性能に顕著に影響することが明らかになった。
• CLIPベースのゼロショット表現は、訓練データを一切用いずにCIFAR-10およびImageNetで最先端の結果を達成し、教師ありおよび自己教師ありのベースラインを上回った。
• これらの結果は、深層ADにおいて自己教師ありまたは半教師あり手法が不可欠であるという長年の仮定を覆し、最小限のデータで教師ありOEを用いることで極めて有効な性能が得られることを示した。