[論文レビュー] Rethinking Out-of-distribution (OOD) Detection: Masked Image Modeling is All You Need

Jingyao Li, Pengguang Chen+4 more|arXiv (Cornell University)|Feb 6, 2023

Anomaly Detection Techniques and Applications被引用数 4

ひとこと要約

本論文は、分布外（OOD）検出のための新規フレームワークMOODを提案する。MOODは、自己教師あり事前学習タスクとしてマスクド画像モデリング（MIM）を用い、OODサンプルを一切使用せずに堅牢な分布内（ID）表現を学習する。再構成に基づく学習に注目することで、複数のOOD検出ベンチマークで最先端性能を達成し、従来のSOTA手法を最大5.7%のAUROC向上で上回り、10ショットの異常サンプル露出を用いたモデルでさえも上回る。

ABSTRACT

The core of out-of-distribution (OOD) detection is to learn the in-distribution (ID) representation, which is distinguishable from OOD samples. Previous work applied recognition-based methods to learn the ID features, which tend to learn shortcuts instead of comprehensive representations. In this work, we find surprisingly that simply using reconstruction-based methods could boost the performance of OOD detection significantly. We deeply explore the main contributors of OOD detection and find that reconstruction-based pretext tasks have the potential to provide a generally applicable and efficacious prior, which benefits the model in learning intrinsic data distributions of the ID dataset. Specifically, we take Masked Image Modeling as a pretext task for our OOD detection framework (MOOD). Without bells and whistles, MOOD outperforms previous SOTA of one-class OOD detection by 5.7%, multi-class OOD detection by 3.0%, and near-distribution OOD detection by 2.1%. It even defeats the 10-shot-per-class outlier exposure OOD detection, although we do not include any OOD samples for our detection

研究の動機と目的

• 再構成に基づく自己教師あり学習が、OOD検出において分類ベースのアプローチを上回る可能性があるかを調査すること。
• 高精度なOOD検出にはOODサンプルの露出が必要であるという仮定に挑戦すること。
• MIMを用いたデータの内在的分布の学習が、より堅牢なID表現学習をもたらすことを示すこと。
• OODデータや複雑なアーキテクチャに依存しない、シンプルで効果的なOOD検出フレームワークを確立すること。

提案手法

• 本手法は、入力画像のランダムなパッチをマスクし、モデルにそれらを再構成させる自己教師あり事前学習タスクとしてマスクド画像モデリング（MIM）を採用する。
• モデルは離散的VAEトークンを監督信号として用い、マスクされた画像パッチを再構成することで、画素レベルのデータ分布を学習する。
• ビジョントランスフォーマーバックボーンが損傷を加えた画像入力を処理し、欠落したパッチを予測することで、一般化可能なID表現を学習する。
• 最終的なOOD検出は、テスト特徴量とID学習特徴分布とのマハラノビス距離を用いて実施する。
• 訓練時および推論時においてOODサンプルは一切使用されないため、本手法は純粋にIDに焦点を当てたものである。
• 本フレームワークは、1クラス、多クラス、近似分布、および少数ショットの異常サンプル露出を含むOOD検出タスクで評価されている。

実験結果

リサーチクエスチョン

• RQ1 再構成に基づく自己教師あり学習は、OOD検出において分類ベースの表現学習を上回ることができるか？
• RQ2 MIMを用いてデータの内在的分布を学習することで、分類タスクにおける短絡的学習よりもOOD検出の一般化性能が向上するか？
• RQ3 OODサンプルの露出なしにSOTAのOOD検出性能を達成することは可能か？
• RQ4 MIMに基づく表現学習は、異常サンプル露出を用いる最先端手法と比べてどうか？

主な発見

• 1クラスOOD検出において、MOODはCIFAR-10で94.9%のAUROCを達成し、前回SOTA（CSI）を5.7%上回った。
• 多クラスOOD検出では、CIFAR-10で97.6%のAUROCを達成し、現在のSOTA（SSD+）を3.0%上回った。
• 近似分布OOD検出では、CIFAR-10-CIFAR100ペアで98.3%のAUROCを達成し、SOTA（R50+ViT）を2.1%上回った。
• 少数ショットの異常サンプル露出OOD検出では、OODサンプルを一切使用せず99.41%のAUROCを達成し、10クラスあたり10個のOODサンプルを用いたSOTA（R50+ViT）の99.29%を上回った。
• 多クラス検出において、MOODはSOTA（SSD+）の95%TPRと比較して、誤って分類されたOODサンプルの数を平均で79%削減した。
• 結果から、再構成に基づく自己教師あり学習が、分類ベースや対照的学習のアプローチよりもOOD検出に適したより効果的な誘導バイアスを提供することが示された。