[論文レビュー] No True State-of-the-Art? OOD Detection Methods are Inconsistent across Datasets

Fahim Tajwar, Ananya Kumar+2 more|arXiv (Cornell University)|Sep 12, 2021

Adversarial Robustness in Machine Learning参考文献 38被引用数 8

ひとこと要約

この論文は、標準化されたトレーニングと評価のもとでも、さまざまな（インディストリビューション、アウトオブディストリビューション）データセットペアにおいて、1つのOOD検出手法が他を常に上回ることはないことを示している。また、高次元の共分散推定を避けることで、低データ環境におけるマハラノビス法やMSPより優れた性能を発揮する、シアンプスネットワークに基づくPairwise OOD Detection（POD）を提案している。これにより、OOD検出のためのより構造的なベンチマークの必要性が浮き彫りになる。

ABSTRACT

Out-of-distribution detection is an important component of reliable ML systems. Prior literature has proposed various methods (e.g., MSP (Hendrycks & Gimpel, 2017), ODIN (Liang et al., 2018), Mahalanobis (Lee et al., 2018)), claiming they are state-of-the-art by showing they outperform previous methods on a selected set of in-distribution (ID) and out-of-distribution (OOD) datasets. In this work, we show that none of these methods are inherently better at OOD detection than others on a standardized set of 16 (ID, OOD) pairs. We give possible explanations for these inconsistencies with simple toy datasets where whether one method outperforms another depends on the structure of the ID and OOD datasets in question. Finally, we show that a method outperforming another on a certain (ID, OOD) pair may not do so in a low-data regime. In the low-data regime, we propose a distance-based method, Pairwise OOD detection (POD), which is based on Siamese networks and improves over Mahalanobis by sidestepping the expensive covariance estimation step. Our results suggest that the OOD detection problem may be too broad, and we should consider more specific structures for leverage.

研究の動機と目的

• 標準化された16組の（ID, OOD）データセットペアにおいて、最先端のOOD検出手法の一貫性を評価すること。
• 同じ手法を標準化しても、異なるデータセットペア間でOOD検出性能に顕著な差が生じる理由を調査すること。
• インディストリビューショントレーニングデータのサイズが、特に低データ環境における手法の性能に与える影響を調査すること。
• 高次元共分散行列の推定を回避することで、低データ環境での性能を向上させる新しい手法、Pairwise OOD Detection（POD）を提案すること。
• OOD検出問題が広すぎるため、今後の研究では、信頼できる評価と開発が可能となる、より具体的で構造的な設定を検討すべきだと主張すること。

提案手法

• 16組の（ID, OOD）データセットペアに対して、MSP、ODIN、マハラノビスの3つの代表的なOOD検出手法を、完全なトレーニングセットと10％サイズのトレーニングセットを用いて、標準化されたトレーニングと評価を実施した。
• 予測スコアベース（例：MSP）と距離ベース（例：マハラノビス）手法の相対的性能が、IDおよびOOD分布の構造に根本的に依存することを示すために、2次元のシンプルなトイデータセット2つを設計した。
• 入力サンプルを直接比較する能力を学習するシアンプスネットワークベースの手法、Pairwise OOD Detection（POD）を導入した。この手法は、高次元の共分散行列の推定を回避する。
• PODは、シアンプスアーキテクチャを用いて、IDとOODのサンプルを区別するペアワイズ類似度関数を学習し、低データ環境における効率的な推論と高いロバスト性を実現する。
• トレーニングやハイパーパramータチューニング時にOODデータを一切使用しない設定と、OODデータを活用する設定の2通りの状況で手法を評価し、データ可用性への感受性を評価した。
• 主な指標としてAUROCとFNR@95を用い、結果は3つの異なるランダムシードで平均化して安定性を確保した。

実験結果

リサーチクエスチョン

• RQ1 標準化された条件下で、さまざまな（ID, OOD）データセットペアにおいて、常に他の手法を上回る1つのOOD検出手法が存在するか？
• RQ2 MSP、ODIN、マハラノビスの相対的性能は、インディストリビューションおよびアウトオブディストリビューションデータセットの具体的な構造にどのように依存するか？
• RQ3 インディストリビューショントレーニングセットのサイズを10％に縮小した場合、OOD検出手法の性能順位は一貫しているか？
• RQ4 共分散推定のような計算コストの高いステップを回避することで、低データ環境での性能を向上させられる新しい手法を設計できるか？
• RQ5 インディストリビューション分類精度とOOD検出性能（AUROC）の間にはどの程度の相関があるか？

主な発見

• 16組の（ID, OOD）データセットペアすべてにおいて、OOD検出手法が他のすべての手法を常に上回ることはなかった。各手法について、少なくとも3つ、最大で13の他の手法が異なるペアでその性能を上回っていた。
• 完全なデータ環境では、マハラノビス法が16組のうち12組でODINを上回ったが、低データ環境（10％トレーニングデータ）ではこの数がたったの3組にまで減少し、データ不足下で性能の逆転が生じた。
• 低データ環境において、PODはMSPに対して13組中16組、マハラノビスに対して10組中16組で優れた性能を示した。これは、データが限られた環境下でも有効であることを示している。
• 2次元トイ例から明らかになったように、予測スコアベース（例：MSP）と距離ベース（例：マハラノビス）手法の相対的性能は、データ分布の構造に根本的に依存しており、ある手法が完璧に機能する一方で、もう一方が失敗するような状況も存在する。
• インディストリビューション分類精度とOOD検出のAUROCには相関がなかった。200エポックを超えてトレーニングを続けると、ID分類精度は向上したが、OODのAUROCは低下し、OOD性能のばらつきも大きくなった。
• OODデータをハイパーパramータチューニングに活用できたとしても、低データ環境では手法の順位が逆転する。例えば、低データ環境ではODINが16組中10組でマハラノビスを上回ったが、完全なデータ環境ではその数は5組にまで減少した。これは、手法選択の不安定性を強く示している。