[論文レビュー] Does Your Model Know the Digit 6 Is Not a Cat? A Less Biased Evaluation of "Outlier" Detectors

Alireza Shafaei, Mark Schmidt+1 more|arXiv (Cornell University)|Sep 13, 2018

Anomaly Detection Techniques and Applications被引用数 36

ひとこと要約

本稿では、画像分類における分布外（OOD）検出手法を公平に評価するための三データセット評価フレームワーク、OD-testを提案する。訓練データ、分布内検証データ、多様なOODテストデータを分離することで、現在の手法が現実的で高次元の画像OOD検出において著しく低い性能を示すことが明らかになり、現在のベンチマークとモデルの信頼性における根本的な限界が露呈された。

ABSTRACT

In the real world, a learning system could receive an input that looks nothing like anything it has seen during training, and this can lead to unpredictable behaviour. We thus need to know whether any given input belongs to the population distribution of the training data to prevent unpredictable behaviour in deployed systems. A recent surge of interest on this problem has led to the development of sophisticated techniques in the deep learning literature. However, due to the absence of a standardized problem formulation or an exhaustive evaluation, it is not evident if we can rely on these methods in practice. What makes this problem different from a typical supervised learning setting is that we cannot model the diversity of out-of-distribution samples in practice. The distribution of outliers used in training may not be the same as the distribution of outliers encountered in the application. Therefore, classical approaches that learn inliers vs. outliers with only two datasets can yield optimistic results. We introduce OD-test, a three-dataset evaluation scheme as a practical and more reliable strategy to assess progress on this problem. The OD-test benchmark provides a straightforward means of comparison for methods that address the out-of-distribution sample detection problem. We present an exhaustive evaluation of a broad set of methods from related areas on image classification tasks. Furthermore, we show that for realistic applications of high-dimensional images, the existing methods have low accuracy. Our analysis reveals areas of strength and weakness of each method.

研究の動機と目的

• 深層学習における分布外（OOD）検出のための標準的で信頼性のある評価の欠如に対処する。
• 訓練時とは異なる分布の外れ値を含む古典的な二データセット手法が、分布の不一致によりOOD検出性能を過大評価しているという欠陥を強調する。
• 現実のデプロイ状況をよりよく反映する、実用的で再現可能な評価スキームを提供する。
• より現実的で多様な外れ値分布を用いて、画像分類タスクにおける広範なOOD検出手法の評価を行う。
• 特に意味的に類似しているが分布外の入力（例：'6' と 'cat'）に対して、現在の手法の限界を露呈する。

提案手法

• 訓練データ、分布内検証データ、多様なOODテストデータを含む三データセット評価プロトコルであるOD-testを提案する。
• 分布内データとして標準的な画像分類データセット（例：CIFAR-10, SVHN）を用い、外れ値として多様なソースからのキュレート済みOOD画像を活用する。
• OODテストセットに意味的に類似しているが分布外の例（例：数字の'6'がネコに似た物体として）を含め、モデルの耐性をテストする。
• 複数のモデルとアーキテクチャを対象に、AUROCや95% TPRにおけるFPRといった標準的な指標を用いてOOD検出器を評価する。
• 将来的な手法が一貫した現実的条件の下で評価可能となるように、モジュール型かつ拡張可能なベンチマークを設計する。
• 特定の外れ値パターンに過剰適合しないよう、多様で代表的でないOOD分布を使用することが重要であることを強調する。

実験結果

リサーチクエスチョン

• RQ1 訓練時の外れ値分布とは異なる、現実的で多様なOODテストセットを用いた場合、現在のOOD検出手法はどの程度の性能を示すか？
• RQ2 分布の不一致のため、古典的な二データセット評価スキームが、OOD検出の真の性能をどの程度過大評価しているか？
• RQ3 意味的に類似しているが分布外の入力（例：数字の'6'が誤って'cat'と分類される）に対して、手法はどの程度の性能を示すか？
• RQ4 高次元の画像データに適用された場合、現在のOOD検出手法の主な失敗モードは何か？
• RQ5 標準的で三データセット構成のベンチマークは、OOD検出評価の信頼性と比較可能性を向上させることができるか？

主な発見

• 現在のOOD検出手法は、OD-testベンチマークにおいて標準的な二データセット評価と比較して著しく低い性能を示す。
• 多くのモデルが、意味的に類似しているが分布外の入力（例：数字の'6'が誤ってネコと分類される）を区別できず、耐性に深刻な欠陥が露呈された。
• 標準ベンチマークとOD-testの間の性能差は、外れ値分布の不一致に起因する過去の評価の楽観的傾向を浮き彫りにした。
• 最先端手法ですらOD-testでは中程度のAUROCスコア（例：0.85未満）しか得られず、さらなる改善の余地が大きいことが示された。
• OD-testにおける外れ値セットの多様性と現実性は、単純なベンチマークでは見えなかった現在の手法の弱みを露呈した。
• 三データセット方式は、現実のデプロイ課題をよりよく反映する信頼性の高い実用的評価フレームワークを提供する。