[論文レビュー] Analysis of Confident-Classifiers for Out-of-distribution Detection

Sachin Vernekar, Ashish Gaurav+5 more|arXiv (Cornell University)|Apr 27, 2019

Adversarial Robustness in Machine Learning参考文献 12被引用数 9

ひとこと要約

この論文は、分布外（OOD）検出のための確信度分類器アプローチを分析し、OODサンプルにおける出力エントロピーを最大化するためのKLダイバージェンス正則化を行っても、ReLUネットワークは分布外データが分布内に遠く離れている場合でも、任意に高い確信度の予測を出力することを示している。著者らは、代わりにOODサンプルに対して明示的な「拒否」クラスを学習する分類器を提案し、これにより決定境界が有界になり、特に分布境界に沿った高品質なOODサンプルと組み合わせた場合、OOD検出性能が顕著に向上することを示している。

ABSTRACT

Discriminatively trained neural classifiers can be trusted, only when the input data comes from the training distribution (in-distribution). Therefore, detecting out-of-distribution (OOD) samples is very important to avoid classification errors. In the context of OOD detection for image classification, one of the recent approaches proposes training a classifier called "confident-classifier" by minimizing the standard cross-entropy loss on in-distribution samples and minimizing the KL divergence between the predictive distribution of OOD samples in the low-density regions of in-distribution and the uniform distribution (maximizing the entropy of the outputs). Thus, the samples could be detected as OOD if they have low confidence or high entropy. In this paper, we analyze this setting both theoretically and experimentally. We conclude that the resulting confident-classifier still yields arbitrarily high confidence for OOD samples far away from the in-distribution. We instead suggest training a classifier by adding an explicit "reject" class for OOD samples.

研究の動機と目的

• 確信度分類器が分布外（OOD）サンプルを検出する際の理論的・実験的限界を調査すること。
• 分布内境界付近のOODサンプルにおいて出力エントロピーを最大化することが、有効なOOD検出をもたらすかどうかを分析すること。
• 確信度分類器の学習におけるGANによって生成されたOODサンプルの品質を評価すること。
• 改善されたOOD検出を実現するための代替手法として、明示的な「拒否」クラスを用いた手法の提案と検証を行うこと。

提案手法

• 分布内データにおける交差エントロピーを最小化し、OOD予測と一様分布との間のKLダイバージェンスを正則化するように、確信度損失を用いて分類器を学習する。
• 分布内データの低密度領域に位置するOODサンプルを生成するためにGANを用い、分布内境界に沿うように設計する。
• OODサンプルに対して追加の「拒否」クラスを備えた多クラス分類器を学習し、OODを明示的にクラスとしてモデル化する。
• 最大予測確信度と出力エントロピーを検出スコアとして用い、OOD検出性能を評価する。
• 決定境界の可視化と、異なる手法間のOOD検出性能を比較するために、合成2次元データセットを用いる。
• ネットワークアーキテクチャ、活性化関数、ハイパーパramータの変更によるアブレーションスタディを実施し、手法の頑健性を評価する。

実験結果

リサーチクエスチョン

• RQ1 KLダイバージェンス正則化を用いて学習された確信度分類器でさえ、分布内から遠く離れたOODサンプルを信頼して検出できるのか？
• RQ2 GANを用いて生成されたOODサンプルは、分布内の低密度境界全体を十分にカバーしているのか？
• RQ3 明示的な「拒否」クラスを持つ分類器と、確信度分類器のOOD検出性能には、どのような差があるのか？
• RQ4 ネットワークアーキテクチャ（例：ReLU対シグモイド）の違いが、OOD確信度のキャリブレーションに与える影響は何か？
• RQ5 式（1）に示すように、GANと分類器を同時に学習させることで、分布内境界を十分に代表するOODサンプルが得られるのか？

主な発見

• KLダイバージェンス正則化を用いて学習された確信度分類器でさえ、分布内から遠く離れたOODサンプルに対して、任意に高い確信度を割り当てることがあり、OOD検出には無効である。
• 明示的な「拒否」クラスを備えた提案手法は、OODサンプルを分布外として正しく識別でき、図1(b)に示すように、有界な決定境界を実現している。
• 2次元の合成データ上で得られた実験結果から、ReLUを用いた確信度分類器は、分布内クラスタから大きく離れた位置にあっても、OODサンプルに対して高確信度の予測を行うことがわかった。
• 確信度分類器と同時に学習されたGANは、分布内境界全体をカバーする多様なOODサンプルを生成できず、結果としてOOD検出性能が劣化する。
• 確信度分類器の性能は、生成されたOODサンプルの品質とカバレッジに極めて敏感であり、しばしば不完全で代表的でないサンプルが生成される。
• 特に高次元設定において、OODデータが分布内から遠く離れている場合には、「拒否」クラスを備えた分類器のアプローチが、確信度分類器を上回るOOD検出性能を示す。