[論文レビュー] Detecting Out-of-Distribution Examples with In-distribution Examples and Gram Matrices

Chandramouli Shama Sastry, Sageev Oore|arXiv (Cornell University)|Dec 28, 2019

Adversarial Robustness in Machine Learning参考文献 33被引用数 21

ひとこと要約

本論文は、中間特徴活性化のグラム行列を用いて、予測クラスと異常な活性化パターンの不一致を特定することで、分布外（OOD）検出のための新規でゼロショットの手法を提案する。各グラム行列値をトレーニング範囲の分布と比較することで、トレーニングやチューニングにOODデータを必要とせず、複数のアーキテクチャおよびデータセットで最先端のOOD検出性能を達成する。

ABSTRACT

When presented with Out-of-Distribution (OOD) examples, deep neural networks yield confident, incorrect predictions. Detecting OOD examples is challenging, and the potential risks are high. In this paper, we propose to detect OOD examples by identifying inconsistencies between activity patterns and class predicted. We find that characterizing activity patterns by Gram matrices and identifying anomalies in gram matrix values can yield high OOD detection rates. We identify anomalies in the gram matrices by simply comparing each value with its respective range observed over the training data. Unlike many approaches, this can be used with any pre-trained softmax classifier and does not require access to OOD data for fine-tuning hyperparameters, nor does it require OOD access for inferring parameters. The method is applicable across a variety of architectures and vision datasets and, for the important and surprisingly hard task of detecting far-from-distribution out-of-distribution examples, it generally performs better than or equal to state-of-the-art OOD detection methods (including those that do assume access to OOD examples).

研究の動機と目的

• 深層ニューラルネットワークにおける分布外（OOD）例の検出という、モデルが誤った予測を過信して行うという深刻な課題に対処すること。
• トレーニングやハイパーパramータチューニング時にOODデータへのアクセスが不要な手法を開発すること。
• グラム行列を用いた特徴相関パターンの分析により、分布から大きく逸脱したOOD例の検出性能を向上させること。
• あらゆる事前学習済みソフトマックス分類器と互換性があるプラグアンドプレイのソリューションを提供することで、アーキテクチャおよびビジョンデータセット全体に広く適用可能にする。

提案手法

• 中間層の活性マップにおけるp次の特徴相関を計算するために、標準的なグラム行列を拡張する。
• トレーニング中に観測されたグラム行列値の範囲を、異常検出の統計的基準として用いる。
• テスト時のグラム行列値が分布内トレーニング範囲外にあるかどうかを検出することで、OOD例を特定する。
• 最終層からの予測クラスと異常な活性化パターンを組み合わせ、整合性のない予測を特定する。
• 再トレーニングやファインチューニングなしに、事前学習モデルに直接適用可能であり、ゼロショットデプロイメントを可能にする。
• トレーニング範囲の分位数に基づく単純なしきい値処理メカニズムを用いて、異常なグラム行列エントリを特定する。

実験結果

リサーチクエスチョン

• RQ1 拡張されたグラム行列で捉えた特徴相関パターンは、OODデータが存在しない状況でも、OOD入力を効果的に検出できるか？
• RQ2 OODデータが必要なSOTA手法と比較して、グラム行列に基づく異常検出の性能はどの程度か？
• RQ3 本手法は、ResNet や DenseNet などの多様なアーキテクチャおよびCIFAR-10、SVHN、LSUN などのデータセットに一般化可能か？
• RQ4 特に分布から大きく逸脱したOOD例（遠く離れた分布）に対しても、本手法は高い性能を維持できるか？
• RQ5 全結合ネットワークや非畳み込みアーキテクチャに対しても、本手法は効果的に適用可能か？

主な発見

• 本手法は、OODデータを一切使用せず、CIFAR-10、CIFAR-100、SVHN、TinyImageNet、LSUN、iSUN データセットで最先端または競争力のあるAUROCスコアを達成した。
• ResNet-18を用いた挑戦的なLSUN OODセットでは、TNR@TPR95が99.85%、AUROCが98.66%に達し、マハラノビスベースの手法を上回った。
• LSUN や iSUN のような分布から大きく逸脱したOOD例に対し、本手法は、チューニングにOODデータを必要とするSOTA手法と同等またはそれを上回る性能を発揮した。
• 300ユニットのMLPを用いたKMNISTでは97.37%の検出精度、Fashion-MNISTでは96.55%を達成し、全結合ネットワークに対しても有効であることが示された。
• 最大ソフトマックス確率（MSP）と組み合わせることで性能が向上し、ResNet-18を用いたLSUNではAUROCが98.66%に達した。
• 本アプローチはアーキテクチャに依存せず堅牢である：iSUNではResNet-18で95.18%のAUROC、TinyImageNetでは同じモデルで97.82%のAUROCを達成した。