[論文レビュー] Uncertainty-based out-of-distribution detection requires suitable function space priors.

Francesco D’Angelo, Christian Henning|arXiv (Cornell University)|Oct 12, 2021

Anomaly Detection Techniques and Applications参考文献 44被引用数 6

ひとこと要約

この論文は、エピステミックな不確実性のおかげでベイジアンニューラルネットワーク（BNNs）が分布外（OOD）検出において本質的に優れているという仮定に挑戦する。標準的なニューラルネットワークアーキテクチャが、無限幅極限でさえもデータ分布のシフトを反映しない関数空間事前分布（関数空間の事前分布）を生じることを示しており、これはBNNが明示的な事前分布設計なしではOOD検出に効果を発揮しないことを意味する。

ABSTRACT

The need to avoid confident predictions on unfamiliar data has sparked interest in out-of-distribution (OOD) detection. It is widely assumed that Bayesian neural networks (BNNs) are well suited for this task, as the endowed epistemic uncertainty should lead to disagreement in predictions on outliers. In this paper, we question this assumption and show that proper Bayesian inference with function space priors induced by neural networks does not necessarily lead to good OOD detection. To circumvent the use of approximate inference, we start by studying the infinite-width case, where Bayesian inference can be exact due to the correspondence with Gaussian processes. Strikingly, the kernels induced under common architectural choices lead to uncertainties that do not reflect the underlying data generating process and are therefore unsuited for OOD detection. Importantly, we find this OOD behavior to be consistent with the corresponding finite-width networks. Desirable function space properties can be encoded in the prior in weight space, however, this currently only applies to a specified subset of the domain and thus does not inherently extend to OOD data. Finally, we argue that a trade-off between generalization and OOD capabilities might render the application of BNNs for OOD detection undesirable in practice. Overall, our study discloses fundamental problems when naively using BNNs for OOD detection and opens interesting avenues for future research.

研究の動機と目的

• ベイジアンニューラルネットワーク（BNNs）が、分布外（OOD）データに対して信頼できる不確実性推定を自然に提供するかどうかを調査すること。
• ニューラルネットワークアーキテクチャが誘導する関数空間事前分布が、OOD検出性能に与える影響を検討すること。
• ニューラルネットワークの無限幅極限における正確なベイズ推論が、カーネルに起因する事前分布のおかげで依然として劣悪なOOD検出性能を示すかどうかを特定すること。
• 適切な関数空間事前分布を重み空間に組み込むことが可能かどうかを調査し、その条件を同定すること。
• BNNにおける一般化性能とOOD検出能力の間の実用的トレードオフを評価すること。

提案手法

• ベイジアンニューラルネットワークの無限幅極限を分析し、ガウス過程との対応関係により正確なベイズ推論が可能であることを用いる。
• 一般的なニューラルネットワークアーキテクチャ（例：ReLU、SELU）から導かれるカーネル関数を導出し、それらの関数空間事前分布の性質を評価する。
• これらのカーネルがOODデータに対して生成する不確実性推定値を、真のデータ生成プロセスと比較して評価する。
• 無限幅の結果を有限幅のネットワークに拡張し、一貫したOOD行動を示すことを確認する。
• 望ましい関数空間の性質を重み空間の事前分布に組み込む可能性を検討するが、現在は入力ドメインの特定の部分に限定されている。
• BNNにおいて、モデルの一般化性能とOOD検出性能の間には根本的なトレードオフが存在することを特定する。

実験結果

リサーチクエスチョン

• RQ1 一般的なアーキテクチャを用いた標準的なベイジアンニューラルネットワークは、分布外入力に対して信頼できる不確実性推定を提供するか？
• RQ2 ニューラルネットワークのカーネルが誘導する関数空間事前分布は、無限幅極限におけるOOD検出性能にどのように影響を与えるか？
• RQ3 有限幅BNNで観察される劣悪なOOD行動は、近似推論に起因するものか、それともカーネル構造そのものに起因するか？
• RQ4 OOD検出に適した望ましい関数空間の性質を重み空間の事前分布に組み込むことは可能か？ もしそうなら、どのドメインで可能か？
• RQ5 一般化性能とOOD検出能力の間のトレードオフが、BNNのOOD検出における実用的有用性をどの程度制限するか？

主な発見

• 一般的なニューラルネットワークアーキテクチャは、無限幅極限において、真のデータ生成プロセスと整合しないエピステミック不確実性推定を生じるカーネル関数を誘導する。これはOOD検出を損なう。
• OOD検出の失敗は近似推論の副産物ではなく、無限幅領域における正確なベイズ推論でも持続する。
• 有限幅ネットワークで観察されるOOD行動は、それらの無限幅対応物と一貫しており、問題が近似関係ではなく構造的要因に起因していることを示している。
• 望ましい関数空間の性質を重み空間の事前分布に組み込むことは可能であるが、現在は入力ドメインの指定された部分に限定されており、OODデータには一般化されない。
• BNNにおいて、一般化性能とOOD検出能力の間には根本的なトレードオフが存在し、実用的にはBNNがOOD検出に最適でない可能性がある。
• したがって、根本的な関数空間事前分布の欠陥があるため、正確な推論のもとでもBNNをOOD検出に単純に適用することは問題である。