[論文レビュー] Are Bayesian neural networks intrinsically good at out-of-distribution detection?

Christian Henning, Francesco D’Angelo+1 more|arXiv (Cornell University)|Jul 26, 2021

Adversarial Robustness in Machine Learning被引用数 4

ひとこと要約

この論文は、ベイジアンニューラルネットワーク（BNNs）が分布外（OOD）検出において本質的に優れているという仮定に挑戦する。無限幅ネットワークにおける正確な推論と有限幅ネットワークにおけるハミルトニアンモンテカルロ（HMC）を用いて、一般的なアーキテクチャが、特に標準的な重み事前分布を用いる場合、OOD入力に対して意味のある認識的不確実性を生じさせないカーネルを誘導することを示し、これがOOD検出器としての信頼性を損なうことを明らかにする。

ABSTRACT

The need to avoid confident predictions on unfamiliar data has sparked interest in out-of-distribution (OOD) detection. It is widely assumed that Bayesian neural networks (BNN) are well suited for this task, as the endowed epistemic uncertainty should lead to disagreement in predictions on outliers. In this paper, we question this assumption and provide empirical evidence that proper Bayesian inference with common neural network architectures does not necessarily lead to good OOD detection. To circumvent the use of approximate inference, we start by studying the infinite-width case, where Bayesian inference can be exact considering the corresponding Gaussian process. Strikingly, the kernels induced under common architectural choices lead to uncertainties that do not reflect the underlying data generating process and are therefore unsuited for OOD detection. Finally, we study finite-width networks using HMC, and observe OOD behavior that is consistent with the infinite-width case. Overall, our study discloses fundamental problems when naively using BNNs for OOD detection and opens interesting avenues for future research.

研究の動機と目的

• ベイジアンニューラルネットワーク（BNNs）が認識的不確実性を介して、分布外（OOD）検出を本質的に可能としているかどうかを調査すること。
• BNNsが不確実性モデリングのおかげで自然にOOD入力を検出できるという広く受け入れられている仮定に挑戦すること。
• 無限幅極限における一般的なニューラルネットワークアーキテクチャが誘導するカーネルの性質と、それらがOOD検出に与える影響を分析すること。
• 有限幅ネットワークにおける正確な推論（HMC）を用いてOOD性能を評価し、無限幅の挙動と比較すること。
• 重み空間の事前分布の重要な役割と、予測エントロピーにおけるアレアトリック不確実性の混同効果を強調すること。

提案手法

• 研究は、ガウス過程（GP）の等価性を用いて、完全結合ニューラルネットワークの無限幅極限を分析し、ネットワークのアーキテクチャと重み事前分布から誘導されるカーネルを導出する。
• 標準的なアーキテクチャ（例：ReLU、RBF）のカーネル構造を検討し、その不確実性がデータ生成分布を反映せず、特にOOD領域で顕著であることを示す。
• 有限幅ネットワークにおける正確なベイズ推論のためのハミルトニアンモンテカルロ（HMC）を用いて、無限幅解析からの発見を検証する。
• 認識的不確実性をエネルギー関数として用いた逆サンプリングアプローチを導入し、分布内に似たサンプルを生成することで、OOD検出の一貫性を検証する。
• 不一致尺度（例：MMD）を用いて生成されたサンプルと訓練データを定量的に比較し、不確実性が真のデータ分布と一致するかどうかを評価する。
• 予測エントロピーを用いてOOD検出性能を評価し、特に高次元設定においてアレアトリック不確実性が予測エントロピーに混同効果を及ぼすことを特定する。

実験結果

リサーチクエスチョン

• RQ1 標準的なアーキテクチャと事前分布を用いたベイジアンニューラルネットワークは、分布外入力を信頼性高く識別する認識的不確実性を生じるか？
• RQ2 一般的なニューラルネットワークアーキテクチャが無限幅極限で誘導するカーネル関数は、OOD検出性能にどのように影響を与えるか？
• RQ3 近似的な推論を用いた有限幅BNNで観察されるOOD挙動は、無限幅極限における正確な推論と一貫しているか？
• RQ4 重み空間の事前分布の選択が、BNNのOOD検出能力にどの程度影響を与えるか？
• RQ5 認識的不確実性を用いて分布内サンプルを生成できるか？ そして、これはOOD検出の信頼性のある検証手法を提供するか？

主な発見

• ReLUまたはRBF活性化関数を用いた標準的な完全結合ネットワークの無限幅極限は、真のデータ分布を反映しないカーネルを誘導し、結果としてOOD検出性能が著しく劣化する。
• HMCによる正確なベイズ推論を用いても、標準的なアーキテクチャを有する有限幅BNNは、無限幅ケースと一貫したOOD検出挙動を示し、根本的なアーキテクチャ的制限を示している。
• 特定のネットワークパラメータから誘導されるRBFカーネルは、重み事前分布を丁寧に調整（例：$σ_{\mu}^2$ を大きく）することで良好なOOD検出を可能にするが、これは実際の応用では一般的ではない。
• 予測エントロピーは一般的に不確実性の代理として用いられるが、アレアトリック不確実性に混同され、BNNにおけるOOD検出には信頼できない。
• 標準的なBNNにおける認識的不確実性は、真のデータ密度 $p({\bm{x}})$ を信頼性高く近似できないため、分布内サンプリングの生成モデルとしての利用は根拠を欠く。
• 本研究は、OOD検出性能が重み空間の事前分布の選択に極めて敏感であることを示し、不適切な事前分布は誤った不確実性推定を引き起こす可能性がある。