[論文レビュー] Noise Contrastive Priors for Functional Uncertainty

Danijar Hafner, Dustin Tran+3 more|arXiv (Cornell University)|Jul 24, 2018

Machine Learning and Algorithms参考文献 53被引用数 22

ひとこと要約

この論文では、ノイズの多い摂動とクリアな入力を対比させることで、分布外（OOD）入力に対して高い不確実性を出力するようニューラルネットワークを促すデータ空間の事前分布であるノイズ対比プライア（NCPs）を導入する。NCPsはベイジアンニューラルネットワークおよび分布外分類器における不確実性推定を向上させ、アクティブラーニングのパフォーマンスを顕著に向上させ、フライト遅延予測のような大規模な回帰タスクにもスケーリング可能であり、NLPDとRMSEが低く、最先端の結果を達成している。

ABSTRACT

Obtaining reliable uncertainty estimates of neural network predictions is a long standing challenge. Bayesian neural networks have been proposed as a solution, but it remains open how to specify their prior. In particular, the common practice of an independent normal prior in weight space imposes relatively weak constraints on the function posterior, allowing it to generalize in unforeseen ways on inputs outside of the training distribution. We propose noise contrastive priors (NCPs) to obtain reliable uncertainty estimates. The key idea is to train the model to output high uncertainty for data points outside of the training distribution. NCPs do so using an input prior, which adds noise to the inputs of the current mini batch, and an output prior, which is a wide distribution given these inputs. NCPs are compatible with any model that can output uncertainty estimates, are easy to scale, and yield reliable uncertainty estimates throughout training. Empirically, we show that NCPs prevent overfitting outside of the training distribution and result in uncertainty estimates that are useful for active learning. We demonstrate the scalability of our method on the flight delays data set, where we significantly improve upon previously published results.

研究の動機と目的

• ニューラルネットワークにおける不確実性推定の信頼性の低さ、特に分布外（OOD）入力に対して課題を解決すること。
• 重み空間における標準的な独立正規事前分布の限界を克服すること。これは、関数空間の不確実性を効果的に制約できないためである。
• 複雑なモデル再パラメータ化を必要とせず、OOD入力に対して高い不確実性を促すスケーラブルなデータ空間事前分布を開発すること。
• モデルが情報量が多く不確実性の高いデータポイントを特定・優先できるようにすることで、アクティブラーニングのパフォーマンスを向上させること。
• フライト遅延予測のような大規模な回帰ベンチマークにおいて、本手法のスケーラビリティとロバスト性を実証すること。

提案手法

• 入力ノイズ注入を用いたデータ空間事前分布を導入：ミニバッチごとに、対称的な分布（例：正規分布や一様分布）から抽出されたノイズで入力を摂動する。
• クリアな入力とノイズの入力を区別するための対比的最適化を用いてモデルを訓練し、ノイズ入り（OODに類似）の入力に対して高い不確実性を割り当てるように学習させる。
• ノイズ入り入力に対して広い出力事前分布（例：広いガウス分布）を組み合わせ、OOD領域における高い予測分散を保証する。
• 得られた不確実性推定値をエピステミック不確実性の代理として使用し、より良いアクティブラーニングとOOD検出を可能にする。
• アーキテクチャの変更なしに、ベイジアンニューラルネットワーク（BBB）や分布外分類器（ODC）といった既存の不確実性対応モデルとNCPsを統合する。
• ノイズ対比推定（NCE）スタイルの損失関数を用いて学習し、クリアな入力の対数尤度を最大化すると同時に、ノイズ入り入力の尤度を最小化することで、データ空間における関数的事前分布を学習する。

実験結果

リサーチクエスチョン

• RQ1 データ空間事前分布は、特に分布外入力に対してニューラルネットワークの不確実性推定を向上させることができるか？
• RQ2 標準的な重み空間事前分布と比較して、提案手法NCPはOOD一般化性能およびアクティブラーニング性能で優れているか？
• RQ3 NCP手法は摂動プロセスにおける異なる入力ノイズ分布および分散に対してロバストであるか？
• RQ4 NCPsは、数十万件のトレーニング例を持つ大規模な回帰タスクに効果的にスケーリング可能か？
• RQ5 NCPsの導入により、予測分布におけるエピステミック不確実性とアレアトリックノイズの分離が向上するか？

主な発見

• NCPsは、ベイジアンニューラルネットワークおよび分布外分類器における不確実性推定を顕著に向上させ、OOD入力に対する過信を低減する。
• フライト遅延データセットでは、BBB+NCPとODC+NCPが、それぞれNLPD 4.38およびRMSE 24.71、24.68を達成し、以前の手法を上回る最先端のパフォーマンスを示した。
• NCPsは、より情報量が多く不確実性の高いサンプルを選択できるようにすることで、アクティブラーニングのパフォーマンスを向上させ、収束が速く一般化性能も向上する。
• NCPsは入力ノイズ分散や分布の変化に対してロバストであり、一様分布や正規分布（σ² ∈ [0.1, 1.0]）を用いたさまざまなノイズパターンでも一貫したパフォーマンスを維持する。
• 大規模な回帰タスクでは、NCPsは70万件のトレーニング例に対しても効果的にスケーリング可能であり、実世界の産業応用の可能性を示している。
• 可視化により、エピステミック不確実性とアレアトリックノイズの成分が明確に分離されていることが示され、本手法が両者を効果的に分離できていることが確認された。