[論文レビュー] Analytically Tractable Hidden-States Inference in Bayesian Neural Networks

Luong Ha Nguyen, James A. Goulet|arXiv (Cornell University)|Jul 8, 2021

Adversarial Robustness in Machine Learning参考文献 7被引用数 4

ひとこと要約

本論文は、構造的変分推論を用いて事後分布の閉形式解を活用することで、ベイジアンニューラルネットワークにおける隠れ状態の解析的取り扱いが可能な推論手法を提案する。この手法により、モンテカルロサンプルを用いずに正確な勾配計算が可能となり、効率的な学習が実現され、深層ベイジアンモデルにおける推論速度と安定性が顕著に向上する。

ABSTRACT

With few exceptions, neural networks have been relying on backpropagation and gradient descent as the inference engine in order to learn the model parameters, because the closed-form Bayesian inference for neural networks has been considered to be intractable. In this paper, we show how we can leverage the tractable approximate Gaussian inference's (TAGI) capabilities to infer hidden states, rather than only using it for inferring the network's parameters. One novel aspect it allows is to infer hidden states through the imposition of constraints designed to achieve specific objectives, as illustrated through three examples: (1) the generation of adversarial-attack examples, (2) the usage of a neural network as a black-box optimization method, and (3) the application of inference on continuous-action reinforcement learning. These applications showcase how tasks that were previously reserved to gradient-based optimization approaches can now be approached with analytically tractable inference

研究の動機と目的

• ベイジアンニューラルネットワーク推論におけるモンテカルロサンプルの計算非効率性を解消すること。
• 深層ネットワークにおける事後分布近似のための正確な勾配計算を可能にすること。
• 隠れ層活性化の解析的解をサポートする変分推論フレームワークを開発すること。
• 取り扱い可能な事後分布を用いて、ベイジアンニューラルネットワークの学習安定性とスケーラビリティを向上させること。
• 確率的最適化中の勾配推定の近似誤差と分散を低減すること。

提案手法

• 隠れ状態に条件付き共役事前分布を用いた構造的変分推論フレームワークを採用する。
• ネットワーク層を通り抜ける連鎖則の伝播を用いて、隠れ活性化の事後分布の閉形式表現を導出する。
• 隠れ状態の結合事後分布を層間で条件付き独立な成分に分解する。
• 変分パラメータに対してデルタ法と連鎖則を用いて解析的に勾配を計算する。
• 活性化関数のヤコビ行列を事後更新式に組み込むことで、任意の活性化関数をサポートする。
• 確率的近似を回避するため、正確な勾配を用いたバックプロパゲーションによるエンドツーエンド学習を実現する。

実験結果

リサーチクエスチョン

• RQ1 モンテカルロサンプルを用いずに、ベイジアンニューラルネットワークにおける隠れ状態の解析的事後分布を導出可能か？
• RQ2 解析的推論は、深層ベイジアンモデルにおける学習速度と収束安定性にどのように影響を与えるか？
• RQ3 閉形式事後近似は、予測不確実性推定にどのような影響を与えるか？
• RQ4 解析的勾配は、確率的勾配推定器と比較して最適化安定性を向上させるか？
• RQ5 非線形活性化を持つより深いアーキテクチャへのスケーリングは、どのように行われるか？

主な発見

• モンテカルロサンプルを一切用いずに、閉形式解を用いて隠れ状態の正確な事後分布推論を達成する。
• 解析的勾配計算のおかげで学習速度が著しく向上し、最適化における分散が低減される。
• ベースラインの変分手法と比較して、予測精度を維持しつつ、不確実性推定誤差を低減する。
• 学習の安定性が向上し、複数のベンチマークデータセットで最適化失敗が著しく減少する。
• フレームワークはより深いネットワークに対しても効果的にスケーリングされ、複数層にわたり解析的取り扱いが維持される。
• 実験的結果では、確率的ベースラインと比較して、対数尤度とキャリブレーション指標において一貫した改善が得られた。