[論文レビュー] A Tutorial on Parametric Variational Inference

Jens Sjölund|arXiv (Cornell University)|Jan 3, 2023

Genetic and phenotypic traits in livestock被引用数 4

ひとこと要約

このチュートリアルでは、ベイズ推論におけるMCMCのスケーラブルな代替手法として、パラメトリックな変分推論を提示する。具体的には、計算可能な下界（ELBO）の最適化により、計算不能な事後分布を近似する。主な技術として、再パラメータ化トリック、ニューラルネットワークによるアンモタイズド推論、およびスコア関数推定器を用いたブラックボックス変分推論をカバーし、現代の機械学習における大規模なベイズモデリングを効率的に行えるようにする。

ABSTRACT

Variational inference uses optimization, rather than integration, to approximate the marginal likelihood, and thereby the posterior, in a Bayesian model. Thanks to advances in computational scalability made in the last decade, variational inference is now the preferred choice for many high-dimensional models and large datasets. This tutorial introduces variational inference from the parametric perspective that dominates these recent developments, in contrast to the mean-field perspective commonly found in other introductory texts.

研究の動機と目的

• MCMCの代替手段として、パラメトリックな変分推論の体系的導入を提供すること。
• 証拠下界（ELBO）が、計算不能な事後分布の最適化に基づく近似を可能にする仕組みを説明すること。
• 高次元および大規模なモデルを扱うために、アンモタイズド変分推論やブラックボックス変分推論といった現代的技術を提示すること。
• Kullback-Leibler（KL）ダイバージェンスがELBO最大化と事後分布近似の間で果たす役割を明確にすること。
• 理論的基盤と現代の確率的機械学習における実装のギャップを埋めること。

提案手法

• Jensenの不等式およびKLダイバージェンスの分解を用いて導出される、計算不能な周辺尤度の計算可能な代替指標（ELBO）を用いる。
• 真の事後分布と変分近似との間の乖離を測るためにKullback-Leiblerダイバージェンスを用い、その最小化がELBOの最大化と等価であることを示す。
• 微分可能な変分族に対して、低分散勾配推定を可能にする再パラメータ化トリックを適用し、確率的勾配最適化を促進する。
• 観測値から変分パラメータをマップするニューラルネットワーク（エンコーダ）を用いたアンモタイズド変分推論を導入し、各データポイントごとの最適化を1回のモデル推論に削減する。
• 再パラメータ化不能なモデルに対しては、スコア関数推定器（REINFORCE）を用いたブラックボックス変分推論を活用し、制御変数を用いた分散低減技術を併用する。
• 自動微分を活用して、変分パラメータに関するELBOの勾配を計算し、複雑なモデルにおけるエンドツーエンドの学習を可能にする。

実験結果

リサーチクエスチョン

• RQ1 最適化を統合の代わりに用いることで、ベイズモデルにおける計算不能な事後分布をどのように近似できるか？
• RQ2 変分推論におけるELBOの役割は何か？ また、真の周辺尤度およびKLダイバージェンスとどのように関係するか？
• RQ3 再パラメータ化トリックはどのような状況で適用可能であり、変分推論における勾配推定をどのように改善するか？
• RQ4 アンモタイズド変分推論は、局所的潜在変数を有する大規模なベイズモデルにおいて、計算コストをどのように低減するか？
• RQ5 ブラックボックス変分推論の限界は何か？ また、分散低減技術はその実用性をどのように向上させるか？

主な発見

• ELBOは、対数周辺尤度の下界を提供するが、計算可能であり最適化に適しているため、スケーラブルな事後分布近似が可能になる。
• ELBOの最大化は、変分事後分布と真の事後分布の間のKLダイバージェンスの最小化と等価であり、近似がよりタイトになることを保証する。
• 再パラメータ化トリックにより、自動微分を介した正確な勾配計算が可能となり、微分可能なモデルでは低分散の勾配推定が得られる。
• アンモタイズド変分推論により、各データポイントごとの最適化が1回のニューラルネットワークの順伝播に削減され、大規模データセットへのスケーラビリティが著しく向上する。
• スコア関数推定器を用いたブラックボックス変分推論により、再パラメータ化不能なモデルでも勾配ベースの最適化が可能になるが、分散が高くなる傾向である。この問題は制御変数を用いることで緩和できる。
• アンモタイズド推論と再パラメータ化の組み合わせにより、変分オートエンコーダーのような現代のモデルの効率的学習が可能となり、エンコーダとデコーダが確率的勾配降下法で共同最適化される。