[論文レビュー] Variational Inference with Rényi Divergence.

Yingzhen Li, Richard E. Turner|arXiv (Cornell University)|Feb 6, 2016

Gaussian Processes and Bayesian Inference参考文献 31被引用数 12

ひとこと要約

本稿では、Rényiのalpha発散を用いた変分推論のための統一的枠組み、変分Rényi界（VR）を紹介する。このVRは、証拠下界（ELBO）と対数周辺尤度の間を滑らかに補間する。再パラメータライゼーションのテクニック、モンテカルロ推定、確率的最適化を活用することで、変分オートエンコーダーやベイジアンニューラルネットワークを含む多様なモデルにおいて、柔軟かつスケーラブルな推論を可能にする。

ABSTRACT

We introduce the variational R\'enyi bound (VR) that extends traditional variational inference to R\'enyi's alpha-divergences. This new family of variational lower-bounds unifies a number of existing variational methods, and enables a smooth interpolation from the evidence lower-bound to the log (marginal) likelihood that is controlled by the value of alpha. The reparameterization trick, Monte Carlo estimation and stochastic optimisation methods are deployed to obtain a unified implementation for the VR bound optimisation. We further consider negative alpha values and propose a novel variational inference method as a new special case in the proposed framework. Experiments on variational auto-encoders and Bayesian neural networks demonstrate the wide applicability of the VR bound.

研究の動機と目的

• Rényiのalpha発散に基づく単一の枠組みとして、既存の変分推論手法を統一すること。
• alphaパラメータを変化させることで、ELBOと対数周辺尤度の間を滑らかに補間できることを実現すること。
• 負のalpha値への変分推論の拡張を行い、新たな推論手法を導入すること。
• 再パラメータライゼーションのテクニックと確率的最適化を用いた、スケーラブルで統一的な実装を提供すること。
• VR界が生成モデルとベイジアンニューラルネットワークの両方で広く適用可能であることを示すこと。

提案手法

• Rényiのalpha発散を用いたELBOの一般化として、変分Rényi界（VR）を提案する。
• alphaパラメータに依存する対数周辺尤度の下界を導出し、alpha → 1のときELBO、alpha → 0のとき対数尤度に滑らかに補間できるようにする。
• VR界の勾配ベース最適化を可能にするために、再パラメータライゼーションのテクニックを用いる。
• VR界における期待値の近似にモンテカルロ推定を用い、確率的最適化を実現する。
• フレームワークを負のalpha値へ拡張し、従来のフレームワークではカバーされていなかった新たな変分推論手法を導入する。
• ミニバッチを用いて効率的にモデルを学習できるように、確率的最適化手法を適用する。

実験結果

リサーチクエスチョン

• RQ1 変分推論は、より広範な発散クラスを用いることで、ELBOを越えて一般化可能か？
• RQ2 Rényiのalpha発散は、ELBOと対数周辺尤度の間を滑らかに補間可能か？
• RQ3 負のalpha値への変分推論の拡張にはどのような意味があるか？
• RQ4 VR界は、さまざまな深層生成モデルにおいて実際の性能をどのように発揮するか？
• RQ5 再パラメータライゼーションのテクニックと確率的最適化を用いて、VRフレームワークを標準的なディープラーニングツールで効率的に実装可能か？

主な発見

• VR界は、alphaパラメータを介して、既存の変分推論手法を統一的に一般化する枠組みを提供する。
• alphaを調整することで、ELBOから対数周辺尤度への滑らかな補間が可能となり、モデル学習における柔軟性が向上する。
• 負のalpha値への拡張により、従来のフレームワークではカバーされていなかった新たな変分推論手法が得られる。
• 再パラメータライゼーションのテクニック、モンテカルロサンプリング、確率的最適化を用いることで、VR界は効率的に最適化され、スケーラブルな学習が可能になる。
• 変分オートエンコーダーとベイジアンニューラルネットワークにおける実験により、VR界の広範な適用可能性と有効性が確認された。
• 近似事後分布における柔軟性を向上させる一方で、計算効率を維持している。