[論文レビュー] Rényi Divergence Variational Inference

Yingzhen Li, Richard E. Turner|arXiv (Cornell University)|Feb 6, 2016

Statistical Methods and Inference被引用数 75

ひとこと要約

本稿では、Rényiのα-発散を用いて従来の手法を拡張する統一的な変分推論フレームワークとして、変分Rényi界（VR）を導入する。αを最適化することで、下界の下界（ELBO）から対数尤度へと滑らかに補間可能であり、VR-max（α → −∞）はIWAEと同等の最先端の性能を達成するとともに、主要サンプル勾配近似により高速な学習が可能である。

ABSTRACT

This paper introduces the variational Rényi bound (VR) that extends traditional variational inference to Rényi's alpha-divergences. This new family of variational methods unifies a number of existing approaches, and enables a smooth interpolation from the evidence lower-bound to the log (marginal) likelihood that is controlled by the value of alpha that parametrises the divergence. The reparameterization trick, Monte Carlo approximation and stochastic optimisation methods are deployed to obtain a tractable and unified framework for optimisation. We further consider negative alpha values and propose a novel variational inference method as a new special case in the proposed framework. Experiments on Bayesian neural networks and variational auto-encoders demonstrate the wide applicability of the VR bound.

研究の動機と目的

• Rényiのα-発散に基づく単一のフレームワークとして、従来の変分推論手法（VI、VAE、IWAE、SEPなど）を統合すること。
• 再パラメータライゼーション、モンテカルロ近似、確率的最適化を用いた、VR界の実用的最適化フレームワークの構築。
• 負のα値の探索を通じて、新たな特殊ケースであるVR-maxと呼ばれる新規手法の開発。
• ベイジアンニューラルネットワークおよび変分オートエンコーダーにおけるVRフレームワークの実験的評価を通し、その広範な適用可能性と性能の確認。

提案手法

• Rényiのα-発散を用いて定義される、ELBOの一般化としての変分Rényi界（VR）を提案。α ∈ (−∞, ∞) に対して定義され、α → 1 ではKL発散、α → ∞ では最悪ケースの後悔に回帰する。
• すべてのα値において微分可能で確率的最適化が可能なよう、再パラメータライゼーションとモンテカルロサンプリングを用いる。
• モンテカルロ近似のバイアス解析を導出し、推定の安定性に関する理論的保証と実験的検証を提供。
• α → −∞ における特別なケースとしてVR-maxを導入。この場合、勾配は正規化された重要度重みが最大のサンプルに支配される。
• 自動微分を用いて、複雑なモデルにおけるVR界のブラックボックス最適化を可能にする。
• K個のサンプルを用いたVR界のサンプリングベースの近似を採用。バイアスと分散の理論的および実験的分析を実施。

実験結果

リサーチクエスチョン

• RQ1 Rényiのα-発散を用いることで、VI、VAE、IWAEなどの既存の変分推論手法を統一的に扱う方法は何か？
• RQ2 特にモンテカルロ近似下でのバイアスと収束性という理論的性質に関して、変分Rényi界はどのような特徴を有するか？
• RQ3 負のα値は推論性能の向上に寄与する可能性があるか？ もし可能であれば、その背後にあるメカニズムは何か？
• RQ4 提案手法であるVR-maxは、IWAEと比較して近似品質と学習効率の点でどのように異なるか？
• RQ5 異なる確率的モデルやデータセットに対して、最適なα値は何か？

主な発見

• MNIST、OMNIGLOT、Frey Face、Caltech 101 Silhouettesの各データセットにおいて、VR-maxはIWAEとほぼ同一のテスト対数尤度を達成。CPU上ではトップ重みサンプルによる勾配支配のおかげで3倍の高速化を達成。
• Frey Faceでは、K=5の条件下でテスト対数尤度1377.40 ± 4.59を達成。VAE（1322.96）を上回り、IWAE（1380.30）と同等の性能を示し、著しく高速な学習が可能であった。
• VR界は対数尤度の下界を提供し、α → −∞ に近づくにつれて真の対数尤度との差が狭まり、Kの増加に伴い界のタイトネスが向上する。
• VR-maxでは、最大の正規化された重要度重みを持つサンプルが勾配更新を支配しており、確率質量の75％以上を占めている。これがその効率性と優れた性能の背景にある。
• 正のα値（例：α=0.5）ではVR-maxより性能が劣り、最大尤度推定の観点から、よりタイトな尤度近似が好ましいことが示された。
• モンテカルロ推定の標準誤差は、すべてのα値において低く安定しており、主な誤差源は分散ではなくバイアスであることが判明した。