[論文レビュー] Trust-Region Variational Inference with Gaussian Mixture Models

Oleg Arenz, Mingjun Zhong+1 more|arXiv (Cornell University)|Jul 10, 2019

Gaussian Processes and Bayesian Inference参考文献 70被引用数 4

ひとこと要約

本稿では、情報幾何的信頼領域と下界最適化を用いて、複雑で多次元のターゲット分布の正確で動的かつ適応的なGMM近似を学習する、ガウス・ミックスチャーモデルを用いた信頼領域変分ベイズ推論（VIPS）を提案する。独立した成分更新とオンライン成分適応を可能にすることで、MCMCと同等のサンプル品質を、計算コストを最大1,000倍まで削減して達成する。

ABSTRACT

Many methods for machine learning rely on approximate inference from intractable probability distributions. Variational inference approximates such distributions by tractable models that can be subsequently used for approximate inference. Learning sufficiently accurate approximations requires a rich model family and careful exploration of the relevant modes of the target distribution. We propose a method for learning accurate GMM approximations of intractable probability distributions based on insights from policy search by using information-geometric trust regions for principled exploration. For efficient improvement of the GMM approximation, we derive a lower bound on the corresponding optimization objective enabling us to update the components independently. Our use of the lower bound ensures convergence to a stationary point of the original objective. The number of components is adapted online by adding new components in promising regions and by deleting components with negligible weight. We demonstrate on several domains that we can learn approximations of complex, multimodal distributions with a quality that is unmet by previous variational inference methods, and that the GMM approximation can be used for drawing samples that are on par with samples created by state-of-the-art MCMC samplers while requiring up to three orders of magnitude less computational resources.

研究の動機と目的

• 標準的な変分推論手法が平均場仮定による制限により失敗する、ベイズ推論における複雑で多次元の事後分布の近似という課題に取り組む。
• MCMCと標準的変分推論の限界を克服し、計算効率と高いサンプル品質を両立させ、扱いにくい事後分布に対応する。
• 最適化の過程でGaussian Mixture Model（GMM）の成分数を動的に適応させることで、ターゲット分布の複数のモードをよりよく捉える方法を開発する。
• 導出された下界と信頼領域更新を用いて、扱いにくいKLダイバージェンスの目的関数を安定的かつ効率的に最適化する。
• 学習されたGMM近似から高品質なサンプルを抽出できることを保証し、サンプル品質において最先端のMCMCサンプラーと同等またはそれを上回りながら、計算コストを著しく削減する。

提案手法

• 局所的2次近似を用いて、方策探索（MORE）にインspiredされた信頼領域フレームワークを提案し、変分目的関数の安定的かつ単調な改善を保証する。
• 逆KLダイバージェンスの下界を導出し、各GMM成分ごとに独立した部分問題に分解することで、効率的かつ並列な更新を可能にする。
• 下界を繰り返し用いて目的関数をタイトにし、最大化することで、元のKL最小化問題の定常点への収束を保証する。
• 最適化の過程でGMM成分数を動的に調整する：高密度領域に新しい成分を追加し、重みが無視できるほど小さい成分を削除する。
• 正規化されていないターゲット密度の関数評価を活用して探索を導き、高密度領域の活用と新しいモードの発見のバランスを取る。
• 信頼領域制約を適用し、GMMパラメータの更新が局所的近似が有効である領域に留まるようにすることで、発散を防ぐ。

実験結果

リサーチクエスチョン

• RQ1 GMMを用いた多次元事後分布の変分推論において、信頼領域最適化フレームワークは、安定性と収束性を向上させることができるか？
• RQ2 下界の分解によって、GMM成分の独立的かつ効率的な更新が可能となり、収束保証を維持できるか？
• RQ3 オンライン成分適応（追加と削除）により、事前のモード数の知識がなくても、より正確でコンactなGMM近似が得られるか？
• RQ4 学習されたGMMからのサンプルの品質は、最先端のMCMCサンプラーと比較して、統計的忠実性と計算コストの両面でどの程度優れているか？
• RQ5 この手法は、複雑で多次元の分布において、BBVI や IAF といった既存の変分推論ベースラインを、ELBOおよびサンプル品質指標の両面でどの程度上回るか？

主な発見

• VIPS++は、PTMCMCなどの最先端MCMCサンプラーと同等の最大平均差分（MMD）値を達成し、計算コストを最大1,000倍まで削減した。
• 本手法は、複雑で高次元の事後分布（例：20次元GMM、4つの目的を持つ平面ロボット）の複数のモードを、BBVI や IAF よりも効果的に捉えるGMM近似を学習する。
• 複数の成分を持つGMMを学習したにもかかわらず、IAFは平面ロボットタスクにおいてVIPS++と同等のELBOを達成したが、2つの主要な構成のうち1つしかサンプリングしなかったため、モードカバレッジが不十分であった。
• 信頼領域フレームワークの使用により、高次元で多次元の設定下でも、元の目的関数の定常点への安定的最適化と収束が保証された。
• 評価用の真値サンプルは、128コアのCPUを最大2日間使用して一般化された楕円スライスサンプリングにより生成され、ベースラインの高品質さを裏付けた。
• ドイツのクレジットおよび乳癌データセットにおいて、VIPS++はBBVI や IAF よりも顕著に低いMMD値を達成し、多様な確率的モデルにおいて優れたサンプル品質を示した。