[論文レビュー] Provable Bayesian Inference via Particle Mirror Descent

Bo Dai, Niao He+2 more|arXiv (Cornell University)|Jun 9, 2015

Gaussian Processes and Bayesian Inference参考文献 29被引用数 12

ひとこと要約

本稿では、確率的ミラー降下法と粒子ベースの密度表現を組み合わせることで、理論的収束性を保証するベイジアン推論のためのアルゴリズム、Particle Mirror Descent (PMD) を提案する。PMD は $m$ 個の粒子を用いて真の事後分布への KL 発散において $O(1/\sqrt{m})$ の収束速度を達成し、混合モデル、ロジスティック回帰、スパースガウス過程、LDA といったモデルにおいて理論的保証と優れた実験的性能を両立する。

ABSTRACT

Bayesian methods are appealing in their flexibility in modeling complex data and ability in capturing uncertainty in parameters. However, when Bayes' rule does not result in tractable closed-form, most approximate inference algorithms lack either scalability or rigorous guarantees. To tackle this challenge, we propose a simple yet provable algorithm, \emph{Particle Mirror Descent} (PMD), to iteratively approximate the posterior density. PMD is inspired by stochastic functional mirror descent where one descends in the density space using a small batch of data points at each iteration, and by particle filtering where one uses samples to approximate a function. We prove result of the first kind that, with $m$ particles, PMD provides a posterior density estimator that converges in terms of $KL$-divergence to the true posterior in rate $O(1/\sqrt{m})$. We demonstrate competitive empirical performances of PMD compared to several approximate inference algorithms in mixture models, logistic regression, sparse Gaussian processes and latent Dirichlet allocation on large scale datasets.

研究の動機と目的

• 近似ベイジアン推論アルゴリズムにおける理論的収束性とスケーラビリティの欠如に対処すること。
• 理論的保証を維持しながら大規模データセットにスケーリング可能な非パラメトリック推論手法を開発すること。
• 事後分布近似における確率的最適化と粒子ベース密度推定の間のギャップを埋めること。
• 有限の粒子数のもとで KL 発散における収束を保証する統一的フレームワークを提供すること。

提案手法

• PMD は確率密度の空間における凸最適化問題としてベイジアン事後分布近似を定式化する。
• 全データスキャンを回避するため、ミニバッチデータを用いた確率的ミラー降下を適用し、反復的に事後分布近似を更新する。
• 非パラメトリックな近似を可能にするために、重み付きの粒子集合を維持する。
• 粒子サンプルからの密度推定精度を向上させるために、重み付きカーネル密度推定器を組み込む。
• 収束を保証するため、徐々に小さくなるステップサイズ則 $\eta_t = \eta / (n_0 + \sqrt{t})$ を使用する。
• 理論的分析により、KL 発散の観点から事後分布推定子の弱収束および強収束を確立する。

実験結果

リサーチクエスチョン

• RQ1 粒子ベースのアルゴリズムは、ベイジアン推論において真の事後分布への KL 発散における理論的収束を達成できるか？
• RQ2 確率的ミラー降下と粒子表現を組み合わせることで、スケーラブルかつ高精度な事後分布近似が得られるか？
• RQ3 粒子数 $m$ の観点から、事後分布推定子の収束速度はいかほどか？
• RQ4 大規模モデルにおいて、PMD は MCMC や変分ベイズ推論、SMC と比較して実験的にどのように性能を発揮するか？
• RQ5 PMD は実際の応用において、既存の確率的アルゴリズムを上回る性能を発揮しながらも、理論的保証を維持できるか？

主な発見

• PMD は、粒子数 $m$ に対して真の事後分布への KL 発散において $O(1/\sqrt{m})$ の収束速度を達成する。
• 混合モデル、ロジスティック回帰、スパースガウス過程、および潜在ディリクレ配分（LDA）において、競争力のある実験的性能を示す。
• 1次元のスパースガウス過程回帰では、反復が進むにつれて PMD の事後分布平均が真の値に収束し、可視化された不確実性帯が時間とともに狭まる。
• 音楽の年予測タスクでは、16個の粒子と1024個の誘導変数を用いた PMD が、同等の計算コストのもとで SMC や SVI よりも優れた予測性能を達成する。
• LDA では、PMD は一貫性のあるトピック（図5に示す）を学習し、ホールドアウトテストセットにおいて他のスケーラブルな手法よりも低い対数パープレキシティを達成する。
• 理論的分析により、ややきつい正則性条件のもとで PMD の事後分布推定子の強収束が確認され、カーネル密度推定の成分についても有限サンプル誤差バウンドが導出された。