[論文レビュー] Firefly Monte Carlo: Exact MCMC with Subsets of Data

Dougal Maclaurin, Ryan P. Adams|arXiv (Cornell University)|Mar 22, 2014

Markov Chains and Monte Carlo Methods参考文献 20被引用数 48

ひとこと要約

Firefly Monte Carlo (FlyMC) は、各反復でデータのサブセットを使用することで、大規模データセットにおける効率的なベイズ推論を可能にする正確なマルコフ連鎖モンテカルロアルゴリズムである。各データポイントを尤度の下界に基づいて確率的に含める・除外するための2値補助変数を導入することで、真の事後分布を保持しつつ、標準的なMCMCと比較して10倍以上の高速化を達成している。

ABSTRACT

Markov chain Monte Carlo (MCMC) is a popular and successful general-purpose tool for Bayesian inference. However, MCMC cannot be practically applied to large data sets because of the prohibitive cost of evaluating every likelihood term at every iteration. Here we present Firefly Monte Carlo (FlyMC) an auxiliary variable MCMC algorithm that only queries the likelihoods of a potentially small subset of the data at each iteration yet simulates from the exact posterior distribution, in contrast to recent proposals that are approximate even in the asymptotic limit. FlyMC is compatible with a wide variety of modern MCMC algorithms, and only requires a lower bound on the per-datum likelihood factors. In experiments, we find that FlyMC generates samples from the posterior more than an order of magnitude faster than regular MCMC, opening up MCMC methods to larger datasets than were previously considered feasible.

研究の動機と目的

• 大規模データセットにおける標準的MCMCの計算ボトル neck を解消するため、各反復で全尤度項を評価する必要があるという問題に対処すること。
• 各反復でデータのサブセットのみを用いるが、正確な事後分布推論を維持するMCMC手法を開発すること。
• 各反復の計算コストを削減することで、大規模スケールのデータセットにおける実用的なベイズ推論を可能にすること。
• さまざまなMCMCアルゴリズムと互換性がある一般化されたフレームワークを提供すること。これには、各データの尤度項に対する下界の存在が必須である。

提案手法

• 各データポイント $ x_n $ に対して、$ z_n \in \{0,1\} $ の2値補助変数を導入し、$ z_n = 1 $ のときデータポイントが事後分布計算に使用されることを示す。
• 補助変数 $ z_n $ の条件付き分布として、成功確率 $ \frac{L_n(\theta) - B_n(\theta)}{L_n(\theta)} $ のベルヌーイ分布を定義する。ここで $ B_n(\theta) $ は尤度 $ L_n(\theta) $ の正の下界である。
• 真の全データ事後分布 $ p(\theta \mid \{x_n\}) $ に周辺化される拡張された関連事後分布 $ p(\theta, \{z_n\} \mid \{x_n\}) $ を構築する。
• メトロポリス・ハスティングス法やその他のMCMCサンプラーを用いて、$ \theta $ と $ \{z_n\} $ を同時に更新する。提案分布は補助変数に依存する。
• データ並列戦略を採用し、各反復で $ z_n = 1 $ に対応する尤度のみを評価することで、計算コストを著しく削減する。
• 周辺分布が正確に全データ事後分布のまま保たれることに着目し、漸近的正しさを保証する。

実験結果

リサーチクエスチョン

• RQ1 各反復でデータのサブセットのみを用いることで、MCMCのサンプリングを正確に保ちながら高速化することは可能か？
• RQ2 尤度関数にどのような条件を満たせば、漸近的バイアスなしに効率的なサブセットベースMCMCが可能になるか？
• RQ3 補助変数をどのように設計すれば、真の事後分布を保持しつつデータサブセットの使用を可能にするか？
• RQ4 MCMCの計算コストを、事後分布の正確性を損なわずに桁違いに削減することは可能か？
• RQ5 壁時計時間と収束速度の観点から、FlyMCは標準的MCMCと比べてどのように性能を発揮するか？

主な発見

• FlyMC は大規模データセットにおいて、標準的MCMCと比較して10倍以上も高速に事後分布サンプリングを実行でき、漸近的バイアスがない。
• 補助変数の周辺分布が正確に全データ事後分布のまま保たれることにより、正確な事後分布推論が維持されている。
• MNIST、CIFAR-10、および有機フォトボルタイクスデータに対する実験では、MAPでチューニングした下界を用いたFlyMCが、速度と収束の両面で通常のMCMCを上回った。
• 尤度項に対する下界の使用により、各反復で多くのデータポイントの評価をスキップでき、1ステップあたりの平均尤度評価回数が削減された。
• MAP推定値を用いて下界を設定したチューニング済みFlyMCは、チューニングなしのバージョンと比較して顕著に性能向上を示し、下界の品質の重要性を示した。
• $ N $ 個の補助変数を導入して状態空間が拡大されたにもかかわらず、1ステップあたりの計算効率が高いため、FlyMCは高速な混合性能を維持している。