[論文レビュー] Scaling up Data Augmentation MCMC via Calibration

Leo L. Duan, James E. Johndrow+1 more|arXiv (Cornell University)|Mar 9, 2017

Bayesian Methods and Mixture Models被引用数 12

ひとこと要約

この論文は、大規模なベイズ推論における混合速度の遅さという問題に、補助変数の条件付き事後分布が不適切にキャリブレーションされていることが原因で生じる高い自己相関の問題を解消するため、キャリブレーション済みデータ拡張MCMC（CDA-MCMC）を提案する。適応的スケーリングパラメータ $ r $ と位置シフト $ b $ を用いて補助変数の分散を調整し、メトロポリス・ハスティングス補正を適用することで、CDA-MCMCは自己相関を著しく低減し、有効サンプルサイズを向上させ、プロビット、ロジスティック、ポアソンの対数線形モデルにおいて、定常分布にバイアスを生じさせることなく、計算効率を大幅に向上させる。

ABSTRACT

There has been considerable interest in making Bayesian inference more scalable. In big data settings, most literature focuses on reducing the computing time per iteration, with less focused on reducing the number of iterations needed in Markov chain Monte Carlo (MCMC). This article focuses on data augmentation MCMC (DA-MCMC), a widely used technique. DA-MCMC samples tend to become highly autocorrelated in large data samples, due to a miscalibration problem in which conditional posterior distributions given augmented data are too concentrated. This makes it necessary to collect very long MCMC paths to obtain acceptably low MC error. To combat this inefficiency, we propose a family of calibrated data augmentation algorithms, which appropriately adjust the variance of conditional posterior distributions. A Metropolis-Hastings step is used to eliminate bias in the stationary distribution of the resulting sampler. Compared to existing alternatives, this approach can dramatically reduce MC error by reducing autocorrelation and increasing the effective number of DA-MCMC samples per computing time. The approach is simple and applicable to a broad variety of existing data augmentation algorithms, and we focus on three popular models: probit, logistic and Poisson log-linear. Dramatic gains in computational efficiency are shown in applications.

研究の動機と目的

• 大規模データセットにおけるデータ拡張MCMC（DA-MCMC）の混合速度の遅さという問題に取り組む。これは、自己相関が高いため有効サンプルサイズが減少し、計算コストが増加するためである。
• DA-MCMCにおけるキャリブレーション不全の問題を解消する。ここで、標本サイズ $ n $ が増加するにつれ条件付き事後分布が過度に集中し、混合が悪化する。
• 条件付き事後分布の分散を補助パラメータ $ r $ と $ b $ を用いて調整する一般的でスケーラブルなフレームワークを構築する。これにより、事後分布の幅に一致するステップサイズの一貫性が向上する。
• メトロポリス・ハスティングス補正を用いて、キャリブレーションされたプロポーザルによって生じるバイアスを補正し、正確な事後分布を保持する。
• プロビット、ロジスティック、ポアソン対数線形回帰という代表的なモデルにおいて、広範な適用性と計算上の利点を示す。

提案手法

• データ拡張スキームにおいて、潜在変数 $ z_i $ の分散をスケーリング・シフトするための補助パラメータ $ r_i $ と $ b_i $ を導入し、$ \theta $ の条件付き分散を調整する。
• 全条件付き分布 $ \theta $ を $ R = \text{diag}(r_1, \dots, r_n) $ に依存する形に変更し、$ \text{var}(\theta|z) \propto (X^T R^{-1} X)^{-1} $ とすることで、ステップサイズの制御を可能にする。
• キャリブレーションされたプロポーザルによって生じるバイアスを補正するため、メトロポリス・ハスティングスステップを用いる。これにより、不変分布が真の事後分布のまま保たれる。
• $ r_i $ と $ b_i $ を調整し、$ \theta $ の条件付き分散が $ n $ に適切にスケーリングされるようにする。例えば $ r \approx n / \log n $ とすることで、高事後確率領域の幅と一致させる。
• プロビット、ロジスティック、ポアソン対数線形モデルにこの手法を適用し、$ r_i $ と $ b_i $ を用いて拡張されたデータ尤度を再定義する。これにより、共役性を維持しつつも混合性能が向上する。
• 理論的分析と実証的検証を用いて、キャリブレーション済みサンプラーが標準的なDA-MCMCよりも高い有効サンプルサイズと低い自己相関を達成することを示す。

実験結果

リサーチクエスチョン

• RQ1 DA-MCMCにおける条件付き事後分布のキャリブレーション不全は、$ n \to \infty $ のとき、自己相関を増加させ、混合性能を著しく低下させるメカニズムは何か？
• RQ2 データ拡張における潜在変数の分散を調整することで、大規模ベイズ推論におけるMCMCサンプラーの混合性能を向上させることができるか？
• RQ3 補助変数の分散パラメータ $ r $ と位置シフト $ b $ の最適スケーリングは何か？ これは、事後分布の幅に一致させ、有効サンプルサイズを向上させるために必要である。
• RQ4 キャリブレーションされたMCMCサンプラーは、正確な事後分布を保持しつつ、著しく高速な収束と低いモンテカルロ誤差を達成できるか？
• RQ5 実世界のモデル、例えばプロビット、ロジスティック、ポアソン回帰において、提案されたキャリブレーション済みアルゴリズムは、標準的なDA-MCMCや他の加速手法と比較して、性能に優れているか？

主な発見

• キャリブレーション済みDA-MCMC（CDA-MCMC）は、標準的なDA-MCMCと比較して、特に $ n $ が大きい場合に自己相関を著しく低減しており、自己相関関数（ACF）の減衰がはるかに速い。
• $ n = 10^4 $ の場合、$ r \approx n / \log n \approx 1000 $ に設定することで最適な混合性能が得られ、$ r $ を5000にさらに増加させても追加の利点は得られない。
• メトロポリス・ハスティングス補正なしでは、事後密度推定値が $ r $ に依存するが、補正ありではすべてのサンプラーが同一の事後推定値を生成する。これにより、バイアスのないサンプリングが確認された。
• M-H受理率は $ r = 10 $ および $ r = 100 $ の場合にほぼ1.0に近いが、$ r = 1000 $ では約0.6に低下し、$ r = 5000 $ では約0.2にまで低下する。これは、最適 $ r $ を超えると収益が減少することを示している。
• 有効サンプルサイズを単位時間あたりに大幅に増加させることで、計算効率が著しく向上し、長時間のMCMCチェインの必要性が減少する。
• このアプローチは、プロビット、ロジスティック、ポアソン対数線形モデルに広く適用可能であり、3つのモデルすべてで混合性能と計算効率が一貫して向上する。