[論文レビュー] Mini-batch Tempered MCMC

Dangna Li, Wing Hung Wong|arXiv (Cornell University)|Jul 31, 2017

Underwater Acoustics Research参考文献 7被引用数 5

ひとこと要約

本稿では、正確なメトロポリス＝ハスティングス比をミニバッチ推定に置き換えることで、温度調整された事後分布からの有効なサンプリングを可能にする、ミニバッチ温度調整MCMC（MINT-MCMC）を提案する。この手法により、ミニバッチによるバイアスを活用して混合性を向上させることで、高次元かつマルチモーダルな事後分布の効率的探索が可能となり、合成データおよび実データの両方の実験で、モードの十分なカバレッジと正しい周辺分布への収束が確認された。

ABSTRACT

In this paper we propose a general framework of performing MCMC with only a mini-batch of data. We show by estimating the Metropolis-Hasting ratio with only a mini-batch of data, one is essentially sampling from the true posterior raised to a known temperature. We show by experiments that our method, Mini-batch Tempered MCMC (MINT-MCMC), can efficiently explore multiple modes of a posterior distribution. Based on the Equi-Energy sampler (Kou et al. 2006), we developed a new parallel MCMC algorithm based on the Equi-Energy sampler, which enables efficient sampling from high-dimensional multi-modal posteriors with well separated modes.

研究の動機と目的

• 大規模データセットにおける正確なメトロポリス＝ハスティングスMCMCの計算ボトル neck を解消するため、MH比のミニバッチ計算を可能にする。
• ミニバッチ処理とMCMCにおける温度調整の理論的基盤を確立し、ミニバッチMHが既知の温度を持つ事後分布からのサンプリングを近似することを示す。
• 勾配計算を不要とし、ステップサイズの減少要件を軽減し、複雑な補正スキームにも依存しない、実用的で広く適用可能なMCMCアルゴリズムを開発する。
• 特に標準MCMCが局所的モードから脱出できないような、高次元で明確に分離されたマルチモーダル事後分布からの効率的サンプリングを可能にする。
• 等エネルギー原理に基づき、正確なサンプリングが可能な並列型MCMCアルゴリズムであるMINTEEへのフレームワークの拡張を行う。

提案手法

• 全データに対するメトロポリス＝ハスティングス受容比を、尤度比のミニバッチ推定に置き換えることで、イテレーションごとの計算コストを低減する。
• 理論的分析により、このミニバッチMHステップが、既知の温度Tにおける真の事後分布π^T(θ)からの漸近的サンプリングをもたらすことが示された。
• 拡張技術を用いて、MINTが生成するサンプルが、バッチサイズと尤度推定の分散によって決定される温度Tに基づく温度調整事後分布π^T(θ)に漸近的に従うことを証明する。
• 等エネルギーサンプラーに基づく複数の温度で動作する複数チェーンを用いるMINTEEと呼ばれる並列MCMCアルゴリズムを開発し、高次元マルチモーダル事後分布における混合性とモード間遷移を向上させる。
• 複数の温度で動作するチェーンを用いて、50個以上の明確に分離されたモードを有する高次元空間においても、すべてのモードをほぼ等確率で探索できる温度制御機構を導入する。
• 勾配情報やステップサイズの減少、適応的補正スキームを一切必要とせず、非凸的かつ複雑な事後分布に対しても広く適用可能である。

実験結果

リサーチクエスチョン

• RQ1 ミニバッチによるメトロポリス＝ハスティングス比の推定は、温度調整事後分布からのサンプリングとして理論的に正当化可能か？
• RQ2 ミニバッチ処理に起因するバイアスが、高次元かつマルチモーダルな事後分布において、実際に混合性とモード間遷移を向上させるか？
• RQ3 勾配情報やステップサイズの減少を必要としないミニバッチMCMC手法は、明確に分離されたモードの効率的探索を達成可能か？
• RQ4 MINT-MCMCの性能は、標準MCMCおよび変分ベイズ推論と比較して、マルチモーダルかつ高次元な設定下でどのように異なるか？
• RQ5 このフレームワークは、等エネルギー原理に基づく並列型MCMCアルゴリズム（MINTEE）へと拡張可能で、複雑な事後分布からの正確なサンプリングを可能にするか？

主な発見

• 50個の明確なモードを有する50次元のマルチモーダル混合モデルにおいて、MINT-MCMCはT-SNE可視化およびK-meansエルボー解析により、全50モードをほぼ等確率で訪問したことが確認された。
• MINT-MCMCから得られた1次元周辺分布は真の事後分布と一致しており、θ₁=0に位置するモードがθ₁=2に位置するモードよりも約50倍高い確率で発生していた。
• MINTの並列拡張であるMINTEEは、最低温度のチェーンから30万サンプルを生成し、モードバイアスや収束失敗の兆候が一切認められず、ターゲット事後分布を正しく再現した。
• 標準MCMCは初期の局所的モードから脱出できなかったが、MINT-MCMCは全モード空間を効果的に探索し、優れた混合性を示した。
• 本手法は、ステップサイズの減少や勾配計算を必要とせず、マルチモーダル事後分布のサンプリングに不可欠な大規模な探索的移動を可能にした。
• 理論的分析により、ミニバッチMHステップがπ^T(θ)からの漸近的サンプリングをもたらすことが確認され、バッチサイズと尤度推定の分散によって明示的に定まる温度Tが、単純なサブサンプリング手法の失敗の根本的原因を解明した。