[論文レビュー] Roll-back Hamiltonian Monte Carlo

Kexin Yi, Finale Doshi‐Velez|arXiv (Cornell University)|Sep 8, 2017

Markov Chains and Monte Carlo Methods参考文献 13被引用数 8

ひとこと要約

本稿では、滑らかな密度関数を持つ切断分布からのサンプリングを目的とした、新たなHMCフレームワーク「ロールバックハミルトニアンモンテカルロ（RBHMC）」を提案する。不連続な切断境界を鋭いシグモイド近似に置き換えることで、微分可能な動的挙動を実現し、制約付き空間における効率的なサンプリングを可能にした。本手法は、ベイズ的非負行列分解におけるギブスサンプリングと同等の性能を達成しながら、計算効率を維持している。

ABSTRACT

We propose a new framework for Hamiltonian Monte Carlo (HMC) on truncated probability distributions with smooth underlying density functions. Traditional HMC requires computing the gradient of potential function associated with the target distribution, and therefore does not perform its full power on truncated distributions due to lack of continuity and differentiability. In our framework, we introduce a sharp sigmoid factor in the density function to approximate the probability drop at the truncation boundary. The target potential function is approximated by a new potential which smoothly extends to the entire sample space. HMC is then performed on the approximate potential. While our method is easy to implement and applies to a wide range of problems, it also achieves comparable computational efficiency on various sampling tasks compared to other baseline methods. RBHMC also gives rise to a new approach for Bayesian inference on constrained spaces.

研究の動機と目的

• ハミルトニアンモンテカルロ（HMC）を切断分布に適用する際の課題、すなわち切断境界における不連続性と微分不能性に対処すること。
• 任意の切断境界に対して一般化可能で、実装が容易なHMCフレームワークを構築し、計算効率を維持すること。
• 従来のHMCが滑らかでないポテンシャル関数のため失敗する制約付きパrameter空間における有効なベイズ推論を可能にすること。
• 非共役・制約付き事前分布を有するモデルにおいて、ギブスサンプリングや再帰的サンプリング手法のスケーラブルな代替手段を提供すること。

提案手法

• 切断境界における単位ステップ関数の滑らかな近似として、鋭いシグモイド関数 $\sigma(x; \mu) = \frac{1}{1 + \exp(-\mu x)}$ を導入し、滑らかさと微分可能性を確保する。
• 目的密度における不連続なインジケータ関数 $\mathds{1}_{\text{ROI}}(\mathbf{x})$ を $\sigma(\mathbf{x}; \mu)$ に置き換え、全サンプル空間上で滑らかなポテンシャル関数 $\tilde{U}(\mathbf{x})$ を構築する。
• ベイズ的非負行列分解のための近似ポテンシャル $\tilde{U}(\mathbf{W}, \mathbf{A})$ を構築する。元の対数後確率に、$\log[1 + \exp(-\mu \mathbf{W}_{ij})]$ および $\log[1 + \exp(-\mu \mathbf{A}_{ij})]$ の対数シグモイド項を加算する。
• 標準的なループフロッグ積分を用いて、パrameter $\varepsilon$（ステップサイズ）、$L$（軌道長さ）、$\mu$（シグモイドの傾き）を伴う滑らかなポテンシャル $\tilde{U}$ に対してHMCを実行する。
• 粒子が境界から「後退する」ように、上昇するポテンシャル面でのダイナミクスをシミュレートすることで、境界からのロールバックを保証する。
• 得られた $\tilde{U}$ からのサンプルを、真の切断後確率からの近似サンプルとして使用する。$\mu$ が大きい場合には歪みが最小限に抑えられる。

実験結果

リサーチクエスチョン

• RQ1 任意の非滑らかで不連続な境界を持つ切断分布に対して、HMCを計算効率を損なわずに効果的に拡張できるか？
• RQ2 切断境界のシグモイドベースの滑らかな近似が、目的分布の統計的性質をどれほど正確に保持するか？
• RQ3 ベイズ的非負行列分解において、RBHMCは従来のギブスサンプリングよりも再構成精度とサンプリング効率の両面で優れているか？
• RQ4 非共役・制約付き事前分布を有する一般のベイズモデルに、特別な導出作業を要せずRBHMCを適用できるか？

主な発見

• 観測行列とサンプル成分から再構成された行列との間の平均絶対差はRBHMCで0.4023819、ギブスサンプリングで0.4065109を記録し、RBHMCが優れている。
• 10回のランで測定した平均絶対差の標準偏差は、RBHMCで0.0013394、ギブスサンプリングで0.0013314であり、安定性に差がないことが示された。
• RBHMCのサンプルから再構成されたベース画像は、合成データの元のパターンを正確に回復しており、後確率の正確なサンプリングを示している。
• 追加の近似があるにもかかわらず、RBHMCは制約付き空間における他のHMCベース手法と同等の計算効率を維持している。
• 本手法は汎用的であり、共役性や特定の境界構造を必要とせず、非共役ベイズモデルへの広範な応用が可能である。