[論文レビュー] Discontinuous Hamiltonian Monte Carlo for models with discrete parameters and discontinuous likelihoods

Akihiko Nishimura, David B. Dunson+1 more|arXiv (Cornell University)|May 23, 2017

Markov Chains and Monte Carlo Methods被引用数 7

ひとこと要約

本稿では、離散的パラメータや不連続な尤度を持つモデルにおける後方分布の効率的サンプリングを可能にする、ハミルトニアン・モンテカルロ（HMC）の新規拡張である不連続ハミルトニアン・モンテカルロ（dHMC）を提案する。不連続ハミルトニアン力学の理論と、ハミルトニアンを正確に保存する数値解法を開発することで、特に順序尺度パラメータや不連続密度に対して、正確かつ安定したサンプリングを実現した。

ABSTRACT

Hamiltonian Monte Carlo has emerged as a standard tool for posterior computation. In this article, we present an extension that can efficiently explore target distributions with discontinuous densities. Our extension in particular enables efficient sampling from ordinal parameters though embedding of probability mass functions into continuous spaces. We motivate our approach through a theory of discontinuous Hamiltonian dynamics and develop a corresponding numerical solver. The proposed solver is the first of its kind, with a remarkable ability to exactly preserve the Hamiltonian. We apply our algorithm to challenging posterior inference problems to demonstrate its wide applicability and competitive performance.

研究の動機と目的

• 標準HMCが効果的に処理できない、離散的パラメータや不連続な尤度を持つモデルにおける効率的な後方計算の課題に対処すること。
• 確率質量関数を連続空間に埋め込むことで、ハミルトニアン・モンテカルロを確率質量関数のサポートに拡張すること。
• 安定かつ正確なサンプリングを可能にする、不連続ハミルトニアン力学の理論的枠組みを構築すること。
• 不連続性が存在する状況でもハミルトニアンを正確に保存する数値解法を設計し、長期的な安定性と正確性を保証すること。

提案手法

• 離散的パラメータに起因するポテンシャルエネルギーのジャンプをモデル化するための、不連続ハミルトニアン力学の理論を提唱する。
• 勾配ベースのサンプリングを可能にするために、離散的確率質量関数を連続パrameter空間に連続的に埋め込む手法を導入する。
• 不連続性の存在する流れの遷移を正確にモデル化することで、不連続性超平面における流れを処理する数値積分器を開発する。
• イベント検出を用いて不連続性境界を特定し、ジャンプを越えてハミルトニアンを保存するシンプレクティック積分ルールを適用する。
• 不連続性において再試行不要な更新機構を適用し、詳細釣り合いを維持し、正しい定常分布を保証する。
• 連続時間形式を採用することで、ポテンシャルエネルギー関数が滑らかでない場合でも、ハミルトニアンの正確な保存を可能にする。

実験結果

リサーチクエスチョン

• RQ1 ハミルトニアン・モンテカルロは、不連続密度や離散的パラメータを持つ後方分布からの効率的サンプリングに拡張可能か？
• RQ2 ハミルトニアン力学の幾何的構造を保存する形で、不連続ダイナミクスをどのように形式化できるか？
• RQ3 不連続性が存在する状況でもハミルトニアンを正確に保存する数値積分スキームは何か？
• RQ4 統計的忠実性を損なわず、バイアスを導入せずに、離散的パラメータを連続空間に埋め込む方法は何か？
• RQ5 提案手法は、困難な後方推論タスクにおいて、既存のMCMC手法に比べてどの程度の性能向上を達成するか？

主な発見

• 提案されたdHMC手法は、新規の数値解法によりハミルトニアンの正確な保存を達成し、サンプリングにおける長期的安定性と正確性を保証する。
• この手法により、確率質量関数を連続空間に埋め込むことで、順序尺度パラメータの効率的後方推論が可能になる。
• dHMCは、不連続尤度を持つ困難なモデルにおいて、有効サンプルサイズと収束性の面で、標準HMCや他のMCMC手法を上回る競争力ある性能を示した。
• 不連続ハミルトニアン力学の理論は、統計的推論における非滑らか系の取り扱いに、厳密な基礎を提供する。
• 数値解法は、バイアスの導入や臨床的チューニングを必要とせず、不連続性超平面を正確に処理し、詳細釣り合いとエルゴード性を維持した。