[論文レビュー] Discontinuous Hamiltonian Monte Carlo for sampling discrete parameters

Akihiko Nishimura, David B. Dunson+1 more|arXiv (Cornell University)|May 23, 2017

Markov Chains and Monte Carlo Methods参考文献 6被引用数 8

ひとこと要約

本論文は、離散的または不連続なターゲット密度（特に順序尺度パラメータを含む）を持つモデルにおける効率的なベイジアン後方分布サンプリングを可能にする、新しい手法である不連続ハミルトニアンモンテカルロ（dHMC）を紹介する。この手法は、質量関数を連続空間に埋め込むことで実現される。特別な数値解法を用いることでハミルトニアンを正確に保存し、不連続な後方分布を有する困難な推論問題において優れた性能を発揮する。

ABSTRACT

Hamiltonian Monte Carlo has emerged as a standard tool for posterior computation. In this article, we present an extension that can efficiently explore target distributions with discontinuous densities. Our extension in particular enables efficient sampling from ordinal parameters though embedding of probability mass functions into continuous spaces. We motivate our approach through a theory of discontinuous Hamiltonian dynamics and develop a corresponding numerical solver. The proposed solver is the first of its kind, with a remarkable ability to exactly preserve the Hamiltonian. We apply our algorithm to challenging posterior inference problems to demonstrate its wide applicability and competitive performance.

研究の動機と目的

• 離散的または不連続なターゲット密度を有するベイジアンモデルにおける効率的な後方分布サンプリングの課題に対処すること。
• 既存のHMCの変種が効果的にサンプリングできない不連続密度を有する分布に対しても、ハミルトニアンモンテカルロ（HMC）を拡張すること。
• 順序尺度パラメータからの効率的なサンプリングを可能にするために、それらの確率質量関数を連続空間に埋め込むこと。
• 不連続なハミルトニアンダイナミクスを扱う数値解法を開発し、ハミルトニアンを正確に保存することで、安定性と正確性を確保すること。
• 本手法の広範な適用可能性と、不連続な後方分布を有する実世界の推論問題における競争力のある性能を示すこと。

提案手法

• 離散的確率質量関数（特に順序尺度パラメータのもの）を連続パラメータ空間に埋め込むことで、滑らかなハミルトニアンダイナミクスを可能にする。
• 不連続なハミルトニアンダイナミクスの理論を提唱し、一般化された力項を用いて不連続性を越える系の進化をモデル化する。
• ポテンシャルエネルギー関数の不連続性に対処できる新しい数値積分法を設計し、滑らかでない状況下でもハミルトニアンを正確に保存する。
• イベント検出を用いて不連続性の境界を特定し、エネルギー保存を維持するための適切なシンプレクティック更新をこれらの点で実行する。
• ターゲット密度の構造を活用して、正しい不変測度を保存する連続ハミルトニアン系を定義する。
• 不連続性に配慮した補正ステップを備えたシンプレクティック積分法を用いて連続ダイナミクスを統合し、エルゴード性と詳細つり合いを保証する。

実験結果

リサーチクエスチョン

• RQ1 ハミルトニアンモンテカルロは、不連続密度を有する後方分布から効率的にサンプリングできるように拡張可能か？
• RQ2 離散的パラメータ、特に順序尺度パラメータは、連続空間にどのように埋め込むことができるか？
• RQ3 ポテンシャルエネルギーにおける不連続性が存在する状況下で、ハミルトニアンを正確に保存する数値積分スキームは何か？
• RQ4 提案手法は、標準HMCや他の離散サンプラーと比較して、不連続な後方分布においてより優れた混合性と収束性を達成するか？
• RQ5 本手法は、複雑で不連続な後方分布構造を有する実世界のベイジアン推論問題に適用可能か？

主な発見

• 提案されたdHMC手法は、順序尺度パラメータに起因するような不連続密度を有する後方分布からの効率的なサンプリングを成功裏に可能にした。
• 数値解法は不連続性を越えて正確にハミルトニアンを保存し、安定的かつ正確な軌道積分を実現した。
• 標準HMCが不連続性のため失敗するような困難な後方推論問題において、本手法は競争力のある性能を示した。
• 離散的質量関数を連続空間に埋め込むことで、そうでなければ取り扱いが困難な離散的ターゲットに対しても勾配ベースのMCMC手法を適用可能にした。
• 実世界のモデルにおいて不連続な後方分布を有する状況でも、本手法は良好な混合性と収束性を達成し、有効サンプルサイズと計算効率の点で他の手法を上回った。