[論文レビュー] Efficient parameter sampling for Markov jump processes

Boqian Zhang, Vinayak Rao|arXiv (Cornell University)|Apr 7, 2017

Markov Chains and Monte Carlo Methods参考文献 33被引用数 6

ひとこと要約

本稿では、均一化と対称化スキームを活用してパラメータと経路の依存関係を分離することで、連続時間マルコフ跳躍過程における効率的なベイズ推論のための新しいメトロポリス・ハスティングスアルゴリズムを提案する。この手法は幾何的正帰属性を達成し、ベンチマークモデルにおいてギブスサンプリング、ナイーブなメトロポリス・ハスティングス、およびパーティクルMCMCよりも混合性と収束速度に優れる。

ABSTRACT

Markov jump processes (MJPs) are continuous-time stochastic processes widely used in a variety of applied disciplines. Inference for MJPs typically proceeds via Markov chain Monte Carlo, the state-of-the-art being a uniformization-based auxiliary variable Gibbs sampler. This was designed for situations where the MJP parameters are known, and Bayesian inference over unknown parameters is typically carried out by incorporating it into a larger Gibbs sampler. This strategy of sampling parameters given path, and path given parameters can result in poor Markov chain mixing. In this work, we propose a simple and elegant algorithm to address this problem. Our scheme brings Metropolis-Hastings approaches for discrete-time hidden Markov models to the continuous-time setting, resulting in a complete and clean recipe for parameter and path inference in MJPs. In our experiments, we demonstrate superior performance over Gibbs sampling, as well as another popular approach, particle MCMC. We also show our sampler inherits geometric mixing from an `ideal' sampler that operates without computational constraints.

研究の動機と目的

• 潜在路と未知パラメータの強い結合性によりMCMC推論で混合性が悪化する問題に対処すること。
• ラオ＝テーの補助変数ギブスサンプリングのより効率的な代替手法を開発すること。この手法は経路とパラメータの間を交互にサンプリングする。
• パラメータ中心のメトロポリス・ハスティングスアプローチにより、MJPにおけるMCMCの混合性を向上させることで、より速く信頼性の高いベイズ推論を可能にすること。
• 提案されたサンプラーが、弱い条件下で理想ではあるが計算的に非現実的なサンプラーから幾何的正帰属性を継承することを証明すること。

提案手法

• 均一化を用いてポアソン分布に従うイベント時刻のグリッドを生成し、パラメータ更新時に経路の周辺化を効率的に行えるようにする。
• 提案分布が現在のパラメータ値に依存しないようにするための対称化スキームを導入し、提案の効率性を向上させる。
• パラメータと潜在路の同時事後分布を標的とするメトロポリス・ハスティングス更新を採用し、ランダムなポアソングリッドに条件づけた提案を用いる。
• ドリフト条件とミニマライゼーション条件を導出し、幾何的正帰属性を証明する。これにより、サンプラーが理想化された参照チェインからこの性質を継承することが示される。
• 出生死滅過程、移民死滅モデル、コドン置換モデルを含む、低次元パラメータ推定への応用を実施する。
• 有界な受容確率と安定性と収束性を保証するように注意深く構築された提案密度を用いる。

実験結果

リサーチクエスチョン

• RQ1 メトロポリス・ハスティングスアルゴリズムを設計することで、マルコフ跳躍過程におけるパラメータと潜在路の同時推定を、ギブスサンプリングよりも混合性が良い形で行えるか。
• RQ2 対称化された提案メカニズムは、提案が現在のパラメータ値に依存しないようにすることで、MCMCの効率性を向上させることができるか。
• RQ3 提案されたサンプラーは、計算的に非現実的だが理想化された参照サンプラーから幾何的正帰属性を継承できるか。
• RQ4 パーティクルMCMC やナイーブなメトロポリス・ハスティングスと比較して、収束性と混合性の観点で、提案手法は性能に優れているか。

主な発見

• 提案された対称化メトロポリス・ハスティングスアルゴリズムは、合成データおよび実世界のデータセットにおいて、ギブスサンプリングよりも有効サンプルサイズと収束速度に顕著に優れている。
• 弱い正則性条件の下で、この手法は幾何的正帰属性を達成しており、計算的に非現実的だが理想的な参照チェインからこの性質を継承している。
• E. coliの遺伝子発現データセットにおいて、パーティクルMCMC やナイーブなMHと比較して、より速い収束とより安定した事後分布推定を示した。
• 特に高次元パラメータ空間において、対称化を用いないナイーブなメトロポリス・ハスティングスと比較して、本アルゴリズムは優れた混合性を示した。
• 理論的分析により、収縮率 δ > 0 である条件下でドリフト条件が満たされることを確認し、提案分布と目標分布が適切に定義されていれば幾何的正帰属性が保証されることを示した。