[論文レビュー] A comparison of nonlinear population Monte Carlo and particle Markov chain Monte Carlo algorithms for Bayesian inference in stochastic kinetic models

Eugenia Koblents, Joaquı́n Mı́guez|arXiv (Cornell University)|Apr 21, 2014

Statistical Methods and Bayesian Inference参考文献 3被引用数 4

ひとこと要約

この論文は、確率的力学モデルにおけるベイズ推論において、非線形集団モンテカルロ（NPMC）と粒子マルコフ連鎖モンテカルロ（pMCMC）を比較し、非線形重み変換を用いた反復的重要度サンプリングにより劣化を軽減する手法が、計算コストを低く抑えながら、プロカリオティック自己調節ネットワークにおいてpMCMCを著しく上回ることを示している。漸近的収束解析により、尤度が逐次モンテカルロを用いて近似された場合のロバスト性が確認されている。

ABSTRACT

In this paper we address the problem of Monte Carlo approximation of posterior probability distributions in stochastic kinetic models (SKMs). SKMs are multivariate Markov jump processes that model the interactions among species in biochemical systems according to a set of uncertain parameters. Markov chain Monte Carlo (MCMC) methods have been typically preferred for this Bayesian inference problem. Specifically, the particle MCMC (pMCMC) method has been recently shown to be an effective, while computationally demanding, method applicable to this problem. Within the pMCMC framework, importance sampling (IS) has been used only as the basis of the sequential Monte Carlo (SMC) approximation of the acceptance ratio in the Metropolis-Hastings kernel. However, the recently proposed nonlinear population Monte Carlo (NPMC) algorithm, based on an iterative IS scheme, has also been shown to be effective as a Bayesian inference tool for low dimensional (predator-prey) SKMs. In this paper, we provide an extensive performance comparison of pMCMC versus NPMC, when applied to the challenging prokaryotic autoregulatory network. We show how the NPMC method can greatly outperform the pMCMC algorithm in this scenario, with an overall moderate computational effort. We complement the numerical comparison of the two techniques with an asymptotic convergence analysis of the nonlinear IS scheme at the core of the proposed method when the importance weights can only be computed approximately.

研究の動機と目的

• 高次元の確率的力学モデル（SKMs）における潜在的集団と不確実なパラメータを伴うベイズ推論の課題に対処すること。
• NPMCとpMCMCの性能を比較し、SKMsの事後分布推定に用いること。
• 逐次モンテカルロによる尤度の近似下での非線形ISの漸近的収束を分析すること。
• 異なる観察モデルと次元数の下で、複雑な細菌性自己調節ネットワークにおける両手法の評価を行うこと。

提案手法

• NPMCは、反復的最重要度サンプリングを用い、重要度重みに非線形変換（温度調整とクリッピング）を施して高次元空間における劣化を低減する。
• 潜在的集団の事後分布を逐次モンテカルロ（SMC）で近似し、その結果をパラメータ推定のための重要度重みの計算に用いる。
• 非線形重み変換により重みの分散を滑らかにし、標準的なPMCに比べてサンプリング効率を向上させ、必要な粒子数を削減する。
• 複雑で高次元のターゲット分布をモデル化するために、混合型PMC（MPMC）を組み合わせ、ガウス分布やスルツィング分布の混合を用いる。
• 尤度が近似された場合の非線形ISスキームの漸近的収束解析を導出し、誤差バウンドが $ J^{-\frac{1}{2}+\epsilon} $ の速度で減少することを示した。ここで $ J $ は粒子数を表す。
• 正確な尤度と近似された尤度の差に理論的バウンドを確立し、尤度の積における誤差がほとんど確実に $ \mathcal{O}(J^{-\frac{1}{2}+\epsilon}) $ であることを証明した。

実験結果

リサーチクエスチョン

• RQ1 非線形集団モンテカルロ（NPMC）は、確率的力学モデルにおけるベイズ推論において、粒子MCMC（pMCMC）に比べ、推定精度と計算効率の面で優れているか？
• RQ2 プロカリオティック自己調節ネットワークにおいて、NPMCの性能はモデル次元数の増加や観察ノイズの増大に伴ってどのように変化するか？
• RQ3 逐次モンテカルロによる尤度の近似が、NPMCにおける非線形ISスキームの収束性と精度に与える影響は何か？
• RQ4 標準的なPMCに比べ、NPMCにおける非線形重み変換は、高次元のSKMsにおける劣化問題を効果的に緩和できるか？
• RQ5 重要度重みが近似的に計算された場合に、NPMCの収束性についてどのような理論的保証を提供できるか？

主な発見

• NPMCは、計算コストを著しく低く抑えながら、プロカリオティック自己調節ネットワークにおいてpMCMCを上回る推定精度を達成した。
• 非線形重み変換により劣化が軽減されたため、NPMCはより良い収束性と低い事後分布推定の分散を達成した。
• NPMCにおける尤度近似の漸近的誤差バウンドは $ \mathcal{O}(J^{-\frac{1}{2}+\epsilon}) $ の速度で減少し、近似下でもロバスト性が確認された。
• 収束解析により、尤度がSMCで推定された場合でも、尤度積の誤差は有界であり、粒子数が増加するにつれて消滅することが示された。
• 数値結果により、NPMCは低次元および高次元の両状況において、pMCMCよりも少ない反復回数と低い計算負荷でより正確な事後分布推定を提供することが実証された。
• NPMCとMPMCの組み合わせにより、t分布の混合を用いて複雑な事後分布をモデル化することで、高次元SKMsにおける有効な推論が可能になった。