[論文レビュー] Scalable Bayesian Inference for Population Markov Jump Processes

Iker Perez, Theodore Kypraios|arXiv (Cornell University)|Apr 17, 2019

Gene Regulatory Network Analysis参考文献 26被引用数 3

ひとこと要約

本稿は、非定常なジャンプ過程の均一化表現を用いて、母集団のマコフジャンプ過程における正確なベイズ推論のためのスケーラブルで汎用的なデータ拡張フレームワークを提案する。このフレームワークは、補助変数を活用することで混合性とスケーラビリティを向上させ、特に巨大または無限の状態空間を持つシステムにおいて、効率的なMCMCサンプリングを可能にする。疫学的モデル、移住モデル、捕食者-被捕食者モデルなど多様なモデルに適用可能である。

ABSTRACT

Bayesian inference for Markov jump processes (MJPs) where available observations relate to either system states or jumps typically relies on data-augmentation Markov Chain Monte Carlo. State-of-the-art developments involve representing MJP paths with auxiliary candidate jump times that are later thinned. However, these algorithms are i) unfeasible in situations involving large or infinite capacity systems and ii) not amenable for all observation types. In this paper we establish and present a general data-augmentation framework for population MJPs based on uniformized representations of the underlying non-stationary jump processes. This leads to multiple novel MCMC samplers which enable exact (in the Monte Carlo sense) inference tasks for model parameters. We show that proposed samplers outperform existing popular approaches, and offer substantial efficiency gains in applications to partially observed stochastic epidemics, immigration processes and predator-prey dynamical systems.

研究の動機と目的

• 巨大または無限の状態空間において計算的に非現実的となる既存のMCMC手法の限界を克服すること。
• 観察タイプの多様性（例：個体数、ジャンプイベント）に適応できない現行のデータ拡張スキームの問題を解決すること。
• 非定常的かつ時不変性のないジャンプ過程に対する、正確なベイズ推論（モンテカルロの意味で）を可能にする汎用フレームワークの開発。
• 部分的またはノイズの多い観察が存在する複雑なシステム（例：確率的疫学、移住-死滅過程、捕食者-被捕食者ダイナミクス）におけるスケーラブルな推論を実現すること。
• 既存の最先端手法を上回る有効サンプルサイズと計算効率を達成する効率的なMCMCサンプラーの設計。

提案手法

• 非定常ジャンプ過程の均一化表現を用いて、MJP推論のための汎用的データ拡張フレームワークを構築する。
• 均一化されたジャンプ過程のポアソンスプライシングに基づく補助変数を導入し、パスの再帰的拒否なしに正確なパス拡張を可能にする。
• 支配的レート関数 $\Omega = \max_{x \in \mathcal{S}} \sup_{t \in [0,T]} |Q_x(t)|$ を用いて均一化レートを制御し、有効な確率的シミュレーションを保証する。
• 式 (1) に示される均一化パス密度から導かれる条件付き密度を用いて、潜在的ジャンプ時刻とパスを同時に更新する新しいMCMCサンプラーを導出する。
• オペレータベースのスプライシング戦略（例：$\psi(t,x) = 0.5 \cdot |Q_x(t)|$）を適用し、MCMC系列の自己相関を低減し、混合性を向上させる。
• 高次元状態空間において混合性を向上させるために、ラグに基づく条件付きブリッジ（例：$l = 0.5N$ または $0.75N$）を実装し、特に大規模個体群システムに有効である。

実験結果

リサーチクエスチョン

• RQ1 非定常的かつ母集団スケールのマコフジャンプ過程における正確なベイズ推論のための汎用的データ拡張フレームワークを構築可能か？
• RQ2 巨大または無限の状態空間を持つシステムにおいて、補助変数を用いたMCMC手法が効率的かつスケーラブルに保たれるか？
• RQ3 提案手法の有効サンプルサイズと計算効率の観点で、既存の最先端手法をどの程度上回るか？
• RQ4 本フレームワークは、異なる確率的モデルにおいて、個体数やジャンプイベントといった多様な観察タイプを処理できるか？
• RQ5 ラグに基づく条件付き処理と適応的スプライシングオペレータが、高次元推論タスクにおけるMCMCの混合性と収束性に与える影響はいかほどか？

主な発見

• 提案されたフレームワークは、均一化パス表現に基づくMCMCサンプラーを用いて、母集団のマコフジャンプ過程における正確なベイズ推論を実現する。
• 新規MCMCサンプラーは、大規模個体群設定において、単純な均一化手法や既存ベンチマークと比較して有効サンプルサイズ比が1.5倍以上に向上する大幅な効率性向上を達成する。
• 状態空間が最大 $14,400$（すなわち $120^2$）に達する捕食者-被捕食者モデルにおいても、本手法は効果的にスケーリングされ、高個体数境界でも高い有効サンプルサイズを維持する。
• ラグに基づく条件付きブリッジ（$l = 0.5N$ および $l = 0.75N$）は混合性を顕著に向上させ、単純な手法および参照用補助変数サンプラーを上回る性能を示す。
• 本フレームワークは、先行研究（例：RaoとTeh, 2013）の手法を特別な場合として包含・一般化しており、理論的整合性を確認する。
• 実験的結果から、提案手法のサンプラーはすべてのパrameter（$\alpha, \beta, \delta, \gamma$）において高い性能を維持しており、全テスト設定において最小有効サンプルサイズ比が1.2以上に安定して保たれている。