[論文レビュー] Accelerating delayed-acceptance Markov chain Monte Carlo algorithms

Samuel Wiqvist, Umberto Picchini+3 more|arXiv (Cornell University)|Jun 15, 2018

Markov Chains and Monte Carlo Methods参考文献 42被引用数 7

ひとこと要約

本稿では、第二段階での高コストな尤度評価を補間モデルを活用することで回避することで、遅延承認MCMCの近似的かつ高速化された変種であるADA-MCMCを提案する。計算負荷の高い設定、例えばタンパク質折りたたみのための確率的微分方程式モデルにおいて、標準的なDA-MCMCと比較して2–4倍の高速化を達成しながら、正確な手法と同等の推論精度を維持している。

ABSTRACT

Delayed-acceptance Markov chain Monte Carlo (DA-MCMC) samples from a probability distribution via a two-stages version of the Metropolis-Hastings algorithm, by combining the target distribution with a "surrogate" (i.e. an approximate and computationally cheaper version) of said distribution. DA-MCMC accelerates MCMC sampling in complex applications, while still targeting the exact distribution. We design a computationally faster, albeit approximate, DA-MCMC algorithm. We consider parameter inference in a Bayesian setting where a surrogate likelihood function is introduced in the delayed-acceptance scheme. When the evaluation of the likelihood function is computationally intensive, our scheme produces a 2-4 times speed-up, compared to standard DA-MCMC. However, the acceleration is highly problem dependent. Inference results for the standard delayed-acceptance algorithm and our approximated version are similar, indicating that our algorithm can return reliable Bayesian inference. As a computationally intensive case study, we introduce a novel stochastic differential equation model for protein folding data.

研究の動機と目的

• 尤度評価が計算的に高コストな状況においてMCMCサンプリングを高速化すること、特に複雑なモデルにおけるベイズ推論に特化すること。
• 近似を導入しても信頼性の高い推論を維持する、標準的な遅延承認MCMC（DA-MCMC）の代替手法を高速化すること。
• 本手法の有効性を、タンパク質折りたたみデータのための新規な確率的微分方程式モデルに適用して示すこと。
• 高コストな尤度評価の状況下での計算速度と推論精度のトレードオフを評価すること。
• ベイズ推論を越えて一般用途に適用可能な近似MCMCフレームワークを提供すること。

提案手法

• 補間尤度を用いて、高価な尤度評価の前段階で候補を事前にスクリーニングする、近似の二段階MCMCアルゴリズムADA-MCMCを導入する。
• ガウス過程回帰を用いて補間尤度をモデル化し、対数尤度値の高速な近似を可能にする。
• 第二段階で四つのケースに分けて意思決定を行う：補間に基づく受容確率が高ければ即時受容、低ければ即時拒否、それ以外は正確な尤度を評価する。
• 状態空間モデルにおける正確な尤度評価にパーティクルフィルタを適用し、ADA-MCMCではDA-MCMCと比較してその呼び出し頻度を低く抑える。
• 補間モデルの学習のために事前MCMCランを実施し、その後そのモデルを提案の受容意思決定を導くために使用する。
• 遅延承認フレームワークを拡張し、補間の信頼性に基づいて正確な尤度評価を一部のケースで省略可能にする。

実験結果

リサーチクエスチョン

• RQ1 遅延承認MCMCの第二段階における尤度評価の近似によって、MCMCの実行時間を著しく短縮できるか？
• RQ2 ADA-MCMCにおける近似は、正確なDA-MCMCと比較して、事後分布推論の精度にどのように影響するか？
• RQ3 どのような状況でADA-MCMCが顕著な高速化を達成し、逆に補間モデルのオーバーヘッドが正当化されないか？
• RQ4 パーティクルマージナルメトロポリス・ハスティングスやマルコフ連鎖内メトロポリスと比較して、ADA-MCMCの性能はどの程度か？
• RQ5 補間モデルは、事後分布推定に顕著なバイアスを導入することなく、どの程度高速なサンプリングを可能にするか？

主な発見

• タンパク質折りたたみの事例研究では、尤度評価に1回あたり2–10秒を要するが、ADA-MCMCは標準的なDA-MCMCと比較して2–4倍の高速化を達成した。
• ADA-MCMCではパーティクルフィルタの呼び出し頻度がDA-MCMCと比較して2～5回減少し、これが直接的に高速化に寄与した。
• ADA-MCMCの推論結果は、DA-MCMCおよびマルコフ連鎖内メトロポリスと非常に類似しており、精度の損失は最小限にとどまった。
• 尤度評価が高速な場合には顕著な利点が得られず、これは本手法の価値が問題依存であり、特に高コストな設定で最も効果的であることを確認した。
• タンパク質折りたたみモデルでは、全提案の18.8％が、補間モデルの信頼性が高かったため、尤度評価を実施せずに受容された。
• 補間モデルの品質は極めて重要であり、劣悪な補間モデルはバイアスを引き起こす可能性があるため、信頼性の高い事前モデリングの必要性が強調された。