[論文レビュー] MatDRAM: A pure-MATLAB Delayed-Rejection Adaptive Metropolis-Hastings Markov Chain Monte Carlo Sampler

Shashank Kumbhare, Amir Shahmoradi|arXiv (Cornell University)|Oct 8, 2020

Markov Chains and Monte Carlo Methods参考文献 31被引用数 4

ひとこと要約

MatDRAM は、高次元問題におけるベイズ推論、サンプリング、統合のための純正 MATLAB 実装である、遅延拒否適応メトロポリス（DRAM）マークフ・チェーン・モンテカルロ（MCMC）アルゴリズムです。適応的提案分布と収束を保証する適応の減少を自動監視する仕組みを備え、ほぼ完全に自動化され、再現可能で再開可能な MCMC シミュレーションを可能にします。

ABSTRACT

Markov Chain Monte Carlo (MCMC) algorithms are widely used for stochastic optimization, sampling, and integration of mathematical objective functions, in particular, in the context of Bayesian inverse problems and parameter estimation. For decades, the algorithm of choice in MCMC simulations has been the Metropolis-Hastings (MH) algorithm. An advancement over the traditional MH-MCMC sampler is the Delayed-Rejection Adaptive Metropolis (DRAM). In this paper, we present MatDRAM, a stochastic optimization, sampling, and Monte Carlo integration toolbox in MATLAB which implements a variant of the DRAM algorithm for exploring the mathematical objective functions of arbitrary-dimensions, in particular, the posterior distributions of Bayesian models in data science, Machine Learning, and scientific inference. The design goals of MatDRAM include nearly-full automation of MCMC simulations, user-friendliness, fully-deterministic reproducibility, and the restart functionality of simulations. We also discuss the implementation details of a technique to automatically monitor and ensure the diminishing adaptation of the proposal distribution of the DRAM algorithm and a method of efficiently storing the resulting simulated Markov chains. The MatDRAM library is open-source, MIT-licensed, and permanently located and maintained as part of the ParaMonte library at https://github.com/cdslaborg/paramonte.

研究の動機と目的

• MATLAB におけるベイズ推論と不確実性の定量化のため、完全に自動化され、使いやすく、再現可能な MCMC サンプリングツールボックスの開発。
• 収束を保証する提案分布の適応の減少を実現する、遅延拒否適応メトロポリス（DRAM）アルゴリズムの変種の実装。
• 長時間実行される MCMC シミュレーション、特に時間制限のあるハイパフォーマンスコンピューティングシステムにおける、決定論的再開機能の実装。
• メタデータを含む効率的なマークフ・チェーンの保存と、統合された収束診断および可視化ツールを備えたポストプロセッシング。
• 異言語間相互運用性と共通のポストプロセッシングワークフローを実現する、広範な ParaMonte ライブラリとの互換性の確保。

提案手法

• シミュレーション中に共分散が適応的に更新される多変量正規（MVN）提案分布を使用し、サンプリング効率を向上。
• 複数回の新しい状態の提案を許容する遅延拒否を実装し、複雑な後方分布における受容率を向上。
• 連続する提案分布間のヘルンガー距離を監視することで、エルゴディック性と収束を保証するための適応の減少を確保。
• 提案分布間の全変動距離（TVD）の上界を計算し、報告することで、適応の進行状況を評価。
• マークフ・チェーンと乱数生成器の状態を保存することで、決定論的再開を実現し、実行間でビット単位の同一結果を保証。
• 出力チェーンはメタデータと共に効率的に保存され、可視化および収束分析のための統合されたポストプロセッシングツールが提供される。

実験結果

リサーチクエスチョン

• RQ1 長時間の MCMC シミュレーションにおいて、完全な再現性と再開可能性を保証する純正 MATLAB 実装の DRAM アルゴリズムは、どのように設計できるか？
• RQ2 適応的 MCMC サンプラーにおいて、適応の減少を自動で監視および強制するための技術は何か？
• RQ3 ヘルンガー距離に基づく適応測度は、収束の検出と非エルゴディック行動の防止に、どの程度有効か？
• RQ4 最小限のユーザー介入で高次元ベイズ推論をサポートできる、完全に自動化され使いやすい MATLAB における MCMC ツールボックスを構築できるか？
• RQ5 MatDRAM と ParaMonte ライブラリの統合により、異言語間の相互運用性と MCMC 結果の一元的ポストプロセッシングがどのように実現されるか？

主な発見

• MatDRAM ライブラリは、完全に自動化され、決定論的かつ再起動可能な DRAM サンプラーを純正 MATLAB で実装し、中断・再開されたシミュレーション間でビット単位の同一結果を保証した。
• ヘルンガー距離に基づく適応測度は、全変動距離（TVD）の信頼性の高い計算効率の良い上界を提供し、シミュレーション中に段階的に減少するため、適応の成功した減少が示された。
• ヘルンガー距離による適応監視法により、適応が減少しないために収束しないチェーンを自動で検出できるようになった。
• ライブラリは高次元サンプリング（4次元 MVN 例で裏付け）をサポートし、ポストプロセッシング用に完全なメタデータを含む効率的なマークフ・チェーンの保存が可能である。
• ParaMonte ライブラリとの統合により、MatDRAM は C++、Fortran、Python に基づくサブセットと相互運用可能となり、MCMC 結果の一元的分析が可能になった。
• このツールはオープンソースであり、MIT ライセンスで提供され、https://github.com/cdslaborg/paramonte にホスティングされており、MATLAB FileExchange を通じた公開アクセスと包括的なドキュメンテーションが提供されている。