[論文レビュー] Adaptive parallel tempering algorithm

Błażej Miasojedow, Éric Moulines+1 more|arXiv (Cornell University)|May 4, 2012

Markov Chains and Monte Carlo Methods参考文献 33被引用数 9

ひとこと要約

本稿では、リアルタイムで温度スケジュールとランダムウォークメトロポリス提案スケールパラメータを共同でチューニングする適応的並列温度法を提案する。適応のほとんど確実収束と、エルゴード平均に対する強い大数の法則の証明により、手動チューニングが不要な強固な性能が、多モードのターゲット分布に対して保証される。

ABSTRACT

Parallel tempering is a generic Markov chain Monte Carlo sampling method which allows good mixing with multimodal target distributions, where conventional Metropolis-Hastings algorithms often fail. The mixing properties of the sampler depend strongly on the choice of tuning parameters, such as the temperature schedule and the proposal distribution used for local exploration. We propose an adaptive algorithm which tunes both the temperature schedule and the parameters of the random-walk Metropolis kernel automatically. We prove the convergence of the adaptation and a strong law of large numbers for the algorithm. We illustrate the performance of our method with examples. Our empirical findings indicate that the algorithm can cope well with different kind of scenarios without prior tuning.

研究の動機と目的

• 標準のメトロポリス・ハスティングス法を用いた際の多モードターゲット分布における混合の悪さという課題に対処すること。
• 並列温度法において、温度スケジュールと提案分布パラメータの両方を自動でチューニングする適応的アルゴリズムを開発すること。
• ターゲット密度にやや弱い正則性条件が課せられる場合でも、適応プロセスの収束とエルゴード平均の有効性を保証すること。
• 事前のキャリブレーションが不要な実用的で自己調整可能なMCMC手法を提供することにより、多様な状況でも良好な性能を発揮すること。

提案手法

• L個のマルコフ連鎖を用いた並列温度法フレームワークを採用し、各連鎖は逆温度βに対応するターゲット密度π^βを標本とする。
• ターゲットの受容率に基づく再帰的スキームを用いて、逆温度スケジュールβと提案共分散行列Σを適応的に更新する。
• 隣接する連鎖間の平均スワップ受容率が約0.5になるように適応を目標とし、Atchadéら（2011）の指針に従う。
• 局所的探索の効率を確保するため、提案スケールはロビンズ・モンロー型スキームを用いて調整する。
• 2段階の更新を採用する：まず、隣接する温度の連鎖間でスワップ移動をメトロポリス・ハスティングス方式で提案；次に、各連鎖が局所的なランダムウォークメトロポリス更新を実行する。
• 適応プロセスの収束は、限界平均場を伴う確率的近似フレームワークを用いて確立される。

実験結果

リサーチクエスチョン

• RQ1 多モードの事後分布における混合を改善するために、適応的並列温度法が、温度スケジュールと提案分布パラメータを同時にチューニングできるか？
• RQ2 ターゲット密度にやや弱い条件が課せられる場合でも、提案された適応スキームがほとんど確実に一意の固定点に収束するか？
• RQ3 複雑な多モードの状況においても、手動チューニングが不要な信頼性のあるエルゴード平均を達成できるか？
• RQ4 温度と提案スケールの両方を適応的にチューニングする手法は、固定値またはヒューリスティックに選ばれたスケジュールと比較して、混合性や収束速度に優れているか？

主な発見

• 適応的アルゴリズムは、ターゲット分布にやや弱い正則性条件が課せられる場合でも、温度および提案スケールパラメータが一意の固定点にほとんど確実に収束することを保証する。
• アルゴリズムはエルゴード平均に対して強い大数の法則を満たし、統計的推論への適用が正当化される。
• 実験的結果から、事前のチューニングなしに多様な多モードターゲット分布に対して強固な性能を示しており、実用的有用性が顕著に示された。
• 適応スキームは、並列温度法における混合を最適化するとされている、目標とする平均スワップ受容率（約0.5）を的確に維持できた。
• 適応プロセスの収束は、確率的近似フレームワークを用いて確立され、剰余項がほとんど確実に消えることが示された。
• ターゲット密度が単一のモードではうまく近似できない場合でも、この手法は安定的かつ効果的であり、非適応的手法を上回る性能を発揮した。