[論文レビュー] Adaptive Gibbs samplers

Krzysztof Łatuszyński, Jeffrey S. Rosenthal|arXiv (Cornell University)|Jan 16, 2010

Markov Chains and Monte Carlo Methods参考文献 41被引用数 5

ひとこと要約

この論文は、混合効率と収束性を向上させるために、MCMC シミュレーション中に選択確率と提案分布を動的に調整する適応的ギブスサンプラーを調査する。ナーヴィな適応が非エルゴディックな振る舞いを引き起こす可能性がある反例を提示し、適応的ランダムスキャンギブスサンプラー（メトロポリス内ギブスステップを含む・含まない両方）が、十分な条件下でエルゴディックであり、目標分布に収束することを確立する。

ABSTRACT

We consider various versions of adaptive Gibbs and Metropolis within-Gibbs samplers, which update their selection probabilities (and perhaps also their proposal distributions) on the fly during a run, by learning as they go in an attempt to optimise the algorithm. We present a cautionary example of how even a simple-seeming adaptive Gibbs sampler may fail to converge. We then present various positive results guaranteeing convergence of adaptive Gibbs samplers under certain conditions.

研究の動機と目的

• 高次元ギブスサンプラーにおける座標選択確率が最適でないことが原因で混合が不十分になるという課題に対処すること。
• 実行中に選択確率を学習・更新する適応的アルゴリズムが、依然として目標分布に収束することを保証できるかどうかを調査すること。
• 特にエルゴディシティに関して、従来の理論的主張に存在する欠陥を特定・是正すること。
• 適応的ランダムスキャンギブスおよびメトロポリス内ギブスサンプラーがエルゴディックのままであることを保証する厳密な条件を確立すること。

提案手法

• 過去のシミュレーション出力をもとに座標選択確率を更新する適応的ランダムスキャンギブスサンプラー（AdapRSG）を提案する。
• 選択確率と提案分布の両方を適応する適応的ランダムスキャンメトロポリス内ギブスサンプラー（AdapRSMwG）を導入する。
• 選択重みと提案分布を同時に適応する適応的ランダムスキャン適応メトロポリス内ギブスサンプラー（AdapRSadapMwG）を分析し、実世界の統計的遺伝学の応用をモデル化する。
• 確率的カップリングと確率的順序付けの技術を用いて、適応的連鎖を基準の出生死滅過程と比較し、確率的優位性とエルゴディシティを確立する。
• 反例（例 3.1）を用いて、見かけ上うまく設計された適応的ギブスサンプラーでさえも収束しない可能性があることを示し、[24] による先行結果を無効にすることを示す。
• レムマ 8.4 を用いて、適応的連鎖と基準プロセスを繰り返しカップリングし、適応が制御されていない場合には適応的連鎖が一時的プロセスを確率的に優位にしないことを証明する。

実験結果

リサーチクエスチョン

• RQ1 シミュレーション中に選択確率を更新する適応的ギブスサンプラーは、依然として正しい目標分布に収束できるか？
• RQ2 適応的ランダムスキャンギブスサンプラーのエルゴディシティを保証するのに必要な十分な条件は何か？
• RQ3 なぜギブスサンプラーにおけるナーヴィな適応が非エルゴディックな振る舞いを引き起こすのか、そしてその失敗を形式的にどのように診断できるか？
• RQ4 メトロポリス内ギブスサンプラーにおいて、適応的選択確率と提案分布はどのように相互作用するのか？どのような条件下でエルゴディシティが保たれるのか？

主な発見

• 見かけ上妥当な適応ルールを採用する適応的ギブスサンプラーでも収束しない反例が構築され、単純な適応スキームであってもエルゴディシティが保証されないことが示された。
• この論文は、減衰する適応と適切な探索が保証される限り、適応的ランダムスキャンギブスサンプラー（AdapRSG）がエルゴディックであることを証明した。
• 適応が減衰する適応を満たし、提案分布が適切にチューニングされている限り、適応的ランダムスキャンメトロポリス内ギブスサンプラー（AdapRSMwG）がエルゴディックであることが示された。
• 減衰する適応と有界な提案分散を満たす限り、適応的ランダムスキャン適応メトロポリス内ギブスサンプラー（AdapRSadapMwG）がエルゴディックであることが証明された。
• 反例により、[24] の先行結果の失敗が形式的に確立され、彼らの主要定理が誤りであることが示された。
• カップリングによる確率的優位性の議論が、非マルコフ連鎖に対しても適応的 MCMC サンプラーのエルゴディシティを証明するのに使用可能であることが分析で確認された。