[論文レビュー] An Adaptive Interacting Wang-Landau Algorithm for Automatic Density Exploration

Luke Bornn, Pierre Jacob+2 more|arXiv (Cornell University)|Sep 17, 2011

Markov Chains and Monte Carlo Methods参考文献 57被引用数 29

ひとこと要約

本稿では、複雑なベイジアンモデルにおける自動的・適応的な密度探索のための並列的適応型 Wang-Landau (PAWL) アルゴリズムを提案する。相互に作用する複数の並列チェインと、適応的ビニングおよび提案メカニズムを組み合わせることで、多モード性、高次元性、相関性が強い分布において、モード間の飛び移りと収束性が向上し、変数選択、混合モデル、イジングモデルなどの複雑な事後分布の探索において、標準的 MCMC を上回る性能を発揮する。

ABSTRACT

While statisticians are well-accustomed to performing exploratory analysis in the modeling stage of an analysis, the notion of conducting preliminary general-purpose exploratory analysis in the Monte Carlo stage (or more generally, the model-fitting stage) of an analysis is an area which we feel deserves much further attention. Towards this aim, this paper proposes a general-purpose algorithm for automatic density exploration. The proposed exploration algorithm combines and expands upon components from various adaptive Markov chain Monte Carlo methods, with the Wang-Landau algorithm at its heart. Additionally, the algorithm is run on interacting parallel chains -- a feature which both decreases computational cost as well as stabilizes the algorithm, improving its ability to explore the density. Performance is studied in several applications. Through a Bayesian variable selection example, the authors demonstrate the convergence gains obtained with interacting chains. The ability of the algorithm's adaptive proposal to induce mode-jumping is illustrated through a trimodal density and a Bayesian mixture modeling application. Lastly, through a 2D Ising model, the authors demonstrate the ability of the algorithm to overcome the high correlations encountered in spatial models.

研究の動機と目的

• 複雑で多モード的、または高次元的な事後分布からのサンプリングにおいて、標準的 MCMC 手法が不十分な探索を示すという課題に対処すること。
• 提案分布とビニング戦略のチューニングに人為的介入を最小限に抑える、汎用的で自動的なアルゴリズムの開発。
• 空間的イジングモデルのような高相関構造を有するモデルにおいて、収束性と混合性の向上。標準的 MCMC では遠く離れたモードを探索できないが、PAWL はそれを克服する。
• カスタムチューニングされた MCMC 手法を適用する前段階で、研究者に統合的かつブラックボックス型のツールを提供すること。
• 相互作用するチェインを活用した並列計算により、密度探索における収束の安定性と高速化を実現すること。

提案手法

• コアとなるアルゴリズムは、経験的密度推定に基づいて状態空間を動的ビニングで分割する適応的 Wang-Landau 法。
• 過去のサンプルからリアルタイムで提案分布を学習することで、遠く離れたモードの探索を向上させ、ランダムウォーク行動を低減。
• 複数の並列チェインが密度推定とビニング構造の情報を共有することで、探索性が向上し、アルゴリズムの安定性が向上。
• 収束を保証するため、密度推定とバイアス補正の更新に確率的近似スキームを採用。
• バーニングフェーズを経てアルゴリズムをキャリブレーションし、その後インポートランスサンプリングを用いて最終的な事後推定値を生成。
• 研究者による即時利用を可能にするために、R パッケージ（"PAWL"）として実装。

実験結果

リサーチクエスチョン

• RQ1 完全に適応的かつ並列的な MCMC アルゴリズムは、提案分布やビニングスキームの手動チューニングなしに、多モード的事後分布を効果的に探索できるか？
• RQ2 並列チェイン間の相互作用は、単一チェインの Wang-Landau 法と比較して、密度探索における収束速度と安定性をどのように向上させるか？
• RQ3 ベイジアン混合モデルのような挑戦的な事後幾何構造において、PAWL の適応的提案メカニズムはどの程度モードジャンプを誘発できるか？
• RQ4 標準的 MCMC がすべてのモードを探索できない空間的モデル、例えば 2D イジングモデルにおいて、PAWL は高い相関構造を克服できるか？
• RQ5 さまざまなモデルにおいて、PAWL の計算コストは、時間的経過と収束品質の観点から、標準的メトロポリス・ハスティングス法と比べてどの程度か？

主な発見

• ベイジアン変数選択の文脈では、PAWL の相互作用するチェインが単一チェインよりも著しく収束性を向上させ、事後の探索がより高速かつ信頼性高く実現された。
• ベイジアン混合モデルでは、PAWL の適応的提案メカニズムが効果的にモードジャンプを誘発し、標準的 MCMC が到達できない混合成分すべてを探索可能となった。
• 2D イジングモデルでは、PAWL が高い空間的相関性を克服し、標準的メトロポリス・ハスティングスが到達できなかったトップ左隅および中央のアイスフロート領域のモードをすべて探索した。
• PAWL はメトロポリス・ハスティングスに比べて 1 イタレーションあたり 23% 長時間（478±24s 対 388±21s）を要したが、そのコストははるかに優れた探索性と収束性によって正当化された。
• 10 個の PAWL チェインの平均状態は、トップ左モードの探索と中央アイスフロート間のブリッジの形成を示しており、効果的な多モードサンプリングが実現されたことを確認した。
• 著者らは、トライモーダルな玩具例を通じてアルゴリズムのロバストネスを検証し、付録で理論的収束の remarks を提供した。