[論文レビュー] Consistency of the Adaptive Multiple Importance Sampling

Jean‐Michel Marin, Pierre Pudlo+1 more|arXiv (Cornell University)|Nov 12, 2012

Bayesian Methods and Mixture Models参考文献 15被引用数 26

ひとこと要約

本稿は、学習プロセスにわずかな修正を加えた場合に、適応的多重重要度サンプリング（AMIS）アルゴリズムの理論的整合性を確立し、推定量のほとんど確実収束を証明している。著者らは、反復毎のサンプルサイズを増加させ、適切に重み付けすることで、AMISが真のターゲット分布に収束することを示しており、適応的モンテカルロ法における主要な未解決問題を解決している。

ABSTRACT

Among Monte Carlo techniques, the importance sampling requires fine tuning of a proposal distribution, which is now fluently resolved through iterative schemes. The Adaptive Multiple Importance Sampling (AMIS) of Cornuet et al. (2012) provides a significant improvement in stability and effective sample size due to the introduction of a recycling procedure. However, the consistency of the AMIS estimator remains largely open. In this work we prove the convergence of the AMIS, at a cost of a slight modification in the learning process. Contrary to Douc et al. (2007a), results are obtained here in the asymptotic regime where the number of iterations is going to infinity while the number of drawings per iteration is a fixed, but growing sequence of integers. Hence some of the results shed new light on adaptive population Monte Carlo algorithms in that last regime.

研究の動機と目的

• 実用的 succès が裏付けられているものの、未だ証明がなされていなかった適応的多重重要度サンプリング（AMIS）アルゴリズムの理論的整合性を確立すること。
• 過去のサンプルを再利用することによる長記憶的依存性とバイアスのある重みが原因で、AMISに収束保証が欠けている問題を解決すること。
• 反復回数が無限大に近づき、かつ反復毎のサンプルサイズが増加する漸近的状況において、AMISに厳密な漸近的妥当性を与えること。
• 推定量が真のターゲット分布にほとんど確実に収束することを保証するように、学習手順を変更すること。
• 反復毎のサンプルサイズが増加する漸近的状況において、適応的ポピュレーション・モンテカルロ法の理論的理解を拡張すること。

提案手法

• 反復 $ t+1 $ におけるパrameterの更新を、過去のすべてのサンプルではなく、最新のサンプル $ X^t_1, \ldots, X^t_{N_t} $ のみに依存させる、修正されたAMISアルゴリズムを提案する。
• 三角行列フレームワークを用いて、粒子の重み付き和を分析し、反復の系列を非i.i.d.なサンプリング過程とみなす。
• 重み付き粒子のタイトネス条件と条件付き独立性を満たす三角行列に対する強大数法則を適用する。
• 過去の反復全体における提案密度の重み付き和を用いて、過去の粒子寄与を正規化する修正された重要度重み式を採用する。
• $ N_t $ の増加率に制約を課し、$ \sum_t 1/N_t < \infty $ を要求することで、チェビシェフの不等式による分散制御を確保する。
• 提案分布下での比 $ \pi(x)\|h(x)\| / q(x,\theta) $ の2次のモーメントが有限であるという仮定に依存し、収束を制御する。

実験結果

リサーチクエスチョン

• RQ1 修正された学習ルールのもとで、適応的多重重要度サンプリング（AMIS）アルゴリズムは、真のターゲット分布にほとんど確実に収束するか？
• RQ2 反復回数が増加し、かつ反復毎のサンプルサイズが増加する漸近的状況において、AMISの理論的一貫性を確立できるか？
• RQ3 AMIS推定量の収束を保証するために、サンプルサイズ $ N_t $ の増加率に必要な条件は何か？
• RQ4 過去のサンプルの再利用は、AMIS推定量のバイアスおよび収束特性にどのように影響するか？
• RQ5 三角行列の理論フレームワークを用いて、従属サンプルを伴う適応的モンテカルロ法の収束を証明できるか？

主な発見

• 修正されたAMISアルゴリズムは、やや弱い正則性条件のもとで、推定量が真のターゲット分布にほとんど確実に収束することを達成する。
• 証明は、モーメントが制御された条件付き独立な確率ベクトルの三角行列に対する強大数法則に依存する。
• $ \sum_t 1/N_t < \infty $ という条件は、収束を保証するのに十分であるが、実用的には制限的である可能性がある。
• 著者らは、正則性およびモーメント条件を満たす広範な被積分関数のクラスに対して、修正されたAMIS推定量が一貫していることを示している。
• 理論的結果により、反復毎のサンプルサイズが増加する漸近的状況における、適応的ポピュレーション・モンテカルロ法の収束挙動について、新たな知見が得られた。
• 本稿は、過去のサンプルの再利用によって生じる長記憶的依存性が、学習プロセスをわずかに修正すれば、収束を妨げないことを確立している。