[論文レビュー] Consistent Adaptive Multiple Importance Sampling and Controlled Diffusions

Sep Thijssen, Hilbert J. Kappen|arXiv (Cornell University)|Mar 21, 2018

Bayesian Methods and Mixture Models参考文献 15被引用数 3

ひとこと要約

本稿では、拡散過程のサンプリングに向け、新しい破棄・再重み付け方針を用いた計算的に効率的で一貫性のある適応的多重重要度サンプリング（AMIS）手法を提案する。再重み付けの計算複雑度を O(K²M) から O(KM) に削減することで、制限なしに一貫性を達成し、数値実験においてバランスヒューリスティックと同等の精度を維持しながら計算効率が優れている。

ABSTRACT

Recent progress has been made with Adaptive Multiple Importance Sampling (AMIS) methods that show improvement in effective sample size. However, consistency for the AMIS estimator has only been established in very restricted cases. Furthermore, the high computational complexity of the re-weighting in AMIS (called balance heuristic) makes it expensive for applications involving diffusion processes. In this work we consider sequential and adaptive importance sampling that is particularly suitable for diffusion processes. We propose a new discarding-re-weighting scheme that is of lower computational complexity, and we prove that the resulting AMIS is consistent. Using numerical experiments, we demonstrate that discarding-re-weighting performs very similar to the balance heuristic, but at a fraction of the computational cost.

研究の動機と目的

• 適応的多重重要度サンプリング（AMIS）における再重み付けの高コスト問題、特に拡散過程に対して解決を図ること。
• 従来の制限付き状況に依存しない一般条件のもとでAMISの一貫性を確立すること。
• 推定器の精度を維持しながら計算複雑度を顕著に低減する再重み付け方針を開発すること。
• 改良されたAMISを用いて、経路積分制御および確率的制御問題における効率的な逐次的サンプリングを可能にすること。

提案手法

• バランスヒューリスティックの O(K²M) と比較して O(KM) の複雑度で重要度重みを計算する新しい破棄・再重み付け方針を提案する。
• 以前の反復からのフィードバックを用いて提案分布を段階的に更新する逐次的AMISフレームワークを導入する。
• 経路積分制御を用いて、制御されたスデ（SDE）から提案測度を構築し、制御を u(t,x) = A g(t,x) とパラメータ化する。
• Euler-Maruyama法または高次のスキームを用いて、制御されたSDEからサンプル経路をシミュレートする。
• 重要度サンプリングから得られる重みを用いて、経路寄与の重み付き和を用いて最適制御パラメータ A_k を段階的に推定する。
• 反復間のサンプルからAMIS推定器を用いて A_k を計算し、やや厳しい正則性条件のもとで一貫性を保証する。

実験結果

リサーチクエスチョン

• RQ1 AMISにおける再重み付け方針を設計可能か。その際、推定器の一貫性を維持するとともに計算複雑度を低減できるか。
• RQ2 破棄・再重み付けは、拡散過程においてバランスヒューリスティックと同等の分散および精度を達成できるか。
• RQ3 提案手法は、拡散を含む確率的制御問題における逐次的サンプリングに効果的に適用可能か。
• RQ4 新規方針の計算複雑度は何か。また、提案数およびサンプル数の増加に伴いどのようにスケーリングされるか。

主な発見

• 破棄・再重み付け方針は O(KM) の計算複雑度を達成し、バランスヒューリスティックの O(K²M) に比べ顕著な改善を示す。
• 提案された破棄-AMIS推定器は、提案分布に関する制限付き仮定を必要とせず、一般条件のもとで一貫性が保証される。
• 数値実験では、破棄・再重み付けがバランスヒューリスティックと推定器の精度および有効サンプルサイズにおいてほぼ同一の性能を示す。
• 本手法により、経路積分制御における効率的な逐次的サンプリングが可能となり、反復間でフィードバック制御 A_k を段階的に計算できる。
• 破棄・再重み付けを用いる場合、計算量は O(MK) にスケーリングされるのに対し、バランスヒューリスティックでは O(MK²) となるため、大規模問題に対しても実用的である。