[論文レビュー] Safe and adaptive importance sampling: a mixture approach

Bernard Delyon, François Portier|arXiv (Cornell University)|Mar 20, 2019

Bayesian Methods and Mixture Models参考文献 40被引用数 4

ひとこと要約

本稿では、過去の粒子のカーネル密度推定と重めの尾を持つ「安全」な密度を組み合わせることで、ロバストな探索を保証する非パrametricな適応型モンテカルロ手法、Safe Adaptive Importance Sampling (SAIS) を提案する。本手法は、方策がターゲット密度へ一様収束すること、および漸近的に最適な分散を有する中心極限定理を確立しており、真のターゲット密度を提案分布として使用するオラクル手順と同等の性能を達成する。

ABSTRACT

This paper investigates adaptive importance sampling algorithms for which the policy, the sequence of distributions used to generate the particles, is a mixture distribution between a flexible kernel density estimate (based on the previous particles), and a "safe" heavy-tailed density. When the share of samples generated according to the safe density goes to zero but not too quickly, two results are established: (i) uniform convergence rates are derived for the policy toward the target density; (ii) a central limit theorem is obtained for the resulting integral estimates. The fact that the asymptotic variance is the same as the variance of an "oracle" procedure with variance-optimal policy, illustrates the benefits of the approach. In addition, a subsampling step (among the particles) can be conducted before constructing the kernel estimate in order to decrease the computational effort without altering the performance of the method. The practical behavior of the algorithms is illustrated in a simulation study.

研究の動機と目的

• 希薄または不適切に配置された粒子による悪化を避ける、ロバストな適応型重要度サンプリング手法の開発。
• 非パrametricなカーネル推定に基づく方策の収束を、理論的に保証すること。
• 積分推定値の漸近的最適分散を達成し、真のターゲット密度を提案分布として使用するオラクル手順と同等の性能を実現すること。
• サブサンプリングの変種を用いることで計算コストを削減し、漸近的性能を損なわないこと。
• 従属的で重み付きのカーネル推定に対して、マルティンググール法と集中不等式を用いた理論的保証を提供すること。

提案手法

• 各反復における方策は、過去の重み付き粒子に基づくカーネル密度推定と、完全なサポートカバーを保証する重めの尾を持つ「安全」な密度の混合である。
• 混合重みは時間とともに0に減少し、適応性とロバスト性のバランスを取る。
• 適応的・逐次的サンプリング下での重み付きカーネル推定器に対する一様集中不等式を導出するために、修正版ベネットの不等式が用いられる。
• マルティンググール技法を適用して、得られる積分推定値の中心極限定理を確立する。
• 計算コストを削減するため、SIR（Importance Resampling を用いたサブサンプリング変種）が導入され、計算量は O(n²) から O(n^{1+δ} log n) に低下する。
• 理論的分析では、方策学習を関数近似問題として扱い、コンact集合上で一様に導かれる収束速度が得られる。

実験結果

リサーチクエスチョン

• RQ1 非パrametricな適応型重要度サンプリング手法は、ターゲット密度への方策の一様収束を達成できるか？
• RQ2 提案された混合方策は、漸近的に最適な分散を持つ積分推定値をもたらすか？
• RQ3 サブサンプリングを用いることで計算コストを削減できるか、かつ漸近的効率性は保持されるか？
• RQ4 逐次的モンテカルロ設定下での適応的で重み付きのカーネル密度推定器に対して、理論的保証をどのように確立できるか？
• RQ5 重めの尾を持つ「安全」な成分が、粒子の位置が悪い場合のロバスト性をどのように確保しているか？

主な発見

• 弱い正則性条件の下で、バンド幅と標本サイズに依存するレートで、方策はターゲット密度へ一様収束する。
• 積分推定値に対して中心極限定理が確立され、漸近的分散は真のターゲット密度を提案分布として使用するオラクル手順と同一である。
• 方策がデータから適応的に学習されても、最適方策と同等の分散効率性を達成する。
• サブサンプリング変種により、計算複雑度は O(n²) から O(n^{1+δ} log n) に低下するが、漸近的性能に影響を与えない（δ ∈ (0,1)）。
• 修正版ベネットの不等式とマルティンググール集中技法を用いて、従属的で重み付きの経験プロセスに対する理論的保証が導出された。
• 「安全」な密度は、粒子のクラスタリングが不適切な場合に低密度領域に閉じ込められるのを防ぎ、包括的な探索を保証する。