[論文レビュー] Importance Sampling for rare events and conditioned random walks

Michel Broniatowski, Ya’acov Ritov|ArXiv.org|Oct 9, 2009

Probability and Risk Models参考文献 16被引用数 7

ひとこと要約

本稿では、条件付きランダムウォークの密度を活用することで、i.i.d. 和項における中程度の偏差確率を効率的に推定するための新規手法、適応的ねじれ重要度抽出法（ATIS）を提案する。この手法は、最終和に条件付けられた路徑分布の近似により、標準的手法に比べて顕著に分散を低減するため、漸近的効率性を達成する。

ABSTRACT

This paper introduces a new Importance Sampling scheme, called Adaptive Twisted Importance Sampling, which is adequate for the improved estimation of rare event probabilities in he range of moderate deviations pertaining to the empirical mean of real i.i.d. summands. It is based on a sharp approximation of the density of long runs extracted from a random walk conditioned on its end value.

研究の動機と目的

• i.i.d. 和項における中程度の偏差領域における稀イベント確率の推定を改善すること。
• 固定サンプルサイズ設定における漸近的近似の限界を解消すること。
• ターゲット確率に関する事前知識が不要な、実用的で漸近的効率的な重要度抽出スキームを構築すること。
• 最終和に条件付けられたランダムウォークの路徑行動を、高精度な密度近似を用いてモデル化すること。

提案手法

• 最終和に条件付けられた路徑分布の近似により、稀イベントに一致するように、元のランダムウォークのドリフトをずらすねじれパラメータを用いる、適応的ねじれ重要度抽出法（ATIS）を提案する。
• 大偏差理論とラプラス法近似を用いて、最終和に条件付けられた部分路徑の密度を導出する。
• 最初のkステップで観測された経験的和に基づいて、ねじれパラメータを適応的に調整するチューニング機構を採用する。
• 変則測度技術を用いてIS密度gを定義し、尤度比が良好に定義されかつ計算可能であることを保証する。
• 累積母関数を用いて、最終和に条件付けられた最適なねじれパラメータを導出するための条件付けの議論を適用する。
• シミュレーションと漸近的解析により、IS推定量が真の確率に最小限の分散で収束することを検証する。

実験結果

リサーチクエスチョン

• RQ1 ターゲット確率に関する事前知識がなくても、i.i.d. 和項における中程度の偏差確率を効率的に推定できる実用的手法を設計できるか？
• RQ2 条件付けられたランダムウォークの路徑分布を高精度に近似することで、重要度抽出密度の選定を効果的に導けるか？
• RQ3 中程度の偏差領域において、分散を最小化する最適なねじれパラメータは何か？
• RQ4 提案されたATISスキームは、稀イベント確率推定において漸近的効率性を達成するか？
• RQ5 有限サンプル設定において、ATISの性能は標準的ISおよび漸近的近似と比べてどのように異なるか？

主な発見

• ATISスキームは漸近的効率性を達成しており、サンプルサイズが増加するにつれてIS推定量の相対誤差が0に収束する。
• 部分路徑の条件付き密度の高精度な近似が可能であり、正確な路徑サンプリングを可能にする。
• シミュレーション結果から、ATISは標準的ISおよび漸近的近似を顕著に上回り、特に中程度の偏差領域で顕著な優位性を示す。
• 漸近的展開が失敗する中程度のサンプルサイズでも、稀イベントの確率は高い精度で推定可能である。
• 正規分布や指数分布を含む多様な分布に対して安定した性能を示し、広範な適用可能性を示す。
• 正則性条件のもとで、IS推定量の収束が保証され、IS測度下での条件付け集合の確率が1に近づく。