[論文レビュー] Minimization of a Class of Rare Event Probabilities and Buffer Probabilities of Exceedance

Amarjit Budhiraja, Shu Lü+2 more|arXiv (Cornell University)|Feb 21, 2019

Risk and Portfolio Optimization参考文献 23被引用数 3

ひとこと要約

本稿は、同分布の入力を有する確率的システムにおける稀な事象確率およびバッファ付き超過確率を最小化するための漸近的に効率的な重要度サンプリングスキームを開発する。大偏差理論を活用し、 Isaacs方程式を解くことで、高次元設定下でも小さな確率を正確に推定可能な取り扱いやすいサンプリング測度を構築する。応用としては、凸最適化に基づく稀な事象の最小化に向けたものである。

ABSTRACT

We consider the problem of choosing design parameters to minimize the probability of an undesired rare event that is described through the average of $n$ iid random variables. Since the probability of interest for near optimal design parameters is very small, one needs to develop suitable accelerated Monte-Carlo methods for estimating the objective function of interest. One of the challenges in the study is that simulating from exponential twists of the laws of the summands may be computationally demanding since these transformed laws may be non-standard and intractable. We consider a setting where the summands are given as a nonlinear functional of random variables that are more tractable for importance sampling in that the exponential twists of their distributions take a simpler form (than that for the original summands). We also study the closely related problem of estimating buffered probability of exceedance and provide the first rigorous results that relate the asymptotics of buffered probability and that of the ordinary probability under a large deviation scaling. The analogous minimization problem for buffered probability, under conditions, can be formulated as a convex optimization problem which makes it more tractable than the original optimization problem. We show that, under conditions, changes of measures that are asymptotically efficient (under the large deviation scaling) for estimating ordinary probability are also asymptotically efficient for estimating the buffered probability of exceedance. We embed the constructed importance sampling scheme in suitable gradient descent/ascent algorithms for solving the optimization problems of interest. Implementation of schemes for some examples is illustrated through computational experiments.

研究の動機と目的

• 同分布の確率変数の平均で表されるシステムにおける稀な事象の確率を最小化すること。特に、標準的なモンテカルロ推定が不十分となるほど確率が小さい場合を想定する。
• 大偏差スケーリング下での漸近的効率性を満たす重要度サンプリングスキームを構築することで、稀な事象のシミュレーションにおける計算的課題を克服すること。
• 標準的尾部確率の代替としてのロバストなバッファ付き超過確率への拡張を図り、その最小化が凸最適化問題として定式化可能であることを示すこと。
• 得られた確率的最適化問題を解くために、構築した重要度サンプリング推定量を勾配降下法に統合すること。
• 標準的およびバッファ付き超過確率の両方について、重要度サンプリングの漸近的効率性に関する厳密な理論的保証を提供すること。

提案手法

• 大偏差理論を用いて、稀な事象推定のための最適な測度変更を同定し、特に被加数の指数的ねじれに注目する。
• 被加数をより取り扱いやすい確率変数の非線形関数としてモデル化することで、元の問題を変換し、変換された変数に対する単純な指数的ねじれを可能にする。
• DupuisとWang (2004,2007) が導出した関連する Isaacs 方程式を解き、漸近的に効率的な重要度サンプリング測度を生み出す下界解（subsolutions）を構築する。
• 大偏差バウンドを用いて、重要度サンプリング推定量の分散を制御しながら、確率的最適化における目的関数の推定にその推定量を適用する。
• 決定的軌道に沿ったパスワイズな測度変更の構成を実施し、Isaacs 方程式の解から得られる時変制御を用いる。
• 勾配降下／上昇法に重要度サンプリング推定量を統合し、稀な事象の設定下でも収束を保証する最小化問題の解法を実現する。

実験結果

リサーチクエスチョン

• RQ1 同分布の確率変数の非線形関数として表される被加数を持つシステムにおいて、大偏差スケーリング下で漸近的に効率的な重要度サンプリングスキームを構築する方法は何か？
• RQ2 大偏差スケーリング下で、バッファ付き超過確率の漸近的性質と標準的稀な事象確率との関係は何か？
• RQ3 バッファ付き超過確率の最小化は、適切な条件下で凸最適化問題として定式化可能か？ もしそうならば、標準的稀な事象最小化と比較して、その取り扱いやすさはどのように向上するか？
• RQ4 標準的稀な事象推定に漸近的に効率的な重要度サンプリングスキームは、バッファ付き超過確率推定に対しても同様に効率的か？
• RQ5 構築された重要度サンプリングスキームを、稀な事象最小化のための確率的最適化アルゴリズムに効果的に統合する方法は何か？

主な発見

• 提案された重要度サンプリングスキームは、Isaacs 方程式の解を用いて証明されたように、大偏差スケーリング下で稀な事象確率推定に対して漸近的に効率的である。
• バッファ付き超過確率が標準的確率と同一の大偏差漸近的性質を持つことが示され、両者の間の厳密な理論的関連性が確立された。
• 適切な条件下では、バッファ付き超過確率の最小化を凸最適化問題として定式化可能であり、計算上の取り扱いやすさが著しく向上することが示された。
• 標準的稀な事象推定に漸近的に効率的な重要度サンプリングスキームは、ややきつい正則性条件の下で、バッファ付き超過確率推定に対しても漸近的に効率的であることが示された。
• 目的関数の重要度サンプリング推定量の分散は指数関数的に減少し、その減少率は最適制御問題の解の値によって下界から制御される。
• 計算実験により、勾配降下法と組み合わせた場合に、実用的設定でも安定した収束を示すことが確認された。