[논문 리뷰] Minimization of a Class of Rare Event Probabilities and Buffer Probabilities of Exceedance

Amarjit Budhiraja, Shu Lü외 2명|arXiv (Cornell University)|2019. 02. 21.

Risk and Portfolio Optimization참고 문헌 23인용 수 3

한 줄 요약

이 논문은 i.i.d. 입력을 갖는 확률적 시스템에서 희귀사건 확률과 버퍼링된 초과 확률을 최소화하기 위한 渐近적으로 효율적인 중요도 샘플링 기법을 개발한다. 대규모 편차 이론을 활용하고 이사크스 방정식을 풀어, 고차원 환경에서 작은 확률을 정확하게 추정할 수 있는 구현 가능한 샘플링 측도를 구축한다. 응용 분야로는 희귀사건 최소화를 위한 볼록 최적화 기반 접근법이 포함된다.

ABSTRACT

We consider the problem of choosing design parameters to minimize the probability of an undesired rare event that is described through the average of $n$ iid random variables. Since the probability of interest for near optimal design parameters is very small, one needs to develop suitable accelerated Monte-Carlo methods for estimating the objective function of interest. One of the challenges in the study is that simulating from exponential twists of the laws of the summands may be computationally demanding since these transformed laws may be non-standard and intractable. We consider a setting where the summands are given as a nonlinear functional of random variables that are more tractable for importance sampling in that the exponential twists of their distributions take a simpler form (than that for the original summands). We also study the closely related problem of estimating buffered probability of exceedance and provide the first rigorous results that relate the asymptotics of buffered probability and that of the ordinary probability under a large deviation scaling. The analogous minimization problem for buffered probability, under conditions, can be formulated as a convex optimization problem which makes it more tractable than the original optimization problem. We show that, under conditions, changes of measures that are asymptotically efficient (under the large deviation scaling) for estimating ordinary probability are also asymptotically efficient for estimating the buffered probability of exceedance. We embed the constructed importance sampling scheme in suitable gradient descent/ascent algorithms for solving the optimization problems of interest. Implementation of schemes for some examples is illustrated through computational experiments.

연구 동기 및 목표

• i.i.i.d. 랜덤 변수의 평균으로 모델링된 시스템에서 희귀사건 발생 확률을 최소화하는 것, 특히 표준 몬테카를로 추정이 어려울 정도로 매우 작은 확률인 경우를 대상으로 한다.
• 희귀사건 시뮬레이션의 계산적 과제를 해결하기 위해, 대규모 편차 스케일링 하에서 渐近적으로 효율적인 중요도 샘플링 기법을 구축하는 것.
• 표준 꼬리 확률의 대안으로 더 강건한 버퍼링된 초과 확률로의 프레임워크 확장을 다루고, 이 최소화 문제가 볼록 최적화 문제로 재구성될 수 있음을 보여주는 것.
• 구축된 중요도 샘플링 추정기를 기반으로 경사하강법 알고리즘에 통합하여, 결과적인 확률적 최적화 문제를 해결하는 것.
• 표준 및 버퍼링된 초과 확률에 대한 중요도 샘플링의 渐近적 효율성에 대한 엄밀한 이론적 보장을 제공하는 것.

제안 방법

• 희귀사건 추정을 위한 최적의 측도 변화를 도출하기 위해 대규모 편차 이론을 활용하며, 기본 합성항의 지수적 기울임을 중심으로 한다.
• 기본 합성항을 더 다룰 수 있는 랜덤 변수의 비선형 함수로 모델링하여 문제를 변형함으로써, 변환된 변수에 대한 간단한 지수적 기울임을 가능하게 한다.
• Dupuis와 Wang(2004,2007)에서 유도된 관련 이사크스 방정식을 해결하여 渐近적으로 효율적인 중요도 샘플링 측도를 생성하는 하위해를 구축한다.
• 대상 함수 추정을 위해 중요도 샘플링 추정기를 적용하며, 추정기의 분산은 대규모 편차 경계를 통해 제어된다.
• 시간에 따라 변화하는 제어를 이사크스 방정식의 해로부터 유도한 결정론적 궤적을 따라 경로 기반으로 측도 변화를 구성한다.
• 희귀사건 설정 하에서도 수렴 보장이 가능한 경사하강/상승 알고리즘에 중요도 샘플링 추정기를 통합하여 최소화 문제를 해결한다.

실험 결과

연구 질문

• RQ1 기본 합성항이 i.i.d. 랜덤 변수의 비선형 함수인 경우, 희귀사건 확률 추정을 위한 渐近적으로 효율적인 중요도 샘플링 기법을 어떻게 구성할 수 있는가?
• RQ2 대규모 편차 스케일링 하에서 버퍼링된 초과 확률의 渐近적 성질과 표준 희귀사건 확률 간의 관계는 어떠한가?
• RQ3 버퍼링된 초과 확률 최소화 문제를 볼록 최적화 문제로 재구성할 수 있으며, 만약 가능하다면 이는 표준 희귀사건 최소화에 비해 어떤 방식으로 계산의 용이성을 향상시키는가?
• RQ4 표준 희귀사건 추정에 대해 渐近적으로 효율적인 중요도 샘플링 기법이 버퍼링된 초과 확률 추정에도 효율적인가?
• RQ5 구축된 중요도 샘플링 기법을 희귀사건 최소화를 위한 확률적 최적화 알고리즘에 효과적으로 통합하는 방법은 무엇인가?

주요 결과

• 제안된 중요도 샘플링 기법은 이사크스 방정식의 해를 통해 증명된 대로, 대규모 편차 스케일링 하에서 희귀사건 확률 추정에 대해 渐近적으로 효율적이다.
• 버퍼링된 초과 확률가 표준 확률과 동일한 대규모 편차 渐近적 성질을 가지며, 이는 두 개념 간의 엄밀한 이론적 연결을 확립한다.
• 적절한 조건 하에서 버퍼링된 초과 확률 최소화 문제는 볼록 최적화 문제로 재구성될 수 있으며, 이는 계산의 용이성을 크게 향상시킨다.
• 표준 희귀사건 추정에 대해 渐近적으로 효율적인 중요도 샘플링 기법은 미약한 정규성 조건 하에서 버퍼링된 초과 확률 추정에도 역시 渐近적으로 효율적임을 보였다.
• 목적 함수에 대한 중요도 샘플링 추정기의 분산은 지수적으로 감소하며, 감쇠율은 최적 제어 문제 해의 값에 의해 아래에서 제한된다.
• 계산 실험을 통해 제안된 방법이 실제 환경에서 효과적임을 입증하였으며, 경사하강법과 결합했을 때 안정적인 수렴을 보였다.