[논문 리뷰] Dominating Points of Gaussian Extremes

Harsha Honnappa, Raghu Pasupathy외 1명|arXiv (Cornell University)|2018. 10. 29.

Probability and Risk Models참고 문헌 23인용 수 3

한 줄 요약

이 논문은 ℝᵈ 내 폐포된 볼록집합 𝒞에서 i.i.d. 원점 평균을 가진 가우시안 랜덤 벡터의 성분별 최댓값에 대해 제한된 대 deviations 원리(rLDP)를 수립한다. 이 원리에서는 집합 𝒞의 경계상에 존재하는 유일한 지배점 𝑥∗를 특정하며, 이는 볼록 평균 제곱 프로그래밍 문제를 최소화하는 점으로서, 꼬리 확률의 감쇠 속도가 𝑥∗에 대한 단순한 이차 함수로 표현되며, 이는 중요도 표본 추출을 통한 희귀사건 시뮬레이션을 효율적으로 가능하게 한다.

ABSTRACT

We quantify the large deviations of Gaussian extreme value statistics on closed convex sets in d-dimensional Euclidean space. The asymptotics imply that the extreme value distribution exhibits a rate function that is a simple quadratic function of a unique "dominating point" located on the boundary of the convex set. Furthermore, the dominating point is identified as the optimizer of a certain convex quadratic programming problem, indicating a "collusion" between the dependence structure of the Gaussian random vectors and the geometry of the convex set in determining the asymptotics. We specialize our main result to polyhedral sets which appear frequently in other contexts involving logarithmic asymptotics. We also extend the main result to characterize the large deviations of Gaussian-mixture extreme value statistics on general convex sets. Our results have implications to contexts arising in rare-event probability estimation and stochastic optimization, since the nature of the dominating point and the rate function suggest importance sampling measures.

연구 동기 및 목표

• i.i.d. 원점 평균을 가진 가우시안 벡터의 스케일링된 성분별 최댓값이 특이한 볼록집합 𝒞에 속할 확률의 渐진 감쇠 속도를 특성화하는 것.
• 대 deviations 행동을 지배하는 유일한 지배점 𝑥∗를 𝒞의 경계상에서 특정하는 것.
• 볼록 평균 제곱 프로그래밍 문제로부터 유도된 이차 속도 함수를 갖는 제한된 대 deviations 원리(rLDP)를 수립하는 것.
• 일반적인 볼록집합에서 가우시안 혼합 극값 통계에 대해 rLDP를 확장하는 것.
• 희귀사건 시뮬레이션 및 확률적 최적화에서 효율적인 중요도 표본 추출 측도 설계를 위한 기초를 마련하는 것.

제안 방법

• 𝑛 → ∞ 일 때 𝔼[𝕀(𝐀ₙ⁻¹𝑀ₙ ∈ 𝒞)]의 로그 점근적 성질을 분석하여 스케일링된 최댓값 𝐀ₙ⁻¹𝑀ₙ에 대한 rLDP를 유도한다.
• 지배점 𝑥∗를 역 공분산 행렬과 볼록집합 𝒞의 기하학적 구조를 포함하는 볼록 평균 제곱 프로그래밍의 최소화자로 특정한다.
• 혼합 모델을 분석할 때 가장 큰 항의 원리를 적용하여 꼬리 확률에서 지배적인 성분에 집중한다.
• 대 deviations 이론과 가우시안 꼬리 확률의 로그 점근적 성질을 활용하여 속도 함수를 유도한다.
• 개별 성분에 대한 rLDP를 활용하고 가장 큰 항의 원리를 통해 혼합 모델에 대한 rLDP를 수립한다.
• 속도 함수 𝑣(‖𝐀ₙ‖) = ‖𝐀ₙ‖² 를 도입하고, 정규화된 로그 확률의 극한이 −𝐽(𝑥∗)로 수렴함을 보여, 여기서 𝐽(𝑥∗)는 지배점 𝑥∗에 대한 이차 함수이다.

실험 결과

연구 질문

• RQ1 i.i.d. 원점 평균을 가진 가우시안 벡터의 스케일링된 성분별 최댓값이 내부가 비어 있지 않은 폐포된 볼록집합 𝒞에 속할 확률의 渐진 감쇠 속도는 무엇인가?
• RQ2 가우시안 벡터의 의존성 구조와 𝒞의 기하학적 구조에 따라 𝒞의 경계상에 존재하는 지배점 𝑥∗는 어떻게 특성화되는가?
• RQ3 일반적인 볼록집합에서 가우시안 혼합 극값 통계에 대해 rLDP를 확장할 수 있는가?
• RQ4 지배점 𝑥∗는 희귀사건 추정을 위한 효율적인 중요도 표본 추출 측도 설계에 어떻게 기여하는가?
• RQ5 볼록 평균 제곱 프로그래밍 문제가 가우시안 극값의 대 deviations에 대한 속도 함수 결정에 어떤 역할을 하는가?

주요 결과

• 𝔼[𝕀(𝐀ₙ⁻¹𝑀ₙ ∈ 𝒞)]의 渐진 감쇠 속도는 이차 속도 함수 𝐽(𝑥∗) = ½⟨𝑥∗, 𝐀⁻¹Σ⁻¹𝐀𝑥∗⟩에 의해 지배되며, 여기서 𝑥∗는 𝒞의 경계상에 존재하는 유일한 지배점이다.
• 지배점 𝑥∗는 볼록 평균 제곱 프로그래밍 문제 min_{𝑥∈∂𝒞} ½⟨(𝑥−0), 𝐀⁻¹Σ⁻¹𝐀(𝑥−0)⟩의 최소화자로서, 가우시안 의존성과 볼록집합 기하학의 상호작용을 반영한다.
• 다각형 볼록집합의 경우 rLDP는 유한 차원 최적화 문제로 축소되어 속도 함수의 명시적 계산이 가능하다.
• 혼합 모델에 대한 rLDP는 가장 큰 항의 원리를 통해 유도되며, 속도 함수는 각 성분의 이차 형식 ⟨(𝑥−𝜇ⱼ), Σⱼ⁻¹(𝑥−𝜇ⱼ)⟩의 하한값 중 최소값이 된다.
• 가우시안 혼합 사례의 속도 함수는 𝐽(𝒞) = ½ − ½ ∧_{𝑗=1}^{𝐾} inf_{𝑥∈𝒞} ⟨(𝑥−𝜇ⱼ), 𝐀⁻¹Σⱼ⁻¹𝐀(𝑥−𝜇ⱼ)⟩ 로 주어지며, 속도 함수는 𝑣(𝑎) = 𝑎² 이다.
• 결과들은 희귀사건 시뮬레이션에서 최적의 중요도 표본 추출 측도를 구성하기 위한 이론적 기초를 제공하며, 여기서 중요도 표본 추출 분포의 모드는 지배점 𝑥∗에 중심을 두고 있다.