[论文解读] Dominating Points of Gaussian Extremes

Harsha Honnappa, Raghu Pasupathy+1 more|arXiv (Cornell University)|Oct 29, 2018

Probability and Risk Models参考文献 23被引用 3

一句话总结

本文建立了在 ℝᵈ 中闭凸集上，i.i.d. 零均值高斯随机向量分量最大值的受限大偏差原理（rLDP）。它识别出在集合 𝒞 的边界上存在唯一一个支配点 𝑥∗，该点最小化一个凸二次规划问题，尾部概率的衰减速率是 𝑥∗ 的简单二次函数，从而可通过重要性采样实现高效的罕见事件模拟。

ABSTRACT

We quantify the large deviations of Gaussian extreme value statistics on closed convex sets in d-dimensional Euclidean space. The asymptotics imply that the extreme value distribution exhibits a rate function that is a simple quadratic function of a unique "dominating point" located on the boundary of the convex set. Furthermore, the dominating point is identified as the optimizer of a certain convex quadratic programming problem, indicating a "collusion" between the dependence structure of the Gaussian random vectors and the geometry of the convex set in determining the asymptotics. We specialize our main result to polyhedral sets which appear frequently in other contexts involving logarithmic asymptotics. We also extend the main result to characterize the large deviations of Gaussian-mixture extreme value statistics on general convex sets. Our results have implications to contexts arising in rare-event probability estimation and stochastic optimization, since the nature of the dominating point and the rate function suggest importance sampling measures.

研究动机与目标

• 表征 i.i.d. 零均值高斯向量缩放后分量最大值落在典型凸集 𝒞 外的渐近衰减速率。
• 识别出支配点 𝑥∗，该点位于 𝒞 的边界上，且控制大偏差行为。
• 建立基于凸二次规划问题导出的二次率函数的受限大偏差原理（rLDP）。
• 将 rLDP 扩展至一般凸集上的高斯混合极值统计。
• 为罕见事件模拟和随机优化中设计高效重要性采样测度提供理论基础。

提出的方法

• 通过分析 𝔼[𝕀(𝐀ₙ⁻¹𝑀ₙ ∈ 𝒞)] 的对数渐近行为（𝑛 → ∞），推导出缩放最大值 𝐀ₙ⁻¹𝑀ₙ 的 rLDP。
• 将支配点 𝑥∗ 识别为涉及逆协方差矩阵和凸集 𝒞 几何结构的凸二次规划的最小化点。
• 运用最大项原理分析混合模型，聚焦尾部概率中的主导成分。
• 应用大偏差理论和高斯尾部概率的对数渐近行为，推导率函数。
• 通过利用各分量的 rLDP 并结合最大项原理，建立高斯混合极值的 rLDP。
• 引入速度函数 𝑣(‖𝐀ₙ‖) = ‖𝐀ₙ‖²，并证明归一化对数概率的极限收敛于 −𝐽(𝑥∗)，其中 𝐽(𝑥∗) 是支配点的二次函数。

实验结果

研究问题

• RQ1 i.i.d. 零均值高斯向量缩放后分量最大值落在具有非空内部的闭凸集 𝒞 中的概率，其渐近衰减速率是什么？
• RQ2 支配点 𝑥∗ 在 𝒞 的边界上，如何根据高斯向量的依赖结构和 𝒞 的几何形状进行刻画？
• RQ3 rLDP 能否扩展至一般凸集上的高斯混合极值统计？
• RQ4 支配点 𝑥∗ 如何指导高效重要性采样测度的设计，以用于罕见事件估计？
• RQ5 凸二次规划问题在确定高斯极值大偏差率函数中的作用是什么？

主要发现

• 𝔼[𝕀(𝐀ₙ⁻¹𝑀ₙ ∈ 𝒞)] 的渐近衰减速率由二次率函数 𝐽(𝑥∗) = ½⟨𝑥∗, 𝐀⁻¹Σ⁻¹𝐀𝑥∗⟩ 控制，其中 𝑥∗ 是 𝒞 边界上的唯一支配点。
• 支配点 𝑥∗ 是凸二次规划问题 min_{𝑥∈∂𝒞} ½⟨(𝑥−0), 𝐀⁻¹Σ⁻¹𝐀(𝑥−0)⟩ 的最小化点，反映了高斯依赖结构与凸集几何之间的相互作用。
• 对于多面体凸集，rLDP 退化为有限维优化问题，可显式计算率函数。
• 通过最大项原理推导出高斯混合极值的 rLDP，率函数为各分量中二次型 ⟨(𝑥−𝜇ⱼ), Σⱼ⁻¹(𝑥−𝜇ⱼ)⟩ 的下确界的最小值。
• 高斯混合情形的率函数为 𝐽(𝒞) = ½ − ½ ∧_{𝑗=1}^{𝐾} inf_{𝑥∈𝒞} ⟨(𝑥−𝜇ⱼ), 𝐀⁻¹Σⱼ⁻¹𝐀(𝑥−𝜇ⱼ)⟩，速度为 𝑣(𝑎) = 𝑎²。
• 结果为在罕见事件模拟中构建最优重要性采样测度提供了理论基础，其中 IS 分布的众数位于支配点 𝑥∗ 处。