[论文解读] Detailed proof of Nazarov's inequality

Victor Chernozhukov, Denis Chetverikov+1 more|arXiv (Cornell University)|Nov 29, 2017

Machine Learning and Algorithms参考文献 3被引用 21

一句话总结

本文提供了Nazarov不等式的详细证明，建立了高斯向量在小扰动下概率增量的精确上界。结果表明，对于p维标准高斯向量在平移后的超平面下的尾部概率差异，其上界为δ(√(2 log p) + 2)，该结果基于几何概率与凸多面体各面的曲面积分方法推导得出。

ABSTRACT

The purpose of this note is to provide a detailed proof of Nazarov's inequality stated in Lemma A.1 in Chernozhukov, Chetverikov, and Kato (2017, Annals of Probability).

研究动机与目标

• 为Chernozhukov等人（2017）论文中引理A.1所陈述的Nazarov不等式提供完整且严谨的证明。
• 在阈值向量发生小扰动时，建立多变量高斯尾部概率敏感度的统一上界。
• 分析均值为零、方差有界的高斯向量的增量概率P(Y ≤ y + δ) − P(Y ≤ y)的行为。
• 通过凸多面体集K(δ)\K的几何分解方法，对概率增量进行分解。
• 推导出p个均值为零的高斯线性形式最大值的累积分布函数右导数的紧致上界。

提出的方法

• 将概率增量表示为累积分布函数G(t) = P(max_j(a_j’X − b_j) ≤ t)的右导数G’(t)的积分形式。
• 将问题简化为通过分析极限lim_{δ↓0} P(X ∈ K(δ)\K)/δ来界定t = 0处的右导数。
• 将集合差K(δ)\K分解为与凸多面体K的各面F相关的区域N_F(δ)。
• 在每个面F上使用正交坐标系及外法向量v，通过曲面积分参数化方法，将γ_p(N_F(δ))表示为F上的积分。
• 利用高斯密度φ_p(x) = (2π)^{-p/2} e^{-||x||^2/2}，推导出极限lim_{δ↓0} γ_p(N_F(δ))/δ = ∫_F φ_p(x) dσ(x)。
• 利用原点到面的距离dist(0,F)，并利用不等式∫_F φ_p(x) dσ(x) ≤ (dist(0,F) + 1) γ_p(N_F)对曲面积分进行上界控制。

实验结果

研究问题

• RQ1 对于均值为零、边际方差有界的高斯向量，概率增量P(Y ≤ y + δ) − P(Y ≤ y)的最紧致上界是什么？
• RQ2 多变量高斯尾部概率的敏感度如何随维度p和扰动大小δ变化？
• RQ3 p个高斯线性形式最大值的累积分布函数的右导数能否被统一有界？
• RQ4 距离原点较远的面（满足dist(0,F) > √(2 log p)）对总概率增量的贡献是多少？
• RQ5 如何通过凸多面体各面的几何分解方法，在高维高斯概率中导出精确上界？

主要发现

• 对于任意δ > 0，概率增量P(X ∈ K(δ)\K)的上界为δ(√(2 log p) + 2)，从而证明了Nazarov不等式。
• 累积分布函数G(t)在t = 0处的右导数满足G’_+(0) ≤ √(2 log p) + 2，且该上界对所有超平面构型均一致成立。
• 当dist(0,F) > √(2 log p)时，此类面的贡献至多为1，原因在于高斯密度的指数衰减特性。
• 当dist(0,F) ≤ √(2 log p)时，其贡献至多为√(2 log p) + 1，因为其曲面积分受(dist(0,F) + 1)倍于法锥高斯测度的限制。
• 所有面的总贡献被控制在(√(2 log p) + 1) + 1 = √(2 log p) + 2以内，从而完成证明。
• 该上界是紧致的，因为√(2 log p)的依赖关系自然源于高维空间中测度集中现象。