[论文解读] A small deviation inequality for convex functions

Grigoris Paouris, Petros Valettas|arXiv (Cornell University)|Nov 6, 2016

Point processes and geometric inequalities参考文献 12被引用 4

一句话总结

本文为高斯向量的凸函数建立了小偏差不等式，表明当 $ t > 1 $ 时，凸函数偏离其均值超过 $ t\sqrt{\text{Var}}f(Z) $ 的概率以 $ t^2 $ 的指数形式衰减。该结果为高斯过程提供了与方差相关的极小球概率，为高斯向量的凸泛函提供了更精细的集中不等式。

ABSTRACT

Let $Z$ be an $n$-dimensional Gaussian vector and let $f: \mathbb R^n o \mathbb R$ be a convex function. We show that: $$\mathbb P \left( f(Z) \leq \mathbb E f(Z) -t\sqrt{ { m Var} f(Z)} ight) \leq \exp(-ct^2),$$ for all $t>1$, where $c>0$ is an absolute constant. As an application we derive variance-sensitive small ball probabilities for Gaussian processes.

研究动机与目标

• 推导高斯向量凸函数的尖锐极小偏差不等式。
• 量化高斯过程凸泛函在均值以下的尾部行为，同时考虑方差因素。
• 建立对函数方差显式依赖的集中不等式。
• 将结果应用于推导高斯过程的改进极小球概率。

提出的方法

• 利用高斯集中性与凸性性质，对 $ f(Z) $ 的下尾进行有界，其中 $ Z $ 为 $ n $ 维高斯向量。
• 应用一种偏差不等式框架，将偏差按标准差 $ \sqrt{\text{Var}}f(Z) $ 进行缩放。
• 推导出 $ t > 1 $ 时的指数上界 $ \exp(-ct^2) $，其中 $ c > 0 $ 为绝对常数。
• 利用 $ f $ 的凸性，通过对称化与比较技术控制下尾行为。
• 为所有 $ t > 1 $ 建立不等式，确保在中等偏差区域具有非平凡界。

实验结果

研究问题

• RQ1 高斯向量的凸函数在下尾如何围绕其均值集中？
• RQ2 能否以函数的方差表示其在均值以下的偏差概率？
• RQ3 高斯向量凸泛函的下尾最优衰减速率是什么？
• RQ4 此类界如何用于推导高斯过程的极小球概率？

主要发现

• 对于所有 $ t > 1 $，$ f(Z) $ 偏离其均值超过 $ t\sqrt{\text{Var}}f(Z) $ 的概率至多为 $ \exp(-ct^2) $，其中 $ c > 0 $ 为绝对常数。
• 该界具有方差敏感性，明确地将偏差按 $ f(Z) $ 的标准差进行缩放。
• 该结果对任意凸函数 $ f: \mathbb{R}^n \to \mathbb{R} $ 成立，无论其是否具有光滑性或可微性。
• 指数衰减率 $ \exp(-ct^2) $ 在 $ t > 1 $ 范围内一致，为中等偏差范围提供了非平凡的尾部控制。
• 该不等式通过量化小波动的可能性，使高斯过程的极小球概率估计得到改进。