[论文解读] Bernstein-like Concentration and Moment Inequalities for Polynomials of Independent Random Variables: Multilinear Case

Warren Schudy, Maxim Sviridenko|arXiv (Cornell University)|Sep 23, 2011

Polynomial and algebraic computation参考文献 21被引用 6

一句话总结

本文为独立随机变量的多重线性多项式建立了类似伯恩斯坦的集中不等式，推导出小 $\lambda$ 时形式为 $\exp\left(-\lambda^2 / (R^q \cdot \text{Var}(f))\right)$ 的尾部界，其中 $R$ 为绝对常数。该结果在指数部分的常数范围内与高斯分布行为一致，适用于高斯、布尔、指数和泊松等多种分布，优于以往使用不自然参数代替方差的界限。

ABSTRACT

We show that the probability that a multilinear polynomial $f$ of independent random variables exceeds its mean by $λ$ is at most $e^{-λ^2 / (R^q Var(f))}$ for sufficiently small $λ$, where $R$ is an absolute constant. This matches (up to constants in the exponent) what one would expect from the central limit theorem. Our methods handle a variety of types of random variables including Gaussian, Boolean, exponential, and Poisson. Previous work by Kim-Vu and Schudy-Sviridenko gave bounds of the same form that involved less natural parameters in place of the variance.

研究动机与目标

• 为独立随机变量的多重线性多项式开发一个类似于随机变量和的伯恩斯坦不等式的集中不等式。
• 提供一个与中心极限定理预测一致的尾部界，尤其针对小偏差情形。
• 在统一框架下处理广泛分布类，包括高斯、布尔、指数和泊松分布。
• 改进以往使用不直观参数代替方差的界限，提供更清晰的基于方差的公式化表达。

提出的方法

• 作者利用对数凹分布的性质和条件期望，分析多重线性多项式的矩生成函数。
• 通过利用对数凹性控制尾部分布，对中心矩应用递归有界技术。
• 利用切比雪夫求和不等式和对数凹随机变量生存函数的界，推导出关键不等式。
• 该方法涉及将多项式分解为条件分量，并通过递归不等式有界矩。
• 证明依赖于利用生存概率和概率质量函数，对对数凹整数值随机变量的 $\mathbb{E}[|X - a|^k]$ 进行有界。
• 通过条件期望和对数凹分布的结构，建立中心矩有界性条件。

实验结果

研究问题

• RQ1 能否为独立随机变量的多重线性多项式推导出类似伯恩斯坦的不等式，且以方差作为自然缩放参数？
• RQ2 此类多项式的尾部分布行为与高斯分布相比如何，特别是在小偏差情形下？
• RQ3 该界能否在不同类型的分布（包括高斯、布尔、指数和泊松）之间保持统一？
• RQ4 对数凹性在实现这些多项式紧致矩有界性中起到什么作用？
• RQ5 与以往使用非方差参数的成果相比，新界限在数量上表现如何？

主要发现

• 本文建立了形式为 $\Pr[|f - \mathbb{E}[f]| \geq \lambda] \leq 2\exp\left(-\lambda^2 / (R^q \cdot \text{Var}(f))\right)$ 的尾部界，其中 $\lambda$ 足够小时成立，$R$ 为绝对常数。
• 该界在指数部分常数范围内与高斯尾部分布衰减速率一致，符合中心极限定理的预测。
• 该结果在包括高斯、布尔、指数和泊松随机变量在内的广泛分布类中保持统一成立。
• 与以往工作相比，该方法提供了更清晰的基于方差的公式化表达，而非依赖于不自然的参数代替 $\text{Var}(f)$。
• 作者证明了满足 $\Pr[X = \mathbb{E}[X]] < 1$ 的对数凹整数值随机变量，其中心矩有界性参数为 $L = 1 + \max(\mathbb{E}[|X - \mathbb{E}[X]| \mid X \geq \mathbb{E}[X]], \mathbb{E}[|X - \mathbb{E}[X]| \mid X < \mathbb{E}[X]])$。
• 分析通过条件期望和对数凹序列的性质，利用递归矩有界技术，对高阶矩实现了紧密控制。