[論文レビュー] Bernstein-like Concentration and Moment Inequalities for Polynomials of Independent Random Variables: Multilinear Case

Warren Schudy, Maxim Sviridenko|arXiv (Cornell University)|Sep 23, 2011

Polynomial and algebraic computation参考文献 21被引用数 6

ひとこと要約

本稿では、独立な確率変数の多重線形多項式に対して、ベルンシュタイン型の集中不等式を確立し、$\lambda$ が小さい場合の尾確率を $\exp\left(-\lambda^2 / (R^q \cdot \text{Var}(f))\right)$ の形で評価する。ここで $R$ は絶対定数である。この結果は指数部の定数を除いてガウス分布の挙動と一致し、ガウス分布、ブール型、指数分布、ポアソン分布など、さまざまな分布に適用可能であり、分散の代わりにより自然でないパラメータを用いた先行研究の結果を改善する。

ABSTRACT

We show that the probability that a multilinear polynomial $f$ of independent random variables exceeds its mean by $λ$ is at most $e^{-λ^2 / (R^q Var(f))}$ for sufficiently small $λ$, where $R$ is an absolute constant. This matches (up to constants in the exponent) what one would expect from the central limit theorem. Our methods handle a variety of types of random variables including Gaussian, Boolean, exponential, and Poisson. Previous work by Kim-Vu and Schudy-Sviridenko gave bounds of the same form that involved less natural parameters in place of the variance.

研究の動機と目的

• 独立な確率変数の多重線形多項式に対する集中不等式を、確率変数の和に対するベルンシュタイン不等式に類似した形で開発すること。
• 中心極限定理が予測する挙動に一致する尾部境界を提供すること、特に小さな逸脱に対して。
• ガウス分布、ブール型、指数分布、ポアソン分布を含む広範な分布クラスを統一的な枠組みで取り扱うこと。
• 分散の代わりに解釈が難しいパラメータを用いた先行研究の結果を改善し、より明確な分散に基づく定式化を提供すること。

提案手法

• 著者らは、対数凹型分布の性質と条件付き期待値を用いて、多重線形多項式のモーメント母関数を分析する。
• 対数凹性を活用して尾部挙動を制御する、中央モーメントに対する再帰的バウンディング技法を適用する。
• チェビシェフの和公式および対数凹型確率変数の生存関数のバウンディングを用いて、重要な不等式を導出する。
• 多項式を条件付き成分に分解し、再帰的不等式を用いてモーメントをバウンディングする手法を採用する。
• 生存確率と確率質量関数を用いて、対数凹型整数値確率変数 $X$ に対して $\mathbb{E}[|X - a|^k]$ をバウンディングする。
• 条件付き期待値と対数凹型分布の構造を用いて、中心モーメントの有界性条件を確立する。

実験結果

リサーチクエスチョン

• RQ1 分散を自然なスケーリングパラメータとして用いることで、独立な確率変数の多重線形多項式に対してベルンシュタイン型不等式を導出可能か？
• RQ2 このような多項式の尾部挙動は、特に小さな逸脱に対してガウス分布とどのように比較できるか？
• RQ3 この境界をガウス分布、ブール型、指数分布、ポアソン分布を含むさまざまな分布タイプにわたって一様に適用可能か？
• RQ4 対数凹性は、これらの多項式におけるタイトなモーメントバウンディングを可能にする役割を果たすか？
• RQ5 非分散パラメータを用いた先行研究の結果と比較して、新しい境界は定量的にどのように優れているか？

主な発見

• 本稿では、十分に小さな $\lambda$ に対して、$\Pr[|f - \mathbb{E}[f]| \geq \lambda] \leq 2\exp\left(-\lambda^2 / (R^q \cdot \text{Var}(f))\right)$ の形の尾部境界を確立する。ここで $R$ は絶対定数である。
• この境界は、中心極限定理が予測するガウス分布の尾部減衰率と、指数部の定数を除いて一致する。
• この結果は、ガウス分布、ブール型、指数分布、ポアソン分布の確率変数を含む広範な分布クラスにわたって一様に成立する。
• 先行研究が分散 $\text{Var}(f)$ の代わりに解釈が難しいパラメータを用いたのに対し、本手法はより明確な分散に基づく定式化を提供する。
• 著者らは、$\Pr[X = \mathbb{E}[X]] < 1$ を満たす対数凹型整数値確率変数について、パラメータ $L = 1 + \max(\mathbb{E}[|X - \mathbb{E}[X]| \mid X \geq \mathbb{E}[X]], \mathbb{E}[|X - \mathbb{E}[X]| \mid X < \mathbb{E}[X]])$ を用いた中心モーメントの有界性を証明する。
• 再帰的モーメントバウンディングを条件付き期待値と対数凹型列の性質を用いて行い、高次モーメントに対するタイトな制御を達成する。