[論文レビュー] A multivariate generalization of Hoeffding's inequality

Péter Major|ArXiv.org|Nov 12, 2004

Point processes and geometric inequalities参考文献 8被引用数 9

ひとこと要約

本稿では、ラデマッハ確率変数の同次多項式に対するホーフディングの不等式の多次元一般化を確立し、このような多項式の裾確率が、偏差の $k$ 乗根に関してガウス分布のように減少することを証明している。予備乗数は $k$ のみに依存する。主な結果は、$\mathbb{E}[Z^{2M}] \leq 1\cdot3\cdot5\cdots(2kM-1)\cdot V^{2M}$ を示すモーメント不等式であり、これは裾の境界を示し、$n$ が十分に大きい極限において鋭い。

ABSTRACT

We prove a multivariate version of Hoeffding's inequality about the distribution of homogeneous polynomials of Rademacher functions. The proof is based on such an estimate about the moments of homogeneous polynomials of Rademacher functions which can be considered as an improvement of Borell's inequality in a most important special case.

研究の動機と目的

• $k \geq 2$ の場合のラデマッハ確率変数の同次多項式へのホーフディングの古典的不等式の拡張。
• ウィener–Itôホーチャー展開の漸近的挙動と一致するような、このような多項式の裾確率の境界の導出。
• 対称的かつ同次の状況におけるボレルの不等式を改善する、ラデマッハホーチャーの鋭いモーメント不等式の確立。
• 図式的手法による、$U$-統計量および多重ストキャスティック積分における測度の集中の厳密な基礎の提供。

提案手法

• 対称係数と分散 $V^2 = \sum a^2(j_1,\dots,j_k)$ を持つ同次多項式 $Z = \sum_{\text{distinct } j_1,\dots,j_k} a(j_1,\dots,j_k) \varepsilon_{j_1} \cdots \varepsilon_{j_k}$ を定義。
• 図式展開を用いて、$\mathbb{E}[Z^{2M}] \leq 1\cdot3\cdot5\cdots(2kM-1) \cdot V^{2M}$ を証明。
• 独立同一分布の標準正規変数 $\eta_j$ を持つ対称化されたガウス版 $\bar{Z}$ を導入し、補題1を用いて $\mathbb{E}[Z^{2M}] \leq \mathbb{E}[\bar{Z}^{2M}]$ を示す。
• ウィナー–イトウホーチャーの図式公式を用いて、$\mathbb{E}[Z^{2M}]$ を $2M$ 個のコピーのペアリング $\gamma \in \Gamma(k,\dots,k)$ における和として表現。
• このようなペアリングの数を $1\cdot3\cdot5\cdots(2kM-1)$ で上から抑え、これは $k$ 階のガウスホーチャーのモーメントと一致する。
• 尾部境界 $\mathbb{P}(|Z| > u) \leq A \exp\left\{ -\frac{1}{2} \left( \frac{u}{V} \right)^{2/k} \right\}$ を確立。ここで $A$ は $k$ のみに依存する。

実験結果

リサーチクエスチョン

• RQ1 ホーフディングの不等式は、$k \geq 2$ のラデマッハホーチャーの同次多項式に一般化可能か？
• RQ2 このようなホーチャーの鋭い尾部減少率は何か？ また、同じ次数のガウスホーチャーと比較するとどうなるか？
• RQ3 ラデマッハホーチャーに対して、$\mathbb{E}[Z^{2M}] \leq 1\cdot3\cdot5\cdots(2kM-1) \cdot V^{2M}$ というモーメント不等式は最適か？
• RQ4 この結果は、ラデマッハホーチャーの文脈においてボレルの不等式とどのように比較できるか？
• RQ5 正規化されたラデマッハホーチャーの漸近的分布が、尾部境界における指数の鋭さを正当化するために利用可能か？

主な発見

• 同次ラデマッハホーチャーの尾部確率は、すべての $u \geq 0$ に対して $\mathbb{P}(|Z| > u) \leq A \exp\left\{ -\frac{1}{2} \left( \frac{u}{V} \right)^{2/k} \right\}$ を満たし、$A > 0$ は $k$ のみに依存する。
• すべての $M \geq 1$ に対して、モーメント不等式 $\mathbb{E}[Z^{2M}] \leq 1\cdot3\cdot5\cdots(2kM-1) \cdot V^{2M}$ が成り立ち、特定の係数の選択において $n$ が十分に大きい極限で等号が成り立つ。
• 尾部境界における指数 $\left( \frac{u}{V} \right)^{2/k}$ は鋭い。これは、正規化されたホーチャーが $V \cdot H_k(\eta)$ に収束することにより示され、ここで $H_k$ は $k$ 階のエルミート多項式で $\eta \sim N(0,1)$ である。
• 係数 $a(j_1,\dots,j_k)$ に対する追加の仮定がなければ、より良い指数を得ることはできないという意味で、モーメント不等式は最適である。
• 証明は、モーメントの図式展開に依存しており、ペアリングの数 $|\Gamma(k,\dots,k)|$ が $1\cdot3\cdot5\cdots(2kM-1)$ で上から抑えられ、これは $k$ 階のガウスホーチャーのモーメントと一致する。
• 予備乗数 $A$ を取り除くと境界が失われるため、不等式は鋭い。指数は、極限的なウィナー–イトウホーチャーの漸近的尾部挙動と一致する。