[論文レビュー] An estimate on the maximum of a nice class of stochastic integrals

Péter Major|ArXiv.org|Oct 20, 2003

Advanced Harmonic Analysis Research参考文献 5被引用数 7

ひとこと要約

本稿は、正規化された経験測度に関する複数のストキャスティック積分の上界に対して鋭い指数的尾部バウンドを確立する。$L_2$-稠密な有界関数のクラスとバプニク・チェルヴォネンキー スタイルの複雑さ制御を用いて、$P(\sup_{f\in\mathcal{F}}|J_{n,k}(f)| > x) \leq CD \exp\left\{-\alpha (x/\sigma)^{2/k}\right\}$ の形の高確率的上界を導出する。これは、わずかな複雑さの制約のもとで、上界が単一の積分とほぼ同様に振る舞うことを示している。

ABSTRACT

Let a sequence of iid. random variables $ξ_1,...,ξ_n$ be given on a space $(X,\cal X)$ with distribution $μ$ together with a nice class $\cal F$ of functions $f(x_1,...,x_k)$ of $k$ variables on the product space $(X^k,{\cal X}^k)$. For all $f\in\cal F$ we consider the random integral $J_{n,k}(f)$ of the function $f$ with respect to the $k$-fold product of the normalized signed measure $\sqrt n(μ_n-μ)$, where $μ_n$ denotes the empirical measure defined by the random variables $ξ_1,...,ξ_n$ and investigate the probabilities $P(\sup_{f\in {\cal F}}|J_{n,k}(f)|>x)$ for all $x>0$. We show that for nice classes of functions, for instance if $\cal F$ is a Vapnik-Cervonenkis class, an almost as good bound can be given for these probabilities as in the case when only the random integral of one function is considered.

研究の動機と目的

• 関数のクラス上の複数のストキャスティック積分の上界に対する高確率的上界を導出すること。
• 依存構造を持つ高次U統計量への経験過程の集中不等式を拡張すること。
• $L_2$-密度およびバプニク・チェルヴォネンキー スタイルの条件による関数クラスの複雑さを制御すること。
• $P(\sup_{f\in\mathcal{F}}|J_{n,k}(f)| > x)$ の尾部確率に対するバウンドを確立し、これは単一関数の場合にほぼ一致すること。
• 測度論的病理を避けるために、非可算関数クラスをカバーするための可算支配可能性の概念を導入すること。

提案手法

• 正規化された経験測度 $\sqrt{n}(\mu_n - \mu)$ に関する $k$ 重の多重ストキャスティック積分 $J_{n,k}(f)$ を定義し、プライム記号を用いて対角項を除く。
• すべての確率測度に対して、サイズ $\leq D\varepsilon^{-L}$ の $\varepsilon$-ネットが存在するように、パrameter $D$ と $L$ を用いた $L_2$-稠密クラスの概念を用いる。
• すべての $f \in \mathcal{F}$ に対して $\|f\|_\infty \leq 1$ および $\|f\|_2 \leq \sigma$ を仮定し、関数の大きさと分散を制御する。
• ハイパーコントラクト型不等式を用いて、ハイパーコントラクト作用素 $\mathbb{T}_\gamma^n$ を介してラデマッハ・コーシーのモーメントを制御する。
• モーメント比較とマルコフの不等式を用いて、$x$, $\sigma$, $k$, $D$, $n$ の関数としての尾部バウンドを導出する。
• 可算支配可能性の概念を導入し、測度論的問題を避けるために、可算クラスから一般の関数クラスへの結果の拡張を可能にする。

実験結果

リサーチクエスチョン

• RQ1 複雑な関数クラス上での多重ストキャスティック積分の上界に対して鋭い尾部バウンドを確立できるか？
• RQ2 関数クラス $\mathcal{F}$ の複雑さが、$L_2$-密度で測定されるが、上界の尾部挙動にどのように影響するか？
• RQ3 関数クラス上の上界を考慮する際、単一積分の集中バウンドがどの程度回復できるか？
• RQ4 関数クラス $\mathcal{F}$ にどのような条件を課すと、上界が尾部減衰の観点で単一積分と同様に振る舞うようになるか？
• RQ5 適切な位相的または測度論的置換を用いて、結果を可算クラスを超えて拡張できるか？

主な発見

• すべての $x$ に対して $n\sigma^2 \geq (x/\sigma)^{2/k} \geq M(L+\beta+1)^{3/2}\log(2/\sigma)$ を満たす場合、$P(\sup_{f\in\mathcal{F}}|J_{n,k}(f)| > x) \leq CD \exp\left\{-\alpha (x/\sigma)^{2/k}\right\}$ のバウンドを確立した。
• このバウンドは、$k$ のみに依存する定数を除き、単一関数の場合と一致しており、複雑なクラス上の上界が尾部挙動を著しく悪化させないことを示している。
• 指数部の $2/k$ の指数は、積分の $k$ 重構造に自然に由来し、モーメント比較の観点から最適である。
• パrameter $D$ は関数クラスの複雑さを制御し、バウンドは $D$ を乗法的要因として含むことにより、クラスのエントロピーを反映している。
• $D \leq n^\beta$ を満たす $L_2$-稠密クラスに対して結果が成り立ち、$n$ に対して多項式的成長する複雑さを許容する。
• 可算支配可能性の概念により、非可算クラスへの主結果の拡張が可能となり、ややいなごましい位相的条件のもとで尾部バウンドが保持される。